跳转至

Absolute Zero:零人工数据的自生成课程

保真度:核心机制复现。本页不把确定性 mini-suite 冒充原论文完整 benchmark。

论文信息

字段 内容
论文链接 Absolute Zero:零人工数据的自生成课程(arXiv 2505.03335)
公司 / 机构 Tsinghua University / LeapLab
首次公开日期 2025-05-06(arXiv v1)
原作者代码 已开源
本地 adapter / 方法键 absolute-zero
本地复现代码 src/auto_research/post_training/

原始论文总结

背景与主要改动

proposer 自己生成可验证任务,solver 求解,程序 verifier 提供奖励;按当前能力边界组织课程。

flowchart LR
 A["公开输入 / 历史"] --> B["absolute-zero 训练 / 执行闭环"]
 B --> C["论文特有状态或目标"]
 C --> D["同预算评测"]

原论文关键图

Absolute Zero:零人工数据的自生成课程 原论文 Figure 4

原论文 Figure 4(关键图):展示原论文的训练流程与关键优化环节。图片来自原论文,版权归原作者所有;点击图片可查看来源。

核心公式

\[ x\sim\pi_P,\ y\sim\pi_S(\cdot|x),\ r=V(x,y),\quad\max_{P,S}\mathbb E[r+\lambda H_{curriculum}(x)]. \]

论文离线与线上效果

Absolute Zero Reasoner 在代码与数学推理上从零数据自举并超过多种人工数据 RLVR 基线。 论文未报告生产线上 A/B,本页不补造线上数字。

本地复现

Arithmetic candidate suite、120 steps、256 examples、seed 42:accuracy 0.2344 → 0.5938(+153.33%);奖励、KL、长度和候选预算一致。

auto-research post-train --algorithm absolute-zero --dataset arithmetic-smoke --maximum-examples 256 --steps 120 --seed 42
auto-research evolve --model post-training --dataset arithmetic-smoke --direction "组合 absolute-zero 与已安装论文算子" --generations 2 --population 4

固定指标见 ../../experiments/global-p0-20260808-seed42.json

复现边界

本地只验证论文特有目标、状态更新和公平预算;没有复刻原论文的大模型、多卡 RL、私有环境、真实网页或完整 benchmark,因而只报告机制验证,不声称数值复现原表。