跳转至

DRACO:动态 Rubric 的长程 Agent 步骤信用分配

复现级别:核心机制 mini-suite。 实现动态 rubric、责任步骤归因和轨迹分数重分配。

论文信息

字段 内容
论文链接 arXiv 2609.04094
公司 / 机构 Carnegie Mellon University(第一作者第一署名单位;合作方 IBM Research)
首次公开日期 2026-09-03(arXiv v1)
原作者代码 是:IBM/draco
本地 adapter / 方法 draco
本地复现代码 src/auto_research/agent_research/latest_20260905.py

原始论文总结

背景与主要改动

长程 Agent 往往没有程序化 verifier,单一轨迹总分又无法告诉策略是哪一步有效。DRACO 随策略能力变化动态生成多维 rubric,只在轨迹结束时评分一次,再依据 rubric 的步骤标注闭式分配 advantage,不额外训练 attribution model。

flowchart LR
  T[任务 + 当前策略] --> R[动态 rubric]
  X[完整轨迹] --> J[一次轨迹评分]
  R --> J
  J --> A[责任步骤归因]
  A --> G[逐步 GRPO advantage]

原论文关键图

DRACO:动态 Rubric 的长程 Agent 步骤信用分配 原论文 Figure 1

原论文 Figure 1(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。

核心公式

若 rubric j 的轨迹分数为 \(r_j\)、责任步骤集合为 \(S_j\),本地保持论文的核心约束:\(A_t=\sum_{j:t\in S_j}w_{jt}r_j\),并对长度和 reward 尺度做归一化。

论文离线与线上效果

论文在 AppWorld 相对 base 提升 15.9 分,相对稀疏真实 reward GRPO 提升 5.3 分;Tau-Bench 域外也提升 5.3 分。

本地复现

统一 Agent mini-suite 的 seeds 42/43/44 产物记录动态 rubric 数、被归因步骤数、信用重分配次数以及成功/成本,见 metrics/mini-suite-seeds42-44.json

复现边界

本地使用确定性任务 fixture,不声称复刻 AppWorld/Tau-Bench 大模型训练或 frontier judge;没有 CUDA 广告路径。