Read this paper write-up in English
VAG:视觉归因门控的 on-policy 自蒸馏¶
仅资料收录,成本过高,不复现(审查 DONE)。 没有本地可执行 adapter、评测接口或机制验证;不接入 Evolve,不作为能力证据,不进入自动重试队列。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2610.26856;固定 v1 正文 |
| 公司 / 机构 | 一作 Shiao Xie:Baidu Inc.;Siyu Chen 为共同一作 |
| 首次公开日期 | 2026-10-19T17:59:56Z(arXiv v1,UTC) |
| 原作者代码 | 未找到原作者训练源码;已发布 VAG-Qwen3.5-4B 和 9B checkpoint,权重不等于开源训练代码 |
| 本地 adapter / 方法键 | visually-attributable-opd 为资料索引键,adapter: null,无本地可执行算子;与已有Agent论文的vag键区分 |
| 本地复现代码位置 | 无;仅本页面与 packaged catalog 元数据,没有伪造接口或指标 |
| 完整实验状态 | not_reproduced_high_cost;审查 DONE,不阻塞审查水位 |
原始论文总结¶
背景与主要改动¶
特权图像裁剪带来的 teacher 修正,可能混有语言先验或风格变化。VAG 让同一 EMA 教师对证据保留裁剪和随机遮挡裁剪重放相同学生前缀,只接纳与视觉对比方向一致的修正,再以有界项调制 verifier 的组归一化 advantage。纯文本教师或固定 logits 门控不能冒充该多模态链路。
flowchart LR
A[全图学生rollout] --> B[verifier组优势]
A --> C[EMA教师证据保留视图]
A --> D[同教师证据退化视图]
C --> E[视觉对比与教师修正]
D --> E
E --> F[同号门控与视觉敏感度]
F --> G[调制而不替代组优势]
B --> G
G --> H[clipped GRPO更新]
原论文关键图¶
Figure 3:verifier 锚点、同前缀双教师视图与同号门控的完整路径。图片来自原论文,版权归原作者所有;保留原图并已视觉检查。
核心公式¶
教师修正与视觉对比为 \(\delta_t=\log p_{T+}(y_t)-\log p_S(y_t)\)、\(v_t=\log p_{T+}(y_t)-\log p_{T-}(y_t)\)。只保留同号修正:
两教师分支为同一个 EMA 模型,只改变视觉输入;不是两套不相关教师。原 verifier advantage 保留为优化锚点,之后进入 clipped GRPO。以上为原文方法说明,未在本库执行。
论文离线与线上效果¶
作者在六套视觉推理基准比较 GRPO、OPSD 与 VAG,并报告 holdout 泛化。完整实验涉及图像视图、判分和 EMA 教师,不能由本地张量运算替代;本页不提供未经复现的本地效果数值。未报告生产线上 A/B。
本地复现¶
完整实验不复现,审查 DONE。 原文 §4.1:Qwen3.5-4B/9B 全参数训练一 epoch,batch 48,每题 \(G=8\) 条响应,最大 1,024 token,8×NVIDIA H800。需要训练数据的目标细节裁剪、EMA 双视图重放和六基准 judge 协议。单 A100/A30 或 Mac 不承担原矩阵,属于配置直接支持的高成本判断,无需下载权重或试跑。
本条只维护论文、作者权重和关键图来源,无运行入口、无 metrics、无 GPU 通过声明、无自动任务;仅在用户看到成本边界后明确要求重开,或出现新的可廉价核验方案时另议。
