跳转至

RouteOPD:把教师概率质量显式路由给学生

复现级别:候选策略机制诊断。 执行 source-to-destination 概率质量运输,不声称复现大模型推理能力。

论文信息

字段 内容
论文链接 arXiv 2609.08337
公司/机构 Tencent(第一作者署名单位)
首次公开日期 2026-09-08(arXiv v1)
原文开源代码 否:未找到作者公开仓库(核查日期:2026-09-12)
Adapter / 方法 route-opd
本地复现代码 src/auto_research/post_training/latest_20260912.py

原始论文总结

背景与主要改动

普通 OPD 对整个教师分布做密集匹配。RouteOPD 先识别学生高估的 source token 和低估的 destination token,再只搬运需要修正的概率质量,使监督更聚焦且可解释。

flowchart LR
  T[教师分布] --> G[teacher-student gap]
  S[学生分布] --> G
  G --> A[source: 学生高估]
  G --> B[destination: 学生低估]
  A --> R[质量运输]
  B --> R --> U[更新学生]

原论文关键图

RouteOPD:把教师概率质量显式路由给学生 原论文 Figure 2

原论文 Figure 2(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。

核心机制

本地按 \(s_i=[p_S(i)-p_T(i)]_+\)\(d_j=[p_T(j)-p_S(j)]_+\) 构造供给与需求,在两者之间运输 \(\min(\sum_i s_i,\sum_j d_j)\) 的质量,并记录 transported_mass

本地复现与边界

三种子结果见 metrics/arithmetic-smoke-seeds42-44.json。未执行原论文全参数模型、真实 rollout 或公开推理 benchmark;结果只证明路由算子执行且数值有限。