跳转至

Clue-OPSD:长视频 clue 特权视图蒸馏

复现级别:核心机制 mini-suite。 真实执行论文特有的控制流/目标;未把确定性任务成功率当作论文 benchmark 复现。

论文信息

字段 内容
论文链接 arXiv 2608.25356
公司 / 机构 University of Maryland, College Park / Johns Hopkins University(第一作者第一署名单位)
首次公开日期 2026-08-26(arXiv v1)
原作者代码 否:未发现原作者公开代码(核查日期:2026-08-28)
本地 adapter / 方法 clue-opsd
本地复现代码 src/auto_research/post_training/latest_20260827.py

原始论文总结

背景与主要改动

学生仍看完整长视频,冻结教师在训练时只看问题相关 clue interval;学生自己的 rollout 上做 on-policy self-distillation,推理时不需要 clue、标签或外部教师。

flowchart LR
  I[任务与当前状态] --> M[privileged clue teacher / on-policy trajectory / full-context student]
  M --> O[策略动作或训练目标]
  O --> E[可审计指标与反馈]
  E --> M

原论文关键图

Clue-OPSD:长视频 clue 特权视图蒸馏 原论文 Figure 2

原论文 Figure 2(关键图):展示原论文的整体流程、关键阶段及其数据流向。图片来自原论文,版权归原作者所有;点击图片可查看来源。

核心公式

\[ \mathcal L_{OPSD}=\mathbb E_{y\sim\pi_\theta(\cdot|v,q)}\sum_t D_{KL}(\pi_T(\cdot|c,q,y_{<t})\Vert\pi_\theta(\cdot|v,q,y_{<t})). \]

论文离线与线上效果

Qwen3.5-2B 在 MLVU/LVBench/LongVideoBench/MMVU 分别提升 6.94/3.45/9.81/3.41 points。无工业线上 A/B。

本地复现

本地对照口径:arithmetic-smoke 100 steps,accuracy 0.1250 → 0.5938(+375.00%);clue 用 process-reward proxy 代替。

指标见 metrics/clue-opsd-arithmetic-smoke-seed42.json。 批次索引见 ../../experiments/latest-20260827-seed42.json

auto-research post-train --algorithm clue-opsd --dataset arithmetic-smoke --steps 100 --seed 42 --offline

复现边界

本地 mini-suite 用公开、确定性的候选/计划任务隔离机制差异;论文 checkpoint、私有训练数据、外部服务和完整 benchmark 均未声称已复刻。