Read this paper write-up in English
FlowMap-OPD: Rollout-Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators¶
复现级别:L1 核心机制诊断。 执行 rollout state detach 与 local kernel KL;未训练图像 flow-map generator。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2609.37851 |
| 公司/机构 | Georgia Institute of Technology(按第一作者署名单位) |
| 首次公开日期 | 2026-09-29(arXiv v1) |
| 原文开源代码 | 是:https://github.com/ZhiqiLi-CG/Flowmap_OPD_source |
| Adapter | flowmap-opd |
| 本地复现代码 | src/auto_research/post_training/latest_20261001.py |
原始论文总结¶
背景与主要改动¶
把生成状态的 rollout 分布与 teacher/student 比较 kernel 解耦:rollout 只负责提供具有正确边缘分布的状态,优化 kernel 在这些冻结状态上比较 flow map、诱导速度或瞬时速度。
flowchart LR
I[公开输入/当前状态] --> M[flowmap-opd 核心机制]
M --> A[可审计中间量]
A --> O[输出/更新状态]
原论文关键图¶
原论文 Figure 1(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
\(L(\theta)=\mathbb E_{z\sim\rho^\theta}[\ell(\theta,T;z)]\)。本地从计算图中 detach rollout state,仅让 local KL kernel 更新 student。
论文离线与线上效果¶
原文在 ImageNet 和多 specialist teacher consolidation 上验证 few-step student;本地只验证 rollout/kernel 梯度隔离。
本地复现¶
本地对照口径:基线为论文机制关闭或默认状态,实验组为开启对应核心算子;本批只验证不变量和状态转换,跨模型相对变化不适用。
三种子诊断见 metrics/mechanism-seeds42-44.json。diagnostic_only=true,只证明核心状态转换、梯度或调度不变量可执行,不能进入正式能力排名。
复现边界¶
执行 rollout state detach 与 local kernel KL;未训练图像 flow-map generator。
