跳转至

Read this page in English

10 月 17 日:十二个低成本组件与 Meta/AMD 系统资料

本批接受范围为下面十二项独立组件,合在一个 MR。所有完整论文实验均为“成本过高,不复现(审查 DONE)”;组件正确性诊断不等于论文能力、预训练收益、机器人成功率或生产吞吐复现。不下载大模型、不启动长 rollout、多模型/多数据集完整实验,不自动接入 Evolve。

完整范围与成本依据

领域 论文 / 组件键 本批实现范围 完整实验不复现依据
基础模型 DropKV / drop-kv attention 输出扰动评分、GQA 与 KV 选择 7B/8B、多模型、4K–128K、多 KV 预算全评测
基础模型 MirrorMoE / mirror-moe 镜像 expert 选择、正向概率聚合与退火 2–4 H100、4.4B–12.8B tokens、多模型预训练
基础模型 BitSparse / bit-sparse 激活 bitmask/value 无损保存、还原与反向 按原文 RTX3090 步时推算单臂约七小时;非 A100 实测
基础模型 LCT / lct BF16 指数有界 Huffman、sign/mantissa、overflow 与重建 按原文 RTX3090 步时推算单臂约 8.5 小时;不复现完整 fused optimizer/kernel 吞吐
基础模型 RoleQ / roleq 角色轴、精确三值拟合与 resident-bit accounting 原文 8B 配置 3–4 A100 小时,二平面阶段不足十小时
后训练 SRD / shared-residual-distillation peer/control residual、minmod target 与 clipped loss 1.7/4/8B、100 步、多冻结教师评分、20K/32K 长度
后训练 PRM4RL / progress-reward 进度状态机、势函数奖励与子任务表示接口 4 RTX3090、五种子,原文模拟训练每任务 1–10 小时;是 NeurIPS 2025 旧成果补发现
后训练 EliteReplay / elite-replay quality-diversity archive、替换/采样与 GRPO/replay 混合 4 A100-80GB、4B 全参、长 rollout 与每题128次评测
后训练 CleanRM / clean-rm joint OT 噪声率估计与 corrected loss 8–70B RM 两阶段、多训练臂及外部 judge
Agent Shortcut Sensitivity / shortcut-sensitivity 离线 LODO 与 interaction 加权审计 不重跑所有守卫/模型;诊断标签不得作为受评 Agent 的输入
Agent Disagreement Routing / disagreement-routing corrected disagreement、无 gold 目标与 validation 预算校准 8B、多样本、多模型 BFCL/WebShop 长 rollout
Agent TRACER / tracer 轨迹 trie、经验/语义先验与 learned blend 六环境×四模型×五折×多预算;原文未发布 artifacts
研究资料 Meta/AMD Hardware Diversity / hardware-diversity 论文元数据、方法、原图和生产训练证据收录;不提供算法入口 8–128 MI350X/B200、私有生产任务,现有 NVIDIA 单卡无法等价验证

成本依据来自原文配置,不是本轮运行时测量。BitSparse/LCT 的小时数仅为原文步时乘步数的估算。Meta/AMD 的生产训练证据不是用户线上 A/B;不按满足工业模型 A/B 门槛宣传。

验证合同

  • 公式与数据结构:独立 reference、边界/失败输入、有效负对照、梯度或逐 bit 重建检查;不得只检查输出 shape。
  • 评测隔离:训练/校准只读相应拆分;gold 只进入独立评分,不能被路由器或 Agent 读取。合成数据必须标机制 fixture,不能写成公共能力 benchmark。
  • CUDA:先冻结实现提交,再在一张 A100 或 A30 上运行有界诊断;回执绑定算法与 runner 的源码 SHA-256、seed、设备、命令及数据/初始化身份。未通过前不得宣称 GPU 验收完成。
  • 长期产物:每篇独立 metrics JSON,全部 diagnostic_only: true、promotion_eligible: false、evolve_integrated: false。完整实验不进入自动重试队列。

当前状态

十二项组件均已实现,Meta/AMD 另作研究资料收录,没有伪造算法或性能入口。

  • 九项 CUDA 组件:冻结源码提交 2b9c5f4dc5757c14692654f700d2c40d90ffbfa1 后,在一张 NVIDIA A100-SXM4-80GB 上以 42,43,44 三种子真实执行。基础模型组用时约 2.03 秒,后训练组约 2.18 秒;仅指有界算子/小网络诊断,不代表完整模型训练速度。每篇详情页都有独立 metrics 与源码绑定的 GPU 回执,运行命令与输入身份见回执。
  • 三项 CPU Agent 组件:同一冻结提交下,执行官方记录审计、独立训练探针或轨迹检索学习诊断。Shortcut 的官方记录只审计一次;三种子仅改变 grouped-CV 的拆分,不能冒充三次独立模型训练。Disagreement Routing 与 TRACER 的合成诊断不是 Agent benchmark 成绩。
  • 数值与失败边界:交叉审查后增加 BitSparse 非有限输入拒绝、RoleQ 极大/极小尺度支持集不变性,以及 EliteReplay 超出可表示范围的重要性比拒绝;随后重新冻结并重跑 A100。证据导入拒绝显式失败/部分完成记录,不以最后一次快照冒充成功。
  • 负结果保留:LCT 的全指数压力输入实际编码为 1979 bytes,超过 dense BF16 的 1024 bytes;小矩阵 RoleQ 把实际 scale 开销计入后约 7.48 bits/weight,不能声称达到理想 1.59 bits/weight。路由器仅用 validation 校准预算,测试实际调用率可漂移,不承诺硬配额。

公式、梯度、归档状态、噪声学习、逐 bit 往返、校准隔离和失败输入均有测试。未实现 native FP8/Triton fused kernel、完整 LLM/机器人训练、生产 serving 或原论文全 benchmark;这些不是待自动补跑的隐性任务。

源码边界清单本批只新增 EliteArchive.sample_balanced 的轮转游标递增:它决定按题均衡采样,不是训练步数或执行成功证据。Shortcut 的训练折标签只供明确标注的查表诊断,留出标签不进入预测函数;TRACER 的目标工具只进入训练和独立评分,检索入口不接受目标工具或 gold plan。

FDE-Gym、其他高成本候选不属于本轮十二项组件,不额外扩展范围。所有诊断结果均为 promotion_eligible: false,没有将其接入 Evolve 晋级。

本轮已删除约 350 MB 的临时站点构建、重复 PDF 与视觉检查拼图;保留独立 metrics、回执、原始运行结果,以及固定版本的小型公开审计缓存,便于后续复核,不清理无关工作区内容。

交付检查

最终本地全量 python -m pytest 为 3669 passed、1 skipped;compileall、Ruff、最小安装契约、源码边界清单、论文规格、发现记录对账、857 份 metrics 的 schema 幂等检查、平台完成审计、GPU 证据检查及 mkdocs build --strict 通过。manifest/catalog/看板和本批 ledger 生成器重跑无变化;CLI 导出仍为 410 个可执行论文 adapter,不把本批独立组件虚增为 adapter 数量。远端 CI 状态以 PR 检查为准。

日期与水位

本批主要来自 10-16 公告中的 10-15 首发补审;PRM4RL 是 2025 工作首次挂 arXiv,不称 2026 新研究。本批交付不是全源审查闭环,不因实现十二项就推进全域审查水位。