跳转至

PROMISE:生成推荐的过程奖励模型

Fidelity: 核心机制复现。本地代码执行论文最有辨识度、可由公开数据验证的机制;私有数据、生产模型与服务栈明确列为边界。

论文信息

项目 内容
论文链接 arXiv 2601.04674
公司/机构 Kuaishou Technology(按第一作者所属机构聚合)
首次公开日期 2026-01-08(arXiv v1)
原文开源代码 否:未找到原作者公开代码(核查日期:2026-09-05)
Adapter promise
本地复现代码 src/auto_research/reproductions/promise/

原始论文总结

背景与主要改动

轻量 path-level PRM 在每个 SID 层级评价中间路径,训练时提供稠密反馈、推理时提前剪除已发生语义漂移的 beam;因此增加 beam width 能形成可控的 test-time scaling。

flowchart LR
  A["公开行为与候选"] --> B["promise 核心机制"]
  B --> C["同预算方法输出"]
  A --> D["统一直接基线"]
  C --> E["全目录排序与结构诊断"]
  D --> E

原论文关键图

PROMISE:生成推荐的过程奖励模型 原论文 Figure 2

原论文 Figure 2(关键图):展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文,版权归原作者所有;点击图片可查看来源。

核心公式

\[ R(z_{1:L})=\sum_{l=1}^L r_\phi(z_{\le l},u),\qquad \mathcal B_l=\operatorname{TopK}_{z_{\le l}}\bigl(\log p_\theta+\lambda R\bigr). \]

论文离线与线上效果

  • 论文报告生产线上核心指标 +5%。
  • 上述数字只复述论文证据,不写入本地公开数据效果结论。

本地复现

本地对照口径:同一 MovieLens 全目录协议下,基线 NDCG@10 为 0.05401,实验组为 0.05929,相对变化 +9.79%。本地代理目标与论文生产任务不同,不能外推线上 lift。

三随机种子的完整结果、均值、标准差与 95% CI 见:

auto-research reproduce --paper promise --dataset-dir data --seeds 42,43,44

复现边界

本地使用 MovieLens 100K 的固定公开子集及可审计代理目标,只验证中心计算机制;不复现原论文的私有日志、生产基础模型、线上分桶和 serving 栈。因此本页不宣称复现原文绝对指标或线上增益。