Read this paper write-up in English
Hy-Memory:面向长期记忆写入的归因强化学习¶
仅研究资料;成本过高,不复现(审查 DONE)。 模型和框架入口不代表本库完成了30B记忆训练。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2610.22196;固定 v1 全文 |
| 公司 / 机构 | Tencent Hunyuan;一作 Tianxiang Fei |
| 首次公开日期 | 2026-10-15 16:46:47 UTC(arXiv v1;10-16 公告) |
| 原作者代码 | Hy-Memory 框架,Apache-2.0;checkpoint 入口。未确认完整训练材料均已公开;模型条款独立核验 |
| 本地 adapter / 稳定键 | hy-memory(资料键,无可执行 adapter) |
| 本地复现代码 | 无算法实现;仅本文及 catalog 元数据 |
| 验收状态 | 完整实验不复现 / 审查 DONE;无本地 GPU 通过回执 |
原始论文总结¶
背景与主要改动¶
先在学生自己写出的记忆状态上做 OPD,学习不同框架的写入协议;再冻结 reader 和 judge,单独优化 writer。逐块探针补足稀疏奖励,跨块事实归因定位贡献,存储增长惩罚防止“全部记住”。
架构与数据流¶
flowchart TD
B[父记忆库] --> W[隔离副本中的 writer rollout]
W --> M[各候选记忆库]
M --> R[冻结 reader 回答]
R --> J[冻结 judge / 事实归因]
J --> C[逐 chunk GRPO]
J --> S[选择候选最终记忆库]
S --> B
原论文关键图¶
原论文 Figure 1(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
原文§6使用当前块探针、归因 outcome 与增长惩罚:
\[
s_i[t]=\mathrm{prm}_i[t]+2\mathrm{orm}_i[t]-0.3\mathrm{pen}_i[t],\qquad
A_{i,t}=\frac{s_i[t]-\mu_t}{\sigma_t+\epsilon}.
\]
每个 rollout 对同一 chunk 只投一票;不能按多次模型调用重复计权。Gold只供 judge,不进入 writer、reader 或检索查询。
论文离线与线上效果¶
原文比较多个记忆框架,包括训练外 EverMemOS,但结果来自固定20% benchmark子集,不是全量评测。不能把 writer、reader 和 judge 同时替换后的变化归因于写入训练。
生产线上 A/B:未报告;开源模型和框架发布不是用户流量收益证据。
本地复现¶
只做资料收录。§7配置为30B-A3B、128 H20,每批64 windows×8 rollouts;不下载模型、不启动多框架 RL 或服务扫评。成本过高,不复现(审查 DONE)。
复现边界¶
无可执行 adapter、训练分数或 Evolve 晋级;不把其他记忆算子当成本论文复现。范围见本批验收合同。
