Read this paper write-up in English
Test-Time Memory Construction¶
当前是 core_mechanism / L1 机制诊断接口;未声称完成原论文能力复测,未接入 Evolve 晋级。
论文信息¶
| 项目 | 内容 |
|---|---|
| 论文链接 | arXiv 2610.13348 |
| 公司/机构 | Northeastern University / Tsinghua University / Alibaba Group |
| 首次公开日期 | 2026-10-09(arXiv v1) |
| 原文开源代码 | 是:T2Mem |
| Adapter | t2mem |
| 本地复现代码 | src/auto_research/reproductions/t2mem/ |
原始论文总结¶
背景与主要改动¶
离线只提取事件级轻量 metadata 并保留原会话链接。推理时依据查询、已有 memory 与最新 observation 构造 memory cache,再自主选择 SearchMeta、ReadRaw 或 Answer;memory 与信息需求交错演化。 事实来源:原文全文。
架构流程¶
graph LR
A[原始会话] --> B[模型metadata与source link]
Q[当前query] --> C[初始metadata检索]
B --> C
C --> D[query条件memory cache]
D --> E[自主SearchMeta或ReadRaw]
E --> D
D --> F[Answer]
F --> G[隔离gold外部评分]
重绘源码:architecture.mmd。原论文 Figure 1 展示原文的整体机制;本地重绘没有替换原图作为证据。来源与核查边界见 source-provenance.json。
原论文关键图¶
原论文 Figure 1(关键图):展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
\((r_t,m_t,a_t)=LLM(q,M_{t-1},o_{t-1},T)\);\(M_t=M_{t-1}\oplus m_t\)。\(SearchMeta(q)=Top_k(q,I\setminus I^{seen})\),\(ReadRaw(k)=L(i_k)=s_k\);raw读取仅允许已经观察到的 metadata ID。
论文离线与线上效果¶
| 原文指标 | 原文方法 | 原文对照/协议 |
|---|---|---|
| LoCoMo average, Qwen3.5-27B | 71.69 | LazyMem 69.84 |
| LoCoMo temporal, Qwen3.5-27B | 75.70 | LazyMem 62.50 |
| LoCoMo average, Gemma4-31B | 71.30 | LazyMem 70.49 |
这些是原论文报告值,不是本地结果;未报告生产线上 A/B。模型、数据、打分或资源协议不同,禁止直接横比。复核摘录见 paper-results.json。原文数值不进入 local metrics/dashboard。
本地复现¶
本地对照口径:基线为原文 Naive RAG/structured offline memory;本地未做稳定多seed对照;实验组由当前真实实现执行;稳定相对提升不适用,尚无正式能力对照。
实现位于 src/auto_research/agent_research/oct12_memory_tools.py / oct12_checkpoint.py;薄 adapter 从明确的 oct12.json 加载运行配置,不注入默认固定候选或 gold。统一入口:
PYTHONPATH=src python scripts/run_oct12_agents.py \
--method t2mem --checkpoint /path/to/public/local/checkpoint --device cuda \
--checkpoint-id OWNER/MODEL --checkpoint-revision IMMUTABLE_40_HEX_COMMIT \
--dataset /path/to/public/input --seed 42 --rounds 2 --group-size 2 --train-steps 2 \
--output runs/oct12/t2mem/result.json
数据协议与代码映射¶
输入来源为 LoCoMo / LongMemEval normalized JSONL。候选/参数晋级仅在 validation,test 与训练分开;金标只进入独立外部 scoring。短运行报告 diagnostic_only=true、capability_comparison=false 与 evolve_promotion_eligible=false。JSONL含question、sessions、source_revision;answer可选且仅由答案产生后scorer读取。
结果、验证与边界¶
metadata、memory cache、action选择与最终答案均来自真实 checkpoint;embedding检索排除seen entries,ReadRaw不接受未观察ID。答案字段仅进入最终外部token F1 scorer,不能进入元数据或推理。该 scorer 不等同原文 LLM-judge accuracy,未做 token budget 匹配时不横比论文表格。
2026-10-12已在A100用固定Qwen2.5-0.5B和LongMemEval前两个官方问题执行;保留全部53+45个会话,每题两步真实memory construction。模型实际选择SearchMeta/ReadRaw,外部token F1均为 0,不把程序运行成功当作记忆能力成功。
数据可由 scripts/prepare_oct12_agent_inputs.py --kind t2mem 从固定公开revision导出;实测与脱敏action trace见 public-agent-a100-42.json,回执见 GPU证据。不提交会话、gold或模型回答文本;没有正式基线、多seed能力比较或evolve晋级。
测试入口:python -m pytest tests/test_oct12_agent_algorithms.py tests/test_oct12_agent_delivery.py。
