Read this paper write-up in English
Harness Learning:学习可执行脚手架完成测试时适配¶
复现级别:L1 无 gold 机制诊断。 实现由执行反馈驱动的 harness revision policy 与多轮适配;冻结任务策略,不读取答案或计划。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | Harness Learning Enables Generalizable Test-Time Adaptation |
| 公司 / 机构 | Johns Hopkins University / Carnegie Mellon University |
| 首次公开日期 | 2026-09-28(arXiv v1) |
| 原作者代码 | 截至 2026-09-30 未发现/未发布原作者代码 |
| 本地 adapter / 方法 | harness-learning |
| 本地复现代码 | src/auto_research/agent_research/latest_20260930.py |
原始论文总结¶
背景与主要改动¶
论文把测试时适配的对象从模型参数转为可执行 harness:proposer 根据真实执行反馈修改验证、解释器、检索或重试组件;底层任务模型保持冻结,多轮执行后保留更有效的脚手架。
flowchart LR
H[当前 harness] --> E[冻结模型 + 环境执行]
E --> R[公开 execution report]
R --> P[revision proposer]
P --> H2[新 harness]
H2 --> E
原论文关键图¶
原论文总体流程图:展示 proposer、执行器和多轮 harness 修订。图片来自原论文,版权归原作者所有。
核心公式¶
本地 proposer 使用组内相对执行奖励更新分类策略:\(A_i=r_i-\bar r\),并对 revision logit 做 REINFORCE 更新。适配接口只接收执行报告中的 score 与 failure 类型,没有 gold answer、gold plan 或隐藏 verifier 字段。
论文离线与线上效果¶
原文跨任务泛化结论不等同于本地结果。本地三种子仅验证多轮修订、执行反馈闭环和 gold 隔离不变量,见 metrics/mechanism-seeds42-44.json。
本地复现¶
HarnessProposer 与 adapt_harness 可接入外部真实执行 callback;汇总诊断见 ../../experiments/sep30-p0-p1-mechanisms-seeds42-44.json。
复现边界¶
当前没有接入通用 Agent runner 或 Evolve,因为二者尚不能安全执行任意 harness 并完成隔离验证;本页不把规则化 mini-suite 的成功率宣称为 Agent 能力提升。
