JIT-Agent:按任务即时生成与自进化 Agent Harness¶
复现级别:核心机制 mini-suite。 真实执行论文特有的控制流/目标;未把确定性任务成功率当作论文 benchmark 复现。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2608.25593 |
| 公司 / 机构 | LV-NUS Lab(第一作者第一署名单位) |
| 首次公开日期 | 2026-08-26(arXiv v1) |
| 原作者代码 | 是:GitHub |
| 本地 adapter / 方法 | jit-agent |
| 本地复现代码 | src/auto_research/agent_research/latest_20260827.py |
原始论文总结¶
背景与主要改动¶
把 harness 形式化为 memory、planning、action protocol、tools/skills 四个可生成模块;模型按任务生成、失败后修复,并从历史配置 archive 蒸馏可迁移模式。
flowchart LR
I[任务与当前状态] --> M[generate / repair / archive-distill]
M --> O[策略动作或训练目标]
O --> E[可审计指标与反馈]
E --> M
原论文关键图¶
原论文 Figure 2(关键图):展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
论文离线与线上效果¶
为 DeepSeek-V4-Flash 加 harness 后,在 DeepSearchQA / OdysseyBench 上分别超过 GPT-5.6 9.1 / 4.3 points;GLM-5.2 最高提升 20.2 points。
本地复现¶
L2 隔离能力评测(主结果)¶
JIT harness 在训练任务上即时写入/修复可复用路由,在 validation/test 冻结后仅通过公开 observation、工具元数据和真实调用反馈执行;不存在 answer、guide 或 reference-plan 接口。ToolRoute-L2.1 三 seed 的 joint success 为 0.7556,plan step F1 为 0.7887,平均成本 4.4912,说明它不再依赖会直接返回答案的确定性 L1 环境。
指标见 metrics/toolroute-l2-seeds42-44.json。下方 PlanBench-mini 只保留为机制诊断。
本地对照口径:PlanBench-mini 120 episodes,joint success 0.1500、平均成本 0.6180;低成功率暴露按 axis 归档不足,未伪装成论文效果。
指标见 metrics/jit-agent-planbench-mini-seed42.json。 批次索引见 ../../experiments/latest-20260827-seed42.json。
复现边界¶
本地 mini-suite 用公开、确定性的候选/计划任务隔离机制差异;论文 checkpoint、私有训练数据、外部服务和完整 benchmark 均未声称已复刻。
