Read this paper write-up in English
LEASH:参考表示路由与接管后监督¶
component_only/ L1 CPU 机制诊断。输入是明确生成的合成向量,不是模型 hidden states;统计校准和 Shadow callback 不等于完成 OSWorld 或真实 GUI Agent。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | LEASH |
| 公司/机构 | 一作 Qingni Wang,Simular;合作者包括 University of Wisconsin–Madison |
| 首次公开日期 | 2026-10-15,arXiv v1 17:40:12 UTC;10-16 公告补审 |
| 原文开源代码 | 本轮未找到作者发布的方法代码仓库;许可证未确认,不复制第三方实现 |
| 本地 Adapter | 无(adapter: null);组件 key:leash |
| 本地复现代码 | src/auto_research/agent_research/leash.py;scripts/run_oct17_supplement_agent.py |
原始论文总结¶
背景与主要改动¶
小模型先执行、必要时交给强模型可降低成本,但“何时接管”和“强模型接管后是否走偏”是两个问题。LEASH 利用弱模型表示与历史成功/失败参考的距离,不额外训练一个监控网络;初始和运行时 gate 决定 handoff,之后定期用弱模型的未执行 Shadow 动作表示监督强模型,并在需要时要求其重新审视策略。
flowchart LR
R[独立reference任务与结果] --> F[task-grouped OOF / pooled LDA]
F --> Q[query gate]
F --> A[action gate与每任务max校准]
Q --> W[弱模型执行]
W --> A
A -->|handoff| S[强模型接管]
S --> P[接管后第1步及每隔3步Shadow探针]
P -->|超阈值且预算允许| I[替换待执行强动作并反思]
原论文关键图¶
原论文 Figure 2(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
原文 §3.2–3.4、附录 A对两类 reference 拟合标准化均值和共享协方差。高分表示更接近失败类,不是校准后的失败概率:
初始目标比例 \(p_q\)、整体目标比例 \(p_{esc}\) 给出剩余条件比例:
运行 gate 用 reference 每任务最大值校准,而不是按 step 的分位数;同一任务的所有观察保留在同一 OOF 折。最终重拟合和测试分布漂移可能改变实际路由率,所以目标比例不是测试硬配额。Shadow 阈值来自 reference action 分数第 90 百分位;按附录 A.4,在 handoff 后第一个 strong step 探测,此后每隔三步,即从 1 计数的 1/4/7/10,而不是 3/6/9。最多 6 次干预,2 次改变强动作后停止,探针动作不执行。
论文离线与线上效果¶
原文在 OSWorld 的 262 任务、每题 50 动作上比较多个弱骨干与 Opus 5 强执行器/Manager,并给出成功率与 token 计价推理成本;其成本是记录 token 按参考价估算,不是本地硬件吞吐。原文还保留初始/运行 gate 和 Shadow 消融,不应把所有收益归给初始 gate。未报告生产线上 A/B。
本地复现¶
PYTHONPATH=src python scripts/run_oct17_supplement_agent.py \
--methods leash --device cpu --seeds 42,43,44 \
--output runs/oct17-supplement-agent/leash.json
数据协议与 CPU 结果¶
每 seed 使用 30 个合成 reference task、90 action 向量及 12 个隔离 evaluation task;使用 task-grouped 10-fold OOF,在 reference 内选择 ridge(0.01/0.1/1),标准化只拟合训练折。没有 evaluation task/outcome 进入拟合或阈值选择。
三 seed 的独立二次型 reference 最大误差为浮点舍入量级(约 \(10^{-15}\));初始/整体 reference 路由率为 0.233333 / 0.466667,保留了整数任务预算下的少路由。合成 outcome OOF AUROC 均值 0.974815、留出 0.990741;打乱 reference 标签的负对照仍达 0.796296,说明小 fixture 的数值可分性不能支撑 Agent 能力结论。Shadow 高分回调在两次改变强动作后停止,未执行探针动作。完整 CPU 产物保留逐 seed 与 hash。
代码映射、成本与边界¶
fit_lda 实际拟合均值/共享协方差并用 SVD 计算 ridge inverse;crossfit_reference 保存 task folds 和各折训练任务;calibrate_escalation 校准条件预算;calibrate_shadow 与 ShadowOversight.monitor 执行监督调度。推理 PooledLDA.score 不接收 gold/outcome 标签。
真实 hidden-state 抽取、OSWorld 桌面、强模型付费调用、多个 8B–35B 骨干与长任务均未运行。完整多模型多配置实验成本高且需要 GUI/远程接口,成本过高,不复现(审查 DONE)。本地算子 CPU 可运行,无需 CUDA;不声明 GPU 或官方任务验证,不进入 Evolve。
