CritICL:从弱模型失败模式做高效推理提示¶
复现级别:模型无关核心机制。 实现 CritBank、静态/动态检索和单次推理提示构造,不伪造 checkpoint 指标。
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2608.27455 |
| 公司 / 机构 | 俄亥俄州立大学(第一作者第一署名单位) |
| 首次公开日期 | 2026-08-27(arXiv v1;COLM 2026) |
| 原作者代码 | 论文给出 CRITICL 仓库,但核查时仓库为空(2026-08-31),按尚未实际发布处理 |
| 本地 adapter / 方法 | criticl |
| 本地复现代码 | src/auto_research/foundation_methods.py |
原始论文总结¶
背景与主要改动¶
弱模型错误不是随机噪声,而会聚成可跨模型尺度迁移的失败模式。CritICL 离线归纳 CritBank;static 使用全局高频失败模式,dynamic 根据当前输入检索相关 critique,再让强模型只生成一次答案。
flowchart LR
W[弱模型错误] --> C[CritBank]
Q[新问题] --> R{static / dynamic}
C --> R
R --> P[critique ICL prompt]
P --> S[强模型单次推理]
原论文关键图¶
原论文 Figure 1(关键图):展示原论文方法的总体设计和关键组成。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
\[
C_q=\operatorname{TopK}_{c\in CritBank}\operatorname{sim}(q,c),\qquad y\sim p_{strong}(\cdot\mid q,C_q).
\]
本地复现与边界¶
单元测试覆盖确定性 static/dynamic 检索、failure-mode 去重和零在线弱模型调用。当前没有下载大 checkpoint,因此不发布准确率;该机制也没有冒充 Micro-LLM 结构算子。
真实 checkpoint 与 GSM8K 路径¶
auto-research criticl-eval 只用 GSM8K train 构造 CritBank,再在官方 test 子集等预算比较 zero-shot、CritICL-static 和 CritICL-dynamic;弱/强 checkpoint、revision、三种子和 95% CI 全部入指标文件。
单卡验收默认使用公开 SmolLM2 以验证端到端路径。启发式 failure label 替代论文中的 frontier-LLM critic,且小 checkpoint 在小子集上可能三种方法都为 0;这些边界均写入产物,不把流程可运行误写成效果复现。 脱敏验收记录见 CritICL A100 receipt。
