跳转至

Read this page in English

论文发现闭环与防遗漏审计

最新审查为 2026-10-13～10-15 收口： 新首发、历史补发现和修订版分别统计；高成本候选明确不复现、审查完成。 当前日期、覆盖范围、截至时间和例外仍以统一状态为准。

最新有界选题实现见2026-10-26批次：8个低成本L1组件均已做CPU/真实A100同源三种子验收，另有8篇高成本资料明确不复现、审查DONE。Google/Meta优先核对；新公告、近期源码补漏和历史目录补漏分别统计。它与全窗口审查收口分开，不把公告条目数当新论文数，不自行推进水位。此前批次仍保留在路线记录。

后续发现并修复了历史筛选缺口，见 Harness² 与 Google/Meta 补漏。 日期在当前窗口外、发现账本中出现过，不等于完成方法/成本审查。 冻结记录保留，但 historical_first_publication 等日期初筛不再用于“已审计”去重。已接受但尚未交付的条目 单列 implementation-pending；明确高成本不复现与来源例外仍是终态，不自动重试。 这次补漏不宣称历史全覆盖，也不自行推进审查水位。

2026-10-21 对上述54/521做了逐身份、逐交付证据去重核查： 521混入31个审后延期、漏14个接受候选；接受未交付的源观察实际504，不是504个自动实施任务。 54个官方源线索按首发与文体重分为39个2026待审、9个早期参考、6个非实施分流。 新报告单列Google/Meta优先项和完整实验不复现终态；尚未回写原账本/运行时分类器，旧脚本输出不能当当前实施队列。

2026-10-01～10-07 的完整候选清单、逐篇审查与补查回执见 本批审查收口。日期窗口查询和月份编号 补查分别保存；Google 官方目录按页面声明的总页数读取，并报告是否超过配置预算。 读取目录后仍需核对论文身份和发表日期；实在不可确认的记录不得伪装成已审论文。

审查水位、覆盖范围与归档例外：2026-10-10 调整

用户明确要求退休严格来源穷尽水位；不再用无法证明的“全网/全站绝无遗漏”永久阻塞进度。 统一为以下三个部分：

  • 审查水位：固定窗口、四轨两通道查询均取尽；已召回候选逐项终态； Google/Meta 官方记录逐条核对研究范围、身份和日期。实际尝试后仍不可确认的记录可列公开例外。
  • 覆盖范围：明确窗口、研究领域、召回通道、核对过的官方页面/记录数量和限制。不承诺整个站点或全网绝无遗漏。
  • 归档例外清单：实际尝试后不能确认的身份/日期、无法取得的原文及分页不确定性公开归档，不阻塞水位、不计接受或实现；不再每轮反复重试。

实现进度仍独立记录。accepted/deferred 不是算法实现完成，不能因水位推进改变论文证据等级。 当前状态不再保留 source_exhaustiveness_watermark，审计会拒绝重新引入它；旧回执只作为历史快照。

高成本不复现：审查已完成（2026-10-15 明确）

当原文配置或已有测量表明复现超出单卡 A100/A30、Mac 的合理成本，记录成本依据并标注 “成本过高，不复现”，该候选就按 审查 DONE 处理，不是等待算力的未完成 TODO。 它不阻塞批次完成或审查水位推进，也不自动进入重跑、实现或执行型 evolve 队列。 无需为了审查收口补代码、实验指标或 GPU 回执；只有用户看到成本说明后明确要求，才重开复现。

为兼容已有账本，沿用终态 status: deferred；已有目录的 deferred_high_cost 也保留。 新决定可附加 resolution: not_reproduced_high_cost，让“明确不复现”区别于一般后续候选，例如：

{
  "id": "2610.20174",
  "priority": "P1",
  "status": "deferred",
  "resolution": "not_reproduced_high_cost",
  "reason": "成本过高，不复现：原文训练使用 2 节点、每节点 8 张 H800；本地只有单卡 A100/A30。",
  "cost_assessment": {
    "source_url": "https://arxiv.org/html/2610.20174v1",
    "basis": "原文 training corpus 与 training hardware 段落",
    "scale": "7B 模型、多领域专家训练与整合，74K 偏好对",
    "available_resource": "单卡 A100 或 A30，或本地 Mac",
    "cost_type": "published_configuration_not_local_measurement"
  }
}

成本终态只关闭该候选，不把它伪装成 implemented 或真实能力验证完成，也不豁免其他 未读候选或未完成的召回查询。正常补齐窗口覆盖和逐项决定后，即使有高成本不复现项， 仍应更新账本并正常推进审查水位。

当前状态的唯一入口是 paper-discovery-watermark.json， 本批逐条来源补齐见10 月 15 日审查验收。 归档清单见当前非阻塞例外。 旧扫描回执中的水位是当时快照，不应覆写为新的结论。

允许的例外仅包括身份/日期无法确定、原文无法取得、目录分页覆盖无法证明； 必须记录 URL、原创理由、实际尝试、研究范围初筛和重开条件，不计为 accepted。 “没有读”“查询触顶”“确认在窗口内但尚未审查”不能当作例外跳过。 Google/Meta 的优先级、正文线上 A/B/全流量证据门槛、真实实现与 GPU 验证门槛均不变。

已确认 arXiv 身份、但在本轮有界读取中 HTML/PDF 确实无法取得的原文，也保留在候选登记中： source_exceptions 记录版本、实际失败 URL/错误与重开条件，逐项对应归档清单。 其状态为 archived_source_exception，不是接受、阅读全文或实现；仅有摘要不能绕过全文接受门槛。

python scripts/audit_paper_coverage.py --strict 同时检查该状态文件及引用产物： 缺召回通道、失败/触顶查询、未审候选、缺尝试的忽略项、把窗口内论文误标为历史、 把有界验收宣称成全来源穷尽或实现完成，都会失败。 下一次增量扫描保留重叠窗口；例外在官方元数据/原文变更、独立来源补发现时重开， 没有新证据时不再重试。保留原始理由和来源，不彻底删除历史证据；官方资料变化或独立补发现提供新证据时才重开。

scripts/discover_papers.py 默认读取统一状态引用的归档清单：相同来源 URL、题名和日期的未知身份项 放到 archived_items，不再进入活跃待审队列。出现新来源、题名变化或新增日期时自动重开。 已识别的 arXiv 候选不受该过滤影响；归档也不会把 coverage_complete 伪装为全来源穷尽。

过去出现大量遗漏，不是某一个关键词没搜到，而是流程只做了“增量发现”，没有做 “候选全集闭环”：搜索范围、四条研究线、线上证据、代码可得性、已实现去重和明确 排除项没有落到同一份可机器检查的账本里。结果是每次回答了“这一批找到什么”，却 没有回答“固定时间窗内还有什么没有处理”。

从 2026-08-08 起，新增论文批次必须执行下面的闭环，不能只更新 README：

  1. 冻结范围：记录检索截止时间、时间窗、四个领域（工业搜广推与 LLM 应用、 基础模型、后训练、Agent）、每个领域的二级主题和 P0/P1 口径。全域批次必须声明 scope_kind: global 与 required_subtopics，不能再用“每个领域搜到几篇”代替覆盖审计。
  2. 多路发现：arXiv 分类与关键词、Google/Meta/ByteDance/Alibaba/Kuaishou 等 机构反查、已纳入论文的 related work / 引用链、原作者主页与官方仓库四路取并集。
  3. 证据归档：工业论文必须记录量化线上 A/B 或用户认可的全流量证据；其他领域 记录公开 benchmark、同预算对照、代码状态和可在本地执行的核心机制。
  4. 稳定去重：按 arXiv ID、正式论文 ID、标题规范化三层去重，并与 adapter、 后训练 method、Agent method 和 evolve mutation 四个 registry 交叉比对。
  5. 逐项终态：账本内每项只能是 implemented、deferred 或 rejected；后两者 必须写原因。P0/P1 只要还有无终态条目，批次就不能宣称完成。
  6. 实现验收：代码路径、论文特有 telemetry、固定指标、完整中文论文页、原文关键图、 分类目录、evolve 映射（适用时）和单测必须同时存在。
  7. 结束审计：运行 python scripts/audit_paper_coverage.py --strict 和全量测试； PR 描述列出候选总数、实现数、延期数、排除数及原因。

Google / Meta 最高优先级规则

Google（含 Google DeepMind、YouTube）和 Meta（含 Instagram）是工业搜广推与 LLM 应用论文的最高优机构。只要论文属于当前研究范围，并满足“量化线上 A/B”或用户认可的 “统计显著且明确全流量部署”证据，必须标为 P0，不能因为同一子主题已有其他论文而跳过。

机构优先批次必须使用 scope_kind: institution-priority，在 ledger 中同时保存：

  • Google、Meta 两家各自的机构/产品检索语句；
  • 检索命中的全部 candidate ID；
  • 每项的机构、线上证据门槛、P0 原因和最终状态。

audit_paper_coverage.py --strict 会检查上述字段和候选闭环。arXiv API 不提供作者单位， 因此机构反查不能只搜 API 元数据：必须读取论文首页 affiliation，并同时覆盖 A/B、 live launch、full traffic、fully deployed 等证据措辞。2026-08-09 的纠错批次由 TokenMinds（Google/YouTube）和 SlimPer（Meta/Instagram）触发。

候选召回与线上证据判定必须分成两步：先仅按作者机构 + 搜广推/LLM 应用主题形成 候选全集，再逐篇检查 PDF/HTML 全文。摘要中是否出现 A/B 不得影响候选召回；摘要、 标题和 arXiv API 元数据也不能单独作为“不满足线上门槛”的拒绝依据。机构优先批次若未 声明 candidate_discovery_gate: affiliation-and-topic、 abstract_online_evidence_required: false、full_text_review_required: true，或候选未记录 正文证据章节和命中措辞，严格审计直接失败。SlimPer 就是该规则的回归样例：摘要只写 部署收益，正文 §4.3 才明确写 A/B、全流量与统计显著性。

当前闭环批次的机器可读账本是 paper-discovery-ledger.json。它不替代搜索，而是强制把 搜索结果变成可审计终态；下一批必须追加新 batch，不能覆盖旧记录。

最新一次跨领域复查见全主题系统缺口审计（2026-08-08）。 它明确纠正了“局部候选批次闭环等于全库无遗漏”的错误，并给出下一轮 P0/P1 队列。

2026-08-24 的扫描窗口已扩大为 2026-01-01 至 2026-08-24。扫描规模与首批结果见 历史论文扫描与实现，完整的 3,906 篇机器账本、404 篇 全文清单和 B00–B11 固定实现安排见历史扫描清单与实现批次。 原先 331 篇未决全文候选已完成逐篇终态审计，55 篇晋级 P0 实现队列、273 篇审后保留为 P2、3 篇原文不可用；证据与零未决结论见历史全文审计终态。

上述历史批次已全部关闭。2026-08-25 起恢复日批增量扫描；首轮结果、筛除理由和四篇 实现见2026-08-25 最新论文增量扫描。 未写入终态的论文不会因为下一次增量扫描而消失。

2026-09-27 的四领域重叠扫描已恢复 arXiv 分页， 但 Google/Meta 官方发表页抓取失败；新的工业 P0 与跨领域 P1 全文复核队列已写入 统一路线图，来源补查和逐项终态完成前不推进全来源 watermark。

2026-08-26 对五个 arXiv 分类的 363 篇新提交完成去重和高优先全文复核，新增 TAGR、 WeMM-Embedding、两种后训练方法和四种 Agent 方法；完整结果与拒绝理由见 2026-08-26 最新论文增量扫描。本轮 Google / Meta 反查无通过项，TAGR 是唯一通过量化工业线上证据门槛的新推荐论文。

2026-08-13 GenRec 纠错

Netflix GenRec（arXiv 2608.10257）于 2026-08-10 发布，但旧流程将长查询拆成 严格 AND，每个查询只取前 8 条，并只校验“已被发现的候选”是否闭环。因此它 虽然在时间窗内，仍可以在候选阶段被截断。

现在使用九组主题查询、优先机构反查、每组最多 200 条分页结果取并集， 按 canonical arXiv ID 去重，并保留 matched_queries。召回后才进行 PDF/HTML 全文 证据判定；摘要没有 A/B 不再是拒绝理由。定时 GitHub Actions 每日生成过去 14 天的 paper-candidates.json artifact，但 artifact 只是待审候选，不会伪装成已通过 线上证据门槛。基础模型、LLM 后训练和 Agent 也使用各自的多查询矩阵，不再只扫描搜广推。

本地可复现同一扫描：

PYTHONPATH=src python scripts/discover_papers.py \
  --track recommendation \
  --lookback-days 14 \
  --page-size 50 \
  --maximum-results-per-query 200 \
  --cross-source-config configs/paper-discovery-sources.json \
  --output paper-candidates.json

arXiv API 不提供结构化 affiliation，所以机构词查询只是补充召回；Google/Meta 等优先机构仍必须使用作者首页 affiliation/官方页反查，再逐篇审查正文。

自 2026-10-07 起，主扫描默认使用 --recall-mode submission-window，把固定时间窗 传给 arXiv API，避免“取全历史前 N 条后再本地过滤”持续撞到分页上限。 同时必须另跑 --recall-mode late-index（独立 checkpoint 和 output），保留旧发表日期、 新编号月份的补漏通道。每日 Actions 同时上传这两份候选集；两者取并集后审查。 每日 CI 的两个通道均使用每查询 2,000 条预算，避免本批已见超过 200 条的月份查询再次被默认截断；若仍触顶，回执继续标为 capped，不能推进水位。 补查通过 id:YYMM.* 在 API 端限定编号月份，而不是翻遍全历史前 N 条；跨月窗口 取各编号月份的并集。提交日期不设下限，因此不会丢失新编号、旧提交日期的记录。 主通道取尽只表示配置内日期查询完整，不会自动抬高全文审查或全来源水位。

每日任务还会把候选与统一 manifest、历史 ledger 自动差分，在 Actions Summary 中分成 “Google / Meta 重点复核”“其他新候选”和“已处理候选”。Netflix 等其他机构继续参与 召回，但不触发置顶预警。实施队列统一维护在后续路线图与 TODO。

跨来源召回与终态回写

单一 arXiv 查询之外，定时任务现在还会读取 configs/paper-discovery-sources.json，覆盖 Google Research、Google DeepMind、Meta AI 官方论文页，RecSys/SIGIR 会议页以及 Google/Meta 研究 GitHub 组织页。配置也支持作者主页；已知相关论文可通过 --snowball-seeds 调用 Semantic Scholar references/citations 扩展。每个命中保留：

  • 来源名称、类型与 URL；
  • 机构（来源能够确定时）；
  • direct、reference 或 citation 关系；
  • citation snowball 的 seed arXiv ID；
  • 单个来源失败信息，避免某个页面失败后整批静默少召回。

artifact 仍然只是待审队列。人工全文审查完成后，把决定写成 JSON：

{
  "source_artifact": "paper-candidates-recommendation.json",
  "decisions": [
    {"id": "2608.12345", "priority": "P0", "status": "rejected", "reason": "正文无量化线上证据"}
  ]
}

再执行：

PYTHONPATH=src python scripts/record_discovery_review.py \
  --artifact paper-candidates-recommendation.json \
  --decisions review-decisions.json \
  --batch review-20260820-recommendation

python scripts/audit_paper_coverage.py --strict \
  --pending-artifact paper-candidates-recommendation.json

回写器要求每个 new 候选都有 implemented/rejected/deferred 终态；严格审计同时检查 待审 artifact 与 ledger，未闭环候选会直接失败，而不是留到下一轮后被遗忘。