能力证据：评测采样、读出与可靠性 &para;

Building Auditable AI Text Detectors with Sparse Autoencoders

基础理解

DetectorScope 为什么把检测预测建立在可检查的稀疏特征上？

问答新增：2026-10-27 · University of Pennsylvania

展开答案与例子

答案：它先池化SAE特征并筛除描述不可靠的概念，再用轻量稀疏线性头预测，使每次logit能分解为明确特征贡献。可解释性来自实际计算结构，而非预测后补写一句理由。

教学例子：某概念贡献可通过置零该特征核对，不必相信一段与检测分数无关的生成解释。

依据：背景与主要改动、核心公式；例子用于解释机制。

Building Auditable AI Text Detectors with Sparse Autoencoders

核心机制

DetectorScope的概念贡献为什么等于置零特征的logit差，却不能称为改写文本的因果效果？

问答新增：2026-10-27 · University of Pennsylvania

展开答案与例子

答案：稀疏特征池化后进入线性检测头，每个权重乘激活都可精确分解，因此置零该池化特征的logit变化可核验。改写原文会同时改变多个特征与上下文，不受这条线性等式约束。自动描述和相关验证也不保证语义无误，本地头组件不含完整SAE与解释生成流程。

教学例子：例如某概念贡献增加检测分数，置零它能验证分数差；删除原文一个词可能连带改变其他概念，不能把二者变化当作同一种干预。

依据：背景与主要改动、核心公式；例子用于解释机制。

Building Auditable AI Text Detectors with Sparse Autoencoders

方法对比

DetectorScope 的概念描述验证，与人工确认该概念语义可靠相同吗？

问答新增：2026-10-27 · University of Pennsylvania

展开答案与例子

答案：Spearman衡量外部真实与预测激活的秩相关，是筛选信号，不能当作人工审查或误伤担保。常量序列甚至无法验证描述，不能强行给高分后称其可解释。

教学例子：一段描述与少量激活排序相关，仍不足以证明在所有文本上语义都准确。

依据：背景与主要改动、核心公式；例子用于解释机制。

Building Auditable AI Text Detectors with Sparse Autoencoders

实现细节

DetectorScope 的 L1 更新为何不能既做次梯度惩罚又再 soft-threshold 一次？

问答新增：2026-10-27 · University of Pennsylvania

展开答案与例子

答案：文档先做BCE梯度SGD momentum，再执行ηλ soft-threshold，不额外对L1求次梯度，也不惩罚bias。RMS只从训练拟合且不中心化，预测不可重拟合held-out尺度。

教学例子：两次施加L1会让稀疏强度超过所声明λ，改变头的实际训练目标。

依据：核心公式、数据协议与结果；例子用于解释机制。

DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia

基础理解

DeepSEA 为什么不只报告一个多语言总分？

问答新增：2026-10-27 · Google Research

展开答案与例子

答案：研究针对东南亚低资源语言覆盖，按语言资源层级和任务报告能看出平均分掩盖的差距。它提供评测数据与协议，不是改变模型参数的训练算法。

教学例子：高资源语言表现很好，可能把低资源语言的明显失误淹没在总体均值里。

依据：背景与主要改动；例子用于解释机制。

DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia

核心机制

DeepSEA按语言资源分组报告，为什么仍必须固定预测顺序并隔离Gold？

问答新增：2026-10-27 · Google Research

展开答案与例子

答案：各语言与任务的覆盖不同，只有严格校验语言、数量和顺序，才能让预测与相应样本评分正确对齐。公开输入只投影问题所需字段，答案由评测器独占，防止把翻译标注或评分信息送给被测模型。该基准衡量低资源语言表现，不是提升参数能力的训练算法。

教学例子：例如同一题的两种语言输出交换位置，会把语言差异变成对齐错误；预测器应只见问题，不能同时拿到评分器保存的正确答案。

依据：背景与主要改动、核心公式与评分口径；例子用于解释机制。

DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia

方法对比

确定性 scorer 与 LLM judge，在 DeepSEA 接口中是同一个可替换环节吗？

问答新增：2026-10-27 · Google Research

展开答案与例子

答案：评分必须遵循各任务固定上游口径，不应临时换成另一个judge后仍直接横比。预测与参考的绑定也需固定语言/学科/行号；分组报告不能修复错位评分。

教学例子：把语言A的第1条预测配到语言B参考，即使总条数一致，分数也没有有效含义。

依据：背景与主要改动、公共输入与 Gold 隔离；例子用于解释机制。

DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia

实现细节

预测回调能收到 evaluator 对象或 benchmark 文件路径，再承诺不看 Gold 吗？

问答新增：2026-10-27 · Google Research

展开答案与例子

答案：不应这样设计。文档用白名单不可变公开输入与深复制私有参考隔离，缺语言、数量或字符串类型直接报错；该数据流合同也不是操作系统沙箱，不能额外开放shell绕过边界。

教学例子：回调只应收到题目、选项或上下文，不应拿到含answer_with_cot的原始记录。

依据：公共输入与 Gold 隔离；例子用于解释机制。

Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4

基础理解

Gemma 来源优先协议为什么把双文档冲突设计成多路交叉？

问答新增：2026-10-27 · Google

展开答案与例子

答案：词项本身、来源角色和呈现位置都可能影响选择。四路交叉让这些因素被单独分解，避免把词偏好或位置效应误写成模型信任某种来源。

教学例子：总是偏向词B，与总是偏向新文档提供的词，是两个不同倾向。

依据：背景与主要改动、核心公式；例子用于解释机制。

Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4

核心机制

双文档冲突实验为什么要同时交换词项身份和呈现顺序，而不只调换两段文字？

问答新增：2026-10-27 · Google

展开答案与例子

答案：只换顺序会把词本身偏好、来源角色与位置混在一起。四路交叉用正交对照分别估计这些效应，再按跨条件共同筛选集比较，未筛选敏感性分析仍保留。来源效应与位置效应不能由两个简单均值替代，该协议也只支持单模型短英文选择的行为结论。

教学例子：例如模型偏爱某个词时，它放哪都容易被选；同时交换哪个词代表旧来源，才有机会分清来源标签与先后位置各贡献了多少。

依据：背景与主要改动、核心公式；例子用于解释机制。

Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4

方法对比

四路分解中的顺序零对照 O 与位置效应 S，为什么不能混称？

问答新增：2026-10-27 · Google

展开答案与例子

答案：两者使用不同正负组合，测量对象不同；文档S才是位置效应，负S表示偏首，O用于零对照。各量是半效应，完整极差还要乘2，不能换标签横比。

教学例子：同一组e1到e4，换一组符号组合会得到另一种效应而非同名结果。

依据：核心公式；例子用于解释机制。

Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4

实现细节

BCa 区间失败或输入零方差时，能默默回退再给出 equivalent=true 吗？

问答新增：2026-10-27 · Google

展开答案与例子

答案：文档明确保留failed或degenerate并令equivalent=null，不静默换percentile。十条件主分析还应共用剔除并集，并保留未筛选敏感性分析，不能逐条件挑有利样本。

教学例子：bootstrap无法提供有效区间时，应显示未判定，而不是把异常处理当成等价通过。

依据：核心公式、实现与数据协议；例子用于解释机制。

How Calibration Content Shapes Attention-Based Reranking

基础理解

attention reranking 为什么需要比较带指令 null 与 bare null？

问答新增：2026-10-27 · UC San Diego

展开答案与例子

答案：无真实query时，指令本身也可能改变文档得分。插值null校准分开度量这部分影响，并控制从query+instruction得分中扣除哪种基线，避免把校准内容当成无关细节。

教学例子：相同文档仅因出现“判断相关性”指令而更高分，这部分未必来自用户query。

依据：背景与主要改动、核心公式；例子用于解释机制。

How Calibration Content Shapes Attention-Based Reranking

核心机制

插值null校准取λ=0时，为什么仍不是完全不校准？

问答新增：2026-10-27 · UC San Diego

展开答案与例子

答案：插值在含指令空查询分数与完全空基线之间调节，零权重仍减去bare-null分数，只是不扣含指令那部分。三次模型评分必须按文档身份对齐，权重只能用验证集选；用全数据最佳权重得到的oracle分数不是独立测试收益。本地只实现分数运算核。

教学例子：例如文档即使没有问题也因长度获得偏高注意分，bare-null仍会扣掉这种基线；把零权重直接当原始分数，会比较错方法。

依据：背景与主要改动、核心公式；例子用于解释机制。

How Calibration Content Shapes Attention-Based Reranking

方法对比

标准 ICR、bare-null 与完全不校准，分别减去了什么？

问答新增：2026-10-27 · UC San Diego

展开答案与例子

答案：λ=1减带指令null，λ=0减bare null，完全不校准才不减任何null。三者不是同一条参数轴的含混名字；比较时要把真实三pass输入与扣减项说明白。

教学例子：s(empty,empty)非零时，λ=0的排序分数仍可能明显不同于原始s(q,I)。

依据：核心公式；例子用于解释机制。

How Calibration Content Shapes Attention-Based Reranking

实现细节

三次模型 pass 的分数数组长度相同，是否就能直接逐项相减？

问答新增：2026-10-27 · UC San Diego

展开答案与例子

答案：还必须保证文档ID和顺序完全一致，不能只看shape。λ需按validation选择，不能拿全数据oracle λ当独立test效果；本地分数算子也不包含真实attention extractor。

教学例子：第二次pass把docA和docB交换了，逐位置减法会把另一个文档的null扣过来。

依据：背景与主要改动、本地复现；例子用于解释机制。

CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes

基础理解

CritICL 为什么先从弱模型错误构建 CritBank？

问答新增：2026-10-27 · The Ohio State University

展开答案与例子

答案：弱模型错误可聚成较稳定失败模式，离线整理后可作为强模型推理前的提醒。它把反思成本前移，不要求每个部署问题先让强模型失败一次。

教学例子：常见“忽略单位换算”的失败模式，可在新题作答前作为critique提示。

依据：背景与主要改动；例子用于解释机制。

CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes

核心机制

CritICL从弱模型错误归纳critique，为什么部署时不需要先让强模型答错再反思？

问答新增：2026-10-27 · The Ohio State University

展开答案与例子

答案：离线失败模式库把重复错误抽象成可复用提示，静态版本用常见模式，动态版本按当前问题检索相关提醒。强模型在回答前读取这些提醒，只生成一次，不依赖本次错误答案反馈。迁移的是失败模式而非弱答案本身，提示相关性与库覆盖仍决定是否有用。

教学例子：例如弱模型常忘记单位换算，库中形成检查单位的提醒；新题可在首次回答前检索它，而不能先读取该测试题正确解再写针对性批评。

依据：背景与主要改动、核心公式；例子用于解释机制。

CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes

方法对比

CritICL static 与 dynamic 的 critique 选择有什么不同？

问答新增：2026-10-27 · The Ohio State University

展开答案与例子

答案：static复用全局高频失败模式，dynamic根据当前问题从CritBank检索相关critique。两者都应在生成前提供帮助，dynamic额外引入检索；不能把全局提醒当作已实现输入相关选择。

教学例子：数学题可检索计算类提醒，另一类输入则可能检索不同失败模式。

依据：背景与主要改动、核心公式；例子用于解释机制。

CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes

实现细节

CritICL 部署时为什么不能先用当前题正确答案来挑最有效 critique？

问答新增：2026-10-27 · The Ohio State University

展开答案与例子

答案：这样会把评测目标泄漏进提示选择。文档dynamic依赖当前输入与已有CritBank的相似度，再让强模型生成一次；离线失败模式与当前题隐藏答案需保持边界。

教学例子：先看该题标准答案再选“刚好能纠正它”的critique，不是可部署的输入检索。

依据：背景与主要改动、核心公式；例子用于解释机制。

Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing

基础理解

TCAB 为什么希望多个自适应策略共享一次真实反馈？

问答新增：2026-10-27 · New York University

展开答案与例子

答案：分别运行A/B/n可能为相同上下文与决策重复付出反馈成本。方法用耦合组织策略选择，在保持各策略边际轨迹分布的条件下复用可共享反馈，减少重复查询。

教学例子：两策略在同一状态都选同一动作，可以考虑一次环境反馈供两者对应更新。

依据：背景与主要改动；例子用于解释机制。

Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing

核心机制

TCAB为什么要求完整上下文与动作都匹配，不能只因两策略选了同一动作就共享反馈？

问答新增：2026-10-27 · New York University

展开答案与例子

答案：同一动作在不同用户或候选集合下可能有不同结果，单看动作相同会改变反馈分布。树上最大耦合匹配完整上下文动作对，才可共享条件奖励并保持各策略单独运行的边际轨迹分布。策略间刻意相关而非独立，省查询也不等于任意联合设计的全局最优。

教学例子：例如两策略都点同一商品，但用户状态不同，不能复用一次点击；只有完整情境与动作匹配，才能在相应奖励模型假设下共享反馈。

依据：背景与主要改动、核心公式；例子用于解释机制。

Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing

方法对比

耦合后的策略轨迹彼此相关，是否等于每个策略自己的分布被改变？

问答新增：2026-10-27 · New York University

展开答案与例子

答案：不一定。耦合可以改变联合相关性，同时保持各策略各自的边际分布；这正是共享反馈需保留的条件。只检查最终准确率相同，不能替代边际轨迹与自适应更新合同。

教学例子：两个随机选择可以更常同时相同，但每个单独看仍遵循原来的选择概率。

依据：背景与主要改动；例子用于解释机制。

Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing

实现细节

TCAB 记录反馈节省时，为什么不能只统计“动作字符串相同”的次数？

问答新增：2026-10-27 · New York University

展开答案与例子

答案：反馈可共享还取决于完整上下文与策略状态条件；相同动作在不同环境下可能得到不同结果。应对照真实共享调用与树边差异计数，不能把任意同名动作当成一次可合并观测。

教学例子：不同用户都点击推荐动作A，反馈不因此是同一条可复用样本。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Safety Training Modification in Language Models via Activation Analysis

基础理解

AMS 为什么用对照输入的激活差异检查模型修改？

问答新增：2026-10-27 · Google Cloud

展开答案与例子

答案：它先找安全相关概念在中层激活中的分离方向，再与同架构基线比较方向和漂移，提供结构诊断信号。它不生成行为答案，也无法用结构阈值替代行为安全评测。

教学例子：两个概念在某层容易分开，仍不能据此保证所有相关真实请求都处理正确。

依据：背景与主要改动；例子用于解释机制。

Detecting Safety Training Modification in Language Models via Activation Analysis

核心机制

AMS的激活方向分离通过阈值，为什么不能据此宣布模型行为安全？

问答新增：2026-10-27 · Google Cloud

展开答案与例子

答案：对照输入的中层激活方向检验结构分离，再与同架构基线比较方向和漂移，可作为安全训练修改的线索。阈值只对应指定协议，方向分离与真实行为之间仍有盲区；层号、方差定义和基线一致性都会影响结果。组件诊断不能替代独立行为安全评测。

教学例子：例如模型能把安全与风险概念分开表示，却仍可能在特定上下文给出不当回答；可分离方向说明内部信号存在，不证明所有输出可靠。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Safety Training Modification in Language Models via Activation Analysis

方法对比

AMS Tier1 分离度与 Tier2 基线方向比较，分别回答什么问题？

问答新增：2026-10-27 · Google Cloud

展开答案与例子

答案：Tier1看正负概念投影是否分离，Tier2比较同层同维基线的方向一致性和相对漂移。一个模型内部很可分，不等于它与基线保持相同方向或行为。

教学例子：两组投影分得很开，但方向可能相对原模型翻转，两个tier可给不同信号。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Safety Training Modification in Language Models via Activation Analysis

实现细节

从 HuggingFace hidden_states 取 AMS 扫描层时，为什么要加1？

问答新增：2026-10-27 · Google Cloud

展开答案与例子

答案：文档block hooks从0计数，而hidden_states[0]是embedding，故block_id对应hidden_states[block_id+1]。还需取最后真实token，并按固定上游population variance与严格阈值边界计算。

教学例子：报告block9应读取hidden_states[10]，不能把embedding当作第一个block输出。

依据：核心公式；例子用于解释机制。

基础理解

跨语言探索为什么会对同一个知识问题走多条语言路径？

问答新增：2026-10-27 · The Hebrew University of Jerusalem

展开答案与例子

答案：模型参数中的知识在不同语言表达下可能呈现不同可访问性，方法通过多语探索再聚合语义回答。它不是仅把同一个字符串翻译多遍，也不是多数票天然正确。

教学例子：不同语言路径给出不同表述，需要判断它们是否在语义上指向同一实体。

依据：背景与主要改动、核心公式；例子用于解释机制。

核心机制

跨语言探索为什么不能用字符串多数票代替语义聚合，还要计入聚合成本？

问答新增：2026-10-27 · The Hebrew University of Jerusalem

展开答案与例子

答案：不同语言路径可能用不同说法表达同一事实，字符串计数会把等义答案拆开，也可能把相似错误误并。原方法由语言模型进行多数与少数感知聚合，语义正确性及跨语言一致性另行判断。所有路径与聚合词元都属预算，本地只有文献记录，未实现语义模块。

教学例子：例如两条路径分别回答同一城市的不同语言名称，应先判断是否指同一实体；不能把拼写不同当分歧，再只计算最短一条路径成本。

依据：背景与主要改动、核心公式；例子用于解释机制。

方法对比

语义模型聚合与字符串 counter 多数票，为什么不能互相充当实现？

问答新增：2026-10-27 · The Hebrew University of Jerusalem

展开答案与例子

答案：相同意思可有不同字面表达，相同字符串也可能语境不同；原文使用语言模型提示完成majority/minority-aware聚合及语义判定。字符串计数会替换定义性语义模块。

教学例子：“United States”与“USA”可能同义，纯字符串计数却会分成两个候选。

依据：背景与主要改动；例子用于解释机制。

实现细节

计算跨语言探索预算时，为什么不能只数各路径的生成 token？

问答新增：2026-10-27 · The Hebrew University of Jerusalem

展开答案与例子

答案：文档预算还包含路径输入以及聚合模型token，完整实验也用模型进行语义正确性与一致性判断。漏掉聚合成本会失真；当前没有运行这些API流程，也不提供启发式替代模型。

教学例子：十条探索很短，但一次长上下文聚合仍可能消耗大量输入token。

依据：核心公式、本地复现；例子用于解释机制。

XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks

基础理解

XLGoBench 为什么用有确定性算法答案的任务测跨语言差距？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：受控算法问题可明确难度结构和正确答案，减少开放生成judge的歧义，再在不同语言表达下比较模型表现。它仍需真正运行模型和验证语言版本，不能只凭scorer存在就报告能力。

教学例子：同一状态转移题换语言表达后，答案仍可由同一确定算法计算。

依据：背景与主要改动、核心公式；例子用于解释机制。

XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks

核心机制

XLGoBench有确定性算法答案，为什么本地小实例通过仍不能证明跨语言能力差距？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：算法评分可排除主观评审差异，任务复杂度与语言变化仍需真实模型在经过验证的翻译上生成结果。局部生成器只覆盖指定结构范围，不能冒充全噪声或全难度矩阵。金标只在评分端计算，预测回调只接收公开题目；本地五任务诊断没有跨语言准确率证据。

教学例子：例如同一图问题可由算法核验最短路，但用中文和另一语言描述是否同义还需审核；只让内部求解器答对一张小图，并未测到语言影响。

依据：背景与主要改动、核心公式；例子用于解释机制。

XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks

方法对比

算法 scorer 的正确性，与模型跨语言泛化结果是同一份证据吗？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：不是。scorer正确说明给定预测可被按约定评价；泛化比较还需要各语言真实输入、模型输出、复杂度扫描与统计。小实例通过不能替代完整七语矩阵或人工校验翻译。

教学例子：最短路程序能算对12节点题，不说明某语言的LLM也能稳定答对它。

依据：本地复现、复现边界；例子用于解释机制。

XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks

实现细节

XLGoBench 的 Pr-DSA top8 评分为什么既忽略顺序又拒绝重复？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：目标是完整概率传播得到的top8集合，集合内部顺序不重要，但重复会减少实际覆盖项数，不能以列表长度8掩盖缺项。其它任务也按完整JSON合同评价，不用部分匹配凑通过。

教学例子：[A,A,B,...]虽有八个条目，实际不同状态不足八个，应被拒绝。

依据：核心公式；例子用于解释机制。

ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation

基础理解

ProEval 为什么复用历史逐题评分来减少新模型评价调用？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：历史模型之间的题目相关性可形成新目标模型的概率评分替身，有限查询逐步更新后验，再估计总体分数及不确定性。它节省实际评分，但估计并不等于已问过全部题。

教学例子：只查询几题后，用历史相关结构预测其它题，但仍需报告剩余方差。

依据：背景与主要改动、核心公式；例子用于解释机制。

ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation

核心机制

ProEval为什么必须先选题再读取目标模型分数，历史矩阵还要排除目标模型？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：历史模型相关性提供目标表现的先验，只有被主动选中的题才能返回真实目标分数并更新后验。若完整目标列预先参与协方差或选题，便把昂贵评估答案偷渡到替身中。方差缩减衡量估计收益，不保证目标超出历史分布时仍可靠，本地组件也不是全量评审替代证明。

教学例子：例如先依据旧模型记录选择一道最有信息的题，再调用新模型评分；不能把新模型整列成绩先读入，随后声称只查询少量题就估准总分。

依据：背景与主要改动、核心公式；例子用于解释机制。

ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation

方法对比

BQ 的总体方差减少采集，与直接选择当前均值最低的题有什么不同？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：BQ按候选观测对wᵀKw的预期下降选择，关注总体评分不确定性；均值最低关注困难程度。文档失败采集也有自己的候选条件，不能把所有策略都叫“挑最难题”。

教学例子：某题均值不低，但与许多未问题强相关，查询它可能更能减少总分方差。

依据：核心公式；例子用于解释机制。

ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation

实现细节

ProEval 为什么拒绝重复目标观察和历史矩阵里的目标模型 ID？

问答新增：2026-10-27 · Google DeepMind

展开答案与例子

答案：重复观测会破坏声明的查询预算与后验更新口径，把目标完整历史放入先验更会泄漏未查询分数。接口只接所选题反馈；至少三份历史记录也只是本地门槛，不自动验证理论条件。

教学例子：目标模型完整一列已经藏在历史矩阵中，就不能再把省下的查询称为有效迁移。

依据：核心公式、代码映射与边界；例子用于解释机制。

基础理解

FUSE 为什么不满足于把多个验证器分数直接平均？

问答新增：2026-10-27 · Stanford University

展开答案与例子

答案：相关验证器可能一起犯错，平均会重复计算同一类证据。FUSE从候选分数矩阵估计查询条件质量，选择变换缓解相关性，再构造估计后验训练集成器。

教学例子：三个几乎一样的验证器一致，不一定比一位独立验证器提供三倍可靠证据。

依据：背景与主要改动；例子用于解释机制。

核心机制

FUSE不用标准答案估计验证器质量，为什么仍不能保证相关验证器越多越可靠？

问答新增：2026-10-27 · Stanford University

展开答案与例子

答案：无标签矩估计依赖多数优于随机、三元条件独立等可识别假设，并用分数变换缓解相关性后形成估计后验。多个验证器若共享错误，增加数量仍可能重复同一偏差；后验不是金标。真实标签只用于独立评估，直接平均或读答案调权重都不等于实现该方法。

教学例子：例如三位验证器复制同一错误规则，分数一致不代表答案正确；估计器需要检查信号条件，不能把一致票数直接解释为独立证据。

依据：背景与主要改动、核心公式；例子用于解释机制。

方法对比

FUSE 的矩估计后验，与独立标准答案标签提供的保证相同吗？

问答新增：2026-10-27 · Stanford University

展开答案与例子

答案：不是。后验依赖多数优于随机、三元条件独立等识别假设，高相关或常量分数可能使估计失效。它是无标签估计，不能把高后验当作真实正确性或安全保证。

教学例子：所有验证器复制同一种错误规则时，一致性很高也未必能识别真实答案。

依据：核心公式；例子用于解释机制。

实现细节

无标签 FUSE 拟合中，标准答案能参与选择分数变换或集成参数吗？

问答新增：2026-10-27 · Stanford University

展开答案与例子

答案：按文档流程，拟合只读取验证器分数矩阵，真实标签留给独立评估。把Gold用于挑变换再在同一题集报告效果，会破坏无标签学习及独立评价的边界。

教学例子：先试很多变换并用答案选最好的一个，不能仍宣称选择过程未读取标准答案。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking

基础理解

组合水印为什么按周期 pattern 给不同词表分区加偏置？

问答新增：2026-10-27 · University of Minnesota

展开答案与例子

答案：生成时按当前tag轻微改变相应分区的logits，使序列出现可统计的周期结构；检测器再检查窗口对任意循环相位的匹配，用于水印与潜在编辑诊断。

教学例子：AB周期控制偏置分区，检测并不要求观察文本正好从周期第一个位置开始。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking

核心机制

组合水印检查所有循环相位，为什么仍可能漏掉整周期删除？

问答新增：2026-10-27 · University of Minnesota

展开答案与例子

答案：循环相位检测避免位置整体偏移就破坏匹配，但周期结构本身也产生盲区：删除完整周期可能保留相位与局部模式。全局检测与局部编辑提示须用独立校准阈值控制误报，不能把硬模式诊断外推为软水印完美定位。本地未运行完整模型编辑矩阵。

教学例子：例如周期为红蓝红蓝，删去完整一轮后余下仍与某循环相位吻合；这类编辑可能难以发现，而非把阈值调高就必然解决。

依据：背景与主要改动、核心公式；例子用于解释机制。

Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking

方法对比

全局 D 与局部 E(t) 的阈值判定，能互相替代吗？

问答新增：2026-10-27 · University of Minnesota

展开答案与例子

答案：全局均值用于判断整段是否有水印，局部覆盖窗口均值用于提示可能编辑位置；统计范围和阈值方向不同。阈值还需独立校准控制误报，不能用硬pattern样例推导软水印安全保证。

教学例子：整段全局通过，也可能有一小段局部得分低；局部低并不自动精确定位全部编辑。

依据：核心公式；例子用于解释机制。

Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking

实现细节

局部 E(t) 到文本边缘时，能补零并继续按同一检测合同算吗？

问答新增：2026-10-27 · University of Minnesota

展开答案与例子

答案：文档只在完整interior t=w−1到T−w定义局部统计，不补零边界、不改分母。还要检查所有循环相位，保留整周期删除的不可检测负控，而非声称所有删除必被发现。

教学例子：缺少完整覆盖窗口的开头位置，不应因人为补零被误标成编辑。

依据：核心公式、本地复现；例子用于解释机制。

Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders

基础理解

Mechanistic ETM 为什么以 SAE feature 而非词项作为主题观察？

问答新增：2026-10-27 · Columbia University

展开答案与例子

答案：它用稀疏激活方向描述文档概念，主题经冻结SAE encoder形成feature概率，再拟合文档比例与feature计数。可解释对象因此是模型内部方向，不只是高频词列表。

教学例子：不同表面词可激活相近概念feature，而同一词在不同语境中也未必代表同一主题。

依据：背景与主要改动、核心公式；例子用于解释机制。

Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders

核心机制

Mechanistic ETM为什么用SAE encoder构造主题概率，却用独立decoder做steering？

问答新增：2026-10-27 · Columbia University

展开答案与例子

答案：encoder把主题方向映射到特征激活概率，服务于计数的二项似然；decoder则把特征组合映回残差空间，服务于干预，二者不能隐式绑权。steering还需移除原有平行分量后注入指定强度，直接加向量会保留未知旧强度。本地公式核不含完整大模型主题实验。

教学例子：例如主题涉及几个稀疏特征，先估计它们出现概率，再用解码方向修改残差；若直接拿编码权重当解码方向，即使维度相容也改变了机制。

依据：背景与主要改动、核心公式；例子用于解释机制。

Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders

方法对比

feature 计数为什么用 Binomial，而不能先归一化成普通 multinomial 词袋？

问答新增：2026-10-27 · Columbia University

展开答案与例子

答案：每个feature在每token最多激活一次，但一个token可涉及多个feature，计数并非互斥词类别总数。按Ntokens形成独立feature计数模型，与把总计数强制归一化成词袋，是不同似然。

教学例子：同一token同时激活两个feature时，feature计数和可以超过token数量。

依据：核心公式；例子用于解释机制。

Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders

实现细节

ETM steering 的 strength=0，是否表示完全不改 activation？

问答新增：2026-10-27 · Columbia University

展开答案与例子

答案：不一定。文档先移除已有平行分量，再注入λs并加回decoder bias；λ=0仍会去掉原平行分量。它不是简单a+λs，且steering使用独立decoder，不能绑成encoder权重。

教学例子：原activation已沿主题方向投影很大，λ=0会删除该方向而非保持原值。

依据：核心公式；例子用于解释机制。