候选不变性:顺序、竞争者与概率校准¶
结构化决策 / 12 个问题 · 3 篇论文
先看问题,想一想,再展开答案。这里持续积累本子主题各篇论文的问答,一篇论文也可以追加多个问题。
12 个问题 · 3 篇论文
基础理解
多正确选项任务要求返回一个答案,还是一个完整正确集合?
核心机制
多个正确选项都排在干扰项前面,为什么完整正确集合仍可能恢复失败?
方法对比
列表份额与独立二元概率为什么需要不同校准解释?
实现细节
测试集阈值能根据测试exact-set曲线重新选择吗?
基础理解
Prism-1加入第三个选项后,要求旧两项概率数值完全不变吗?
Prism-1: Position- and Rival-Independent Scoring for System One Models
核心机制
Prism-1为什么既隔离选项注意力,又让各选项从相同位置编号开始?
Prism-1: Position- and Rival-Independent Scoring for System One Models
方法对比
Prism-1的独立选项假设,与“以上皆非”这类候选为什么不相容?
Prism-1: Position- and Rival-Independent Scoring for System One Models
实现细节
Prism-1的选项block可以看到其他选项或沿用不同起点吗?
Prism-1: Position- and Rival-Independent Scoring for System One Models
基础理解
请求独立性为何是结构化决策输出之外的另一问题?
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
核心机制
请求独立性审计为什么要把加问题、加证据与加候选分成三种干预?
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
方法对比
候选扩展后原概率下降,与真正偏好翻转怎样区分?
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
实现细节
恰好0.5的二元预测为什么不算strict flip?
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
主题导读与阅读路线
先想一个问题¶
只改选项顺序或加入无关候选,为什么原来的偏好可能改变?
记住这一点¶
Prism-1 从选择公理出发,让每个选项只读共享状态和自身内容,使用隔离 attention block 和相同起始位置,再对独立分数做 softmax。请求审计则把增加问题、增加证据和增加候选资格分开干预。这样才能区分模型依赖了其他题目、真正获得新证据,还是仅被归一化分母影响。
一个例子¶
原有 A、B 的指数分数是 2、1,加入分数为 5 的 C 后,A 的概率由 2/3 降到 2/8 是正常归一化;A 相对 B 的赔率仍应是 2。若旧二者排序互换,就要排查交叉选项注意力、位置变化或问题 schema 泄漏。
什么时候要小心¶
不变性不保证高准确率,也不禁止新候选 C 成为赢家。“以上皆非”等任务需要跨选项语义,不能机械套独立打分。严格翻转与恰好同分要分开,置信区间包含零也不能写成已证明没有影响;本地审计脚本不等于已生成论文模型预测。
先读这几篇¶
先读 Prism-1 的独立选项分数、block mask 和位置编号,明确不变性条件;再读请求审计的三类配对干预,学习怎样测量而不把概率归一化误判为偏好翻转。
- Prism-1: Position- and Rival-Independent Scoring for System One Models · 原论文
- The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval · 原论文
自测一下¶
加入 C 后 A 的绝对概率降低,就足以判定违反候选独立性吗?
展开参考答案
不足。先比较旧候选的条件概率 A/(A+B) 或赔率 A/B,并保持共享证据不变;分母加入 C 会自然降低 A 的绝对概率。还要区分新增有效信息与单纯候选资格变化。