跳转至

Read this page in English

候选不变性:顺序、竞争者与概率校准

结构化决策 / 12 个问题 · 3 篇论文

先看问题,想一想,再展开答案。这里持续积累本子主题各篇论文的问答,一篇论文也可以追加多个问题。

阅读本主题精读卡片:多篇论文对比、分析与问答

学习层次

12 个问题 · 3 篇论文

结构化决策 / 候选不变性:顺序、竞争者与概率校准

基础理解

多正确选项任务要求返回一个答案,还是一个完整正确集合?

When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models

问答新增:2026-10-27 · Independent Researcher

展开答案与例子

答案:目标是恢复所有正确候选组成的集合,集合大小可能超过一。返回一个正确项只满足单选式命中,仍可能漏选;返回所有项也可能误选干扰项。因此先把输出单位从“一个赢家”改成“一个集合”,再理解排序、阈值与exact-set指标。

教学例子:正确集合是{甲,乙}时,仅返回甲不算完整恢复;返回甲乙丙也因多出丙而不满足精确集合。

依据:背景与主要改动、方法与本地协议;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

核心机制

多个正确选项都排在干扰项前面,为什么完整正确集合仍可能恢复失败?

When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models

问答新增:2026-10-27 · Independent Researcher

展开答案与例子

答案:候选份额总和受限,一个正确项吸走大部分质量时,另一个正确项虽排名靠前却可能低于阈值或均匀基线。排序正确与集合恢复因此不同,列表份额也不能直接当独立二元概率。部署阈值只可在验证集拟合后冻结,不能从测试曲线挑最佳点。

教学例子:例如两个正确选项分到很不均的份额,阈值只保留一个,尽管干扰项都更低;这说明单选命中不能替代完整集合的检查。

依据:背景与主要改动、方法与本地协议;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

方法对比

列表份额与独立二元概率为什么需要不同校准解释?

When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models

问答新增:2026-10-27 · Independent Researcher

展开答案与例子

答案:列表份额受同组其他候选影响,总和受限;独立二元概率允许多个选项同时很高。直接用同一阈值或可靠性解释,会把候选竞争误解为对错置信。

教学例子:例如再加入一个正确项会分走列表质量,却不必降低原项独立正确的可能性。

依据:背景与主要改动、方法与本地协议;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

实现细节

测试集阈值能根据测试exact-set曲线重新选择吗?

When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models

问答新增:2026-10-27 · Independent Researcher

展开答案与例子

答案:不能。可部署协议只在验证集网格选阈值,再冻结测试;原文同数据阈值曲线属于回溯诊断。预测器也不接收正确集合,避免监督信息直接决定选择。

教学例子:例如看完测试曲线才挑最佳点,只能说明事后上界,不能称作未见数据的效果。

依据:背景与主要改动、方法与本地协议;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

基础理解

Prism-1加入第三个选项后,要求旧两项概率数值完全不变吗?

Prism-1: Position- and Rival-Independent Scoring for System One Models

问答新增:2026-10-27 · Nanyang Technological University

展开答案与例子

答案:不要求。新增项会加入softmax分母,旧项份额可以同时下降;要求保持的是旧两项之间的相对赔率与排序。新项也可以成为赢家。这是候选选择的一种一致性约束,不能误读成模型必须无视所有新增选项。

教学例子:甲乙原为2比1,加入丙后可变成0.4和0.2;份额变了,但甲乙仍为2比1。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

核心机制

Prism-1为什么既隔离选项注意力,又让各选项从相同位置编号开始?

Prism-1: Position- and Rival-Independent Scoring for System One Models

问答新增:2026-10-27 · Nanyang Technological University

展开答案与例子

答案:每个选项分数只能依赖共享状态、问题和自身,隔离注意力避免读取其他选项,相同起始位置则排除顺序带来的位置差异。最后统一softmax允许分母变化,却应保留旧选项相对赔率。该假设不适合必须跨选项比较的以上皆非,也不防共享状态中的注入。

教学例子:例如新增第三个工具可成为赢家,也会降低旧工具的份额,但不应仅因插入位置就让原来两个工具交换排名;同位置与隔离共同约束读出。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

方法对比

Prism-1的独立选项假设,与“以上皆非”这类候选为什么不相容?

Prism-1: Position- and Rival-Independent Scoring for System One Models

问答新增:2026-10-27 · Nanyang Technological University

展开答案与例子

答案:独立分数只看共享状态、问题和该选项自身;“以上皆非”的正确含义却取决于其他选项是否成立,需要跨选项信息。这样的任务不能直接要求相同Luce约束。它说明结构假设的适用边界,不是模型多加训练即可消除的普通误差。

教学例子:把一个正确答案加入候选后,“以上皆非”应变错;若该项根本不能读取其他候选,就无法表达这层依赖。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

实现细节

Prism-1的选项block可以看到其他选项或沿用不同起点吗?

Prism-1: Position- and Rival-Independent Scoring for System One Models

问答新增:2026-10-27 · Nanyang Technological University

展开答案与例子

答案:不能。每块可读共享上下文并在块内因果注意,但不能读其他选项,各块从同一位置编号开始。否则独立分数假设不成立;共享上下文注入也仍不受此隔离保护。

教学例子:例如插入一个更长选项若推迟后面块的位置,就会引入本该消除的位置差异。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

基础理解

请求独立性为何是结构化决策输出之外的另一问题?

The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval

问答新增:2026-10-27 · Tsinghua University

展开答案与例子

答案:合法JSON或候选标签只保证格式,模型仍可能因多了无关问题而改变原判断。独立性审计固定证据与目标,专门测请求组合是否产生额外干扰。

教学例子:例如两个问题都返回合法概率,仍可能因为并排询问而使第一个结论翻转。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

核心机制

请求独立性审计为什么要把加问题、加证据与加候选分成三种干预?

The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval

问答新增:2026-10-27 · Tsinghua University

展开答案与例子

答案:加问题应保持目标命题和证据不变,才是在测无关请求干扰;加证据会真实改变上下文,加候选则引入归一化效应。混做一次无法定位翻转原因。候选扩展应比较原两项条件赔率,评分端持有的相关性标签、场景名与文档身份不能进入预测输入。

教学例子:例如仅多问一个无关问题就翻转原答案值得警惕;加入新证据后翻转可能合理,加入第三候选导致原概率变小也未必改变相对偏好。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

方法对比

候选扩展后原概率下降,与真正偏好翻转怎样区分?

The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval

问答新增:2026-10-27 · Tsinghua University

展开答案与例子

答案:加入候选自然增大softmax分母,因此原项份额下降不必是行为异常。比较原两项条件赔率或严格二元翻转,才能分离归一化与相对偏好变化。

教学例子:例如A从较高份额下降但仍胜B,只是新C分走质量,不等于A/B次序反了。

依据:背景与主要改动、核心公式;例子用于解释机制。

结构化决策 / 候选不变性:顺序、竞争者与概率校准

实现细节

恰好0.5的二元预测为什么不算strict flip?

The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval

问答新增:2026-10-27 · Tsinghua University

展开答案与例子

答案:严格翻转要求两次概率分别位于阈值两侧,乘积严格小于零;任一等于0.5另记tie。把边界点硬分边会夸大翻转,也会隐藏评分精度影响。

教学例子:例如一次是0.5、另一次偏向是,只能记边界变化,不能称明确从否翻到是。

依据:背景与主要改动、核心公式;例子用于解释机制。

主题导读与阅读路线

先想一个问题

只改选项顺序或加入无关候选,为什么原来的偏好可能改变?

记住这一点

Prism-1 从选择公理出发,让每个选项只读共享状态和自身内容,使用隔离 attention block 和相同起始位置,再对独立分数做 softmax。请求审计则把增加问题、增加证据和增加候选资格分开干预。这样才能区分模型依赖了其他题目、真正获得新证据,还是仅被归一化分母影响。

一个例子

原有 A、B 的指数分数是 2、1,加入分数为 5 的 C 后,A 的概率由 2/3 降到 2/8 是正常归一化;A 相对 B 的赔率仍应是 2。若旧二者排序互换,就要排查交叉选项注意力、位置变化或问题 schema 泄漏。

什么时候要小心

不变性不保证高准确率,也不禁止新候选 C 成为赢家。“以上皆非”等任务需要跨选项语义,不能机械套独立打分。严格翻转与恰好同分要分开,置信区间包含零也不能写成已证明没有影响;本地审计脚本不等于已生成论文模型预测。

先读这几篇

先读 Prism-1 的独立选项分数、block mask 和位置编号,明确不变性条件;再读请求审计的三类配对干预,学习怎样测量而不把概率归一化误判为偏好翻转。

  1. Prism-1: Position- and Rival-Independent Scoring for System One Models · 原论文
  2. The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval · 原论文

自测一下

加入 C 后 A 的绝对概率降低,就足以判定违反候选独立性吗?

展开参考答案

不足。先比较旧候选的条件概率 A/(A+B) 或赔率 A/B,并保持共享证据不变;分母加入 C 会自然降低 A 的绝对概率。还要区分新增有效信息与单纯候选资格变化。

跨主题搜索全部问答 · 最近新增