LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
只取draft top-k时，把teacher也归一化到top-k上，与完整teacher比较有何区别？
SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding
问答新增：2026-11-04 · Qwen Business Unit of Alibaba / University of Science and Technology of China
展开答案与例子
答案：会删除teacher在draft无法提出的token上的质量，从而改变接受overlap目标。SpecOPD保留完整teacher归一化；draft支持之外q为零，仍会贡献分布不匹配。它不是为了计算方便就可任意换成teacher top-k条件分布。
教学例子：教学例：q=[.5,.5,0]、p=[.4,.4,.2]的overlap是.8；把p前两项归一化后会假装完全一致，错把损失.2变成0。
依据：核心公式、结果、负控与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
为什么相同的逐token overlap，顺序不同会改变SpecOPD损失？
SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding
问答新增：2026-11-04 · Qwen Business Unit of Alibaba / University of Science and Technology of China
展开答案与例子
答案：E2E-TV累加从分支开头到各位置的overlap乘积。早期mismatch会压低所有后续prefix项，末尾mismatch只影响末尾项。因此它不等于逐token TV的平均，且对有历史依赖的proposal只是训练surrogate，并非serving接受长度的无偏估计。
教学例子：教学例：overlap为[0.6,1,1]时三个prefix都是0.6；[1,1,0.6]时为1、1、0.6，后者损失更小。不是任何模型实测。
依据：核心公式、结果、负控与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
SpecOPD的reference固定，为什么还叫on-policy？
SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding
问答新增：2026-11-04 · Qwen Business Unit of Alibaba / University of Science and Technology of China
展开答案与例子
答案：固定的是外层reference上下文；每次更新在anchor后用当前draft重新采分支，教师监督的prefix含当前draft自己的历史。它不宣称完整reference响应由当前策略采样，也不要求等待顺序draft-and-verify完成整条响应。
教学例子：教学例：reference在a之后是quiet，当前draft可采出short；下一token的教师条件必须是a short，而不是a quiet。两条历史不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
proposal tree已经有因果mask，为什么还要单独检查prediction row？
SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding
问答新增：2026-11-04 · Qwen Business Unit of Alibaba / University of Science and Technology of China
展开答案与例子
答案：祖先mask防止读取未来reference和其他分支；但如果从当前采样token自身的hidden row预测该token，输入已经含答案。首token必须读anchor，后续读前驱token行，并使用语义位置而非packed offset。正确mask不能替代正确readout。
教学例子：教学例：采到short evening后，anchor行预测short，short行预测evening；拿evening自身行给evening打分仍然泄漏，即使该行只看自己的祖先。
依据：核心公式、数据协议与代码映射、结果、负控与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RLiD的方差定理能证明新训练的LDM一定比生成式LLM更好吗？
RLiD: Reinforcement Learning in the Decision Plane for Language Agents and LLMs
问答新增：2026-11-04 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不能。恒等式在同一个文本策略内，把映射到同一动作的不同措辞边缘化；优势在给定动作后不能依赖措辞。它保持期望更新并去掉措辞方差，不比较不同参数化/训练的模型，也不消除跨时间信用估计的噪声。
教学例子：教学例：open drawer和I should open drawer映射同一动作，可枚举并边缘化；若奖励另外奖励措辞礼貌，优势已依赖措辞，便不满足该前提。
依据：核心公式、数据协议与代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
只实现合法菜单和clipped PPO，是否就完成RLiD的Agent训练？
RLiD: Reinforcement Learning in the Decision Plane for Language Agents and LLMs
问答新增：2026-11-04 · University of Illinois Urbana-Champaign
展开答案与例子
答案：没有。old-policy logp和优势必须来自外部真实采样，保持冻结且与同菜单对齐；本地不提供LM、compiler、记忆、GiGPO或蒸馏。若传入平均episode长度除以本episode长度的权重，应对加权决策取均值，不能再随意除以权重和。
教学例子：教学例：两步episode每步权重.75，单步episode权重1.5，两者总权重同为1.5；这只检查长度平衡公式，不代表ALFWorld完整路线已达到论文99.3%。
依据：数据协议与代码映射、结果、负控与边界、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
RLiD的KL(uniform到菜单边际)，是否等同于让每条决策都更随机？
RLiD: Reinforcement Learning in the Decision Plane for Language Agents and LLMs
问答新增：2026-11-04 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不等同。先按菜单把微批次动作分布求均值，再约束该标签边际接近均匀；每条决策仍可很确定。逐决策entropy会鼓励每条都分散，改变了目标。外部校准减法又是另一种标签偏置处理，不能混成一个更新时序。
教学例子：教学例：两条二动作决策分别接近[1,0]和[0,1]，均值是[.5,.5]，边际KL为零，但各自entropy都低。
依据：核心公式、结果、负控与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RLiD的一个动作，和让LLM写一句动作命令有什么根本差别？
RLiD: Reinforcement Learning in the Decision Plane for Language Agents and LLMs
问答新增：2026-11-04 · University of Illinois Urbana-Champaign
展开答案与例子
答案：RLiD在已编译的合法单token菜单标签上归一化概率，一次前向直接选可执行动作，不生成或解析自由文本。收益依赖菜单和观测接口；它没有自动保留长推理文本带来的额外计算，也不能声称所有任务更强。
教学例子：教学例：菜单只有open、take两个动作时，选标签B直接映射take；自由文本可能写成没有可执行命令的解释。合法输出来自接口合同，不是100%任务成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
准确率提高2个百分点、成本下降刚好2%，是否自动满足Strategist的胜出规则？
Strategist: Evolving Reasoning with Agents
问答新增：2026-11-04 · Princeton University
展开答案与例子
答案：不满足，超过2个百分点或成本比严格小于0.98才构成对应的改善；同时另一指标不能恶化超过其容忍带。候选还须在validation与hidden都胜出，最终再按hidden准确率增益、成本比排序。默认规则不是置信区间检验，不能因为计算了标准误就称显著提升。
教学例子：教学例：d=0.02、成本比=0.98只是两项并列；d=0、成本比=0.97可构成成本胜出，但如果hidden准确率下降3个百分点，仍不能晋级。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
Strategist与EvalAlloc都看候选测量，它们实际优化的是同一个对象吗？
Strategist: Evolving Reasoning with Agents
问答新增：2026-11-04 · Princeton University
展开答案与例子
答案：不是。Strategist提出并组合可执行推理策略，把结构及经验保留给后续任务；EvalAlloc主要治理哪些SEARCH评测cell值得执行、如何利用共享参照估计候选fitness并最终确认。低成本观测或高预测分不等于已生成更好的策略，单纯策略入库也不等于通过留出集。
教学例子：教学例：少测100个item是评测预算变化；把单次回答换成可复用的分解—审查程序是策略结构变化。两者可结合，但应分别记录费用和真实留出成功。
依据：背景与主要改动、本地结果与负控、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Strategist积累的是模型参数、当前答案，还是另一种跨任务资产？
Strategist: Evolving Reasoning with Agents
问答新增：2026-11-04 · Princeton University
展开答案与例子
答案：它冻结执行模型，把推理程序表示成有统一execute接口的Python blueprint，并在实测后连同测量卡和训练轨迹经验进入跨任务库。具体任务提示与结构分开；后续任务可组合或复用旧结构，不等于模型经过梯度训练，也不只是当前答案修订。
教学例子：教学例：一次发现“先做三个候选再独立审查”的流程，可在下一领域换提示继续测试；保存某道题的最终数字并不是可复用blueprint机制。
依据：背景与主要改动、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
为什么本地AST去重、DAG和paired-pick全部通过，仍不能称已经完成Strategist或Evolve接入？
Strategist: Evolving Reasoning with Agents
问答新增：2026-11-04 · Princeton University
展开答案与例子
答案：模块不调用设计器或执行模型，检索分数和候选评价由外部提供。显式prompt剔除只是结构指纹，不能证明helper语义或动态依赖；paired-pick也不隔离Python进程的hidden数据。真实候选生成、执行、检索和信息流隔离都要独立验收，当前只允许CPU组件诊断，不支持能力晋级。
教学例子：教学例：合成0.7准确率、成本10和8的两臂能检验成本比0.8与回退规则，却没有任何模型真正回答过题目，更没有证明跨任务搜索有效。
依据：数据协议与实现边界、本地结果与负控、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
ADC与显式重构距离完全相等，是否证明比SID检索或双塔召回更好？
WeSearch: A Unified Model-Centric Retrieval Framework for WeChat Search
问答新增：2026-11-04 · Tencent
展开答案与例子
答案：不能。它只说明对同一量化表示的计算等价，不说明表示质量、簇覆盖或精排效果。质量比较还需要训练过的查询模型、码本、特征FFN和固定候选预算。原文A/B属于完整生产系统，不能归因于本地查表核。
教学例子：教学例：坏码本把所有文档压成同一码时，ADC仍可与显式距离精确一致，但文档已经不可区分。
依据：论文离线与线上效果、数据协议与结果解释；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
新文档挂载能否顺便修改旧码本，并把构造新数组叫原子更新？
WeSearch: A Unified Model-Centric Retrieval Framework for WeChat Search
问答新增：2026-11-04 · Tencent
展开答案与例子
答案：不能。挂载复用固定簇、旋转和码本，修改参数会使旧码失配，需要完整模型/索引版本刷新。构造不可变新快照只保证旧视图不被原地修改，真正可见性切换和分布式原子性仍由外部服务负责。
教学例子：教学例：旧码1代表蓝色，刷新码本后码1变红，旧文档会被错误解释；应把新模型和重编码索引一起切换，而非只覆盖码本。
依据：背景与主要改动、代码映射、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
WeSearch选择簇和生成完整SID路径有什么根本区别？
WeSearch: A Unified Model-Centric Retrieval Framework for WeChat Search
问答新增：2026-11-04 · Tencent
展开答案与例子
答案：簇只限定候选空间，选中多个簇后合并其原子文档，再单独做文档匹配；它不要求簇路径完整描述文档语义。固定SID逐前缀生成则可能在早期错误处永久剪掉相关文档。簇候选仍可能漏召回，不是消除了所有误差。
教学例子：教学例：一篇同时谈摄影和旅行的文章很难只有一条语义路径；先取摄影和旅行两个候选簇，再比较具体文章，和强制先选唯一顶层前缀不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
ADC查表求和得到的数值是否就是粗排分数？
WeSearch: A Unified Model-Centric Retrieval Framework for WeChat Search
问答新增：2026-11-04 · Tencent
展开答案与例子
答案：不是。子空间表存的是旋转query到码字的平方L2，按文档码查表求和得到平方距离。论文粗排分数是其负平方根。二者排序等价，但距离阈值和数值不能直接互换；重构向量也还在旋转空间。
教学例子：教学例：两个子空间距离平方为9和16，ADC和为25，粗排分数是-5，不是-25；若误用阈值-10，接受集合会改变。
依据：核心公式、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
为什么分层隔离既要反向约束输入，又要保留fusion检查VREG？
XLA from the Trenches: Correctness on TPU Workloads at Scale
问答新增：2026-11-04 · Google
展开答案与例子
答案：反向约束避免负数开方、除零等非法输入制造伪差异；宏图定位只缩小到fusion，内部lowering错误仍需查看寄存器中间值。拆fusion会改变内存精度和流水，使原bug消失，因此不能把拆图后正常当作原融合已经正确。
教学例子：教学例：r=x−f32(f16(x))若在VREG中被省略舍入会全零；调试拆图后落入16位HBM反而恢复舍入，因此应观察原fusion而非替换它。
依据：核心机制与数值例子、资源与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
有公开OpenXLA代码，为什么本库仍将完整论文标为不复现，而不在A100跑个替代？
XLA from the Trenches: Correctness on TPU Workloads at Scale
问答新增：2026-11-04 · Google
展开答案与例子
答案：公开macro隔离和evaluator只是部分链路；内部生产图、agent harness、目标ISA与MXU模拟、VREG逐步硬件调试和真实TPU确认并不随框架开源。A100没有相同寄存器/舍入/编译语义，运行CUDA例子不能验证TPU缺陷。资源和可得性不匹配，所以审查DONE、不复现而不伪造通过。
教学例子：教学例：在CUDA上正确执行两次cast，不能证明某TPU lowering没有跳过cast；两者最终数值相同也没有覆盖原始TPU生成代码。
依据：已核查与未实现、资源与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
142项已修复、103项审查中，以及线上A/B收益，为什么是三种不同证据？
XLA from the Trenches: Correctness on TPU Workloads at Scale
问答新增：2026-11-04 · Google
展开答案与例子
答案：已修复描述经工程流程解决的缺陷数；审查中仍可能被驳回或修改，不能相加成245项已修复。用户A/B需要真实分流对照和业务指标，不能从bug数量推出。本文符合Google系统基础设施收录，但不是因此通过工业推荐A/B门槛。
教学例子：教学例：提交10个补丁、合入6个、其余4个审查中，完成数是6而不是10；即使全部合入，也没有给出CTR提升的随机实验。
依据：论文工程与线上证据、背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
编译成功、程序没有崩溃，为什么还不能说明XLA执行正确？
XLA from the Trenches: Correctness on TPU Workloads at Scale
问答新增：2026-11-04 · Google
展开答案与例子
答案：静默错编译会返回合法形状的有限张量，但索引、舍入、buffer或同步语义已出错。没有错误信号，只看运行完成或loss短期正常会漏检；论文依赖合法输入下的差分参考及逐层隔离，不把成功启动当作正确性证据。
教学例子：教学例：一次窄整数iota回绕可能让索引5的写操作也改到261，程序仍执行完成，只有与正确索引语义的输出比较才暴露问题。
依据：背景与主要改动、核心机制与数值例子；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
为什么 momentum 必须重投影到当前 BA 的乘积空间，而不能原样保留旧稠密方向？
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
问答新增：2026-11-04 · Shanghai Jiao Tong University
展开答案与例子
答案：B、A 改变后，可由当前因子一阶变化实现的子空间也会改变。ProLand先用当前Π重投影旧EMA，再与当前投影梯度混合，确保动量仍位于当前可实现空间。thin-factor算法从同一loss的两因子梯度重建这个量，并非给A和B各维护一个普通Muon动量。
教学例子：教学例：旧B只覆盖第一坐标，新B转向第二坐标，旧空间的方向未必能由新因子保持原样实现；应先按新PB与PA计算Π，再更新EMA。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
实现时为什么不能先改 A 再用新 A 计算 B 的更新，也不能把ρ再乘学习率？
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
问答新增：2026-11-04 · Shanghai Jiao Tong University
展开答案与例子
答案：Algorithm1/2规定DA、DB、Gram偏差均由同一旧因子对计算，再同时应用；顺序更新会引入额外耦合项。Landing的ρ是独立步长，公式中没有额外γ。还需紧致polar把零奇异方向保持零，并承认秩变附近伪逆的浮点病态性。
教学例子：教学例：γ=.01、ρ=.05时Landing系数是.05，不是.0005；误乘会把恢复强度缩小100倍。零核心若误用完整UVᵀ，还可能在零梯度时凭空更新。
依据：核心公式、实现与运行、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
对 A 和 B 分别求 polar，与先在 BA 空间求 polar 再分解方向，有什么区别？
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
问答新增：2026-11-04 · Shanghai Jiao Tong University
展开答案与例子
答案：polar不是线性映射，两因子的参数化还存在缩放自由度；独立谱更新无法保证两者组合就是乘积空间选中的方向。ProLand由Y统一构造DA=B†Y与DB=(I−PB)YA†，使BDA+DBA等于ΠY，并满足BᵀDB=0。
教学例子：教学例：把B乘2、A除2不改变BA，却改变独立因子梯度的尺度与几何；仅因为两条路径都调用polar，不能认定它们更新相同的ΔW。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
ProLand 为什么在 B 的正交约束暂时不满足时仍允许优化，而不是每步投回去？
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
问答新增：2026-11-04 · Shanghai Jiao Tong University
展开答案与例子
答案：它将乘积 BA 的目标方向与恢复 B 正交性的 Landing 分开。水平条件 BᵀDB=0 让目标更新只在二阶扰动 Gram 偏差，独立校正再逐步拉回约束附近。每步 retraction 会改变优化路径，并不是同一个算法；允许暂时不可行也不代表任何步长都稳定。
教学例子：教学例：BᵀB=1.08 的一维基可以先沿水平目标方向前进，再减去ρB×0.08；若直接把 B 归一化到1，则走了不同的路径。这个例子不是GLUE效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
论文标题提到Balanced OT，为什么实现不能固定所有视觉列的边际等式？
GAVAGAI: Referential Alignment for Infant-Scale Vision-Language Models via Balanced Optimal Transport
问答新增：2026-11-04 · St Thomas’ College of Engineering and Technology
展开答案与例子
答案：Eq1真正约束是每词行和等于1，而视觉列和只要求不超过b，Nothing不封顶。对应对偶更新是v=min(1,b/(Kᵀu))。强制列和恰等于b会让图中未被命名的区域也被分配质量，改变可行域和方法含义。
教学例子：教学例：两个词都不对应图中物体、某视觉列容量.8时，合法解可把接近2的质量送到Nothing、视觉列接近0；不能为了花完.8容量而强行指称该物体。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
为什么8次Sinkhorn后不能随手把每行再归一化，又为何对齐loss必须停掉plan梯度？
GAVAGAI: Referential Alignment for Infant-Scale Vision-Language Models via Balanced Optimal Transport
问答新增：2026-11-04 · St Thomas’ College of Engineering and Technology
展开答案与例子
答案：最后一次列缩放保证容量上界，但有限次迭代的行和可能偏离1；再归一化行可能重新超容量，应暴露残差而非隐藏。Eq3规定P固定、梯度只经成本C，因此对齐项梯度是λP。Nothing hinge的额外可微路径在v1未说明，本地只记录固定plan值，不伪造完整防塌缩训练。
教学例子：教学例：某行和.8，归一化会把其视觉质量乘1.25，原本刚好饱和的视觉列可能超标。λ=.1时成本梯度应是.1P，而不是再穿过8次缩放的自动微分图。
依据：核心公式、检查与负控、成本判断与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
容量不活跃时，GAVAGAI与逐行softmax的关系是什么？这代表完整方法没有区别吗？
GAVAGAI: Referential Alignment for Infant-Scale Vision-Language Models via Balanced Optimal Transport
问答新增：2026-11-04 · St Thomas’ College of Engineering and Technology
展开答案与例子
答案：若每个视觉容量至少为词数n，所有列乘子保持1，OT就退化为包含Nothing的逐行softmax；再删Nothing才得到强制视觉指称的朴素基线。这是有用的退化核验，不表示容量活跃时也等价，更不能据小矩阵结果声称SAYCam提升。
教学例子：教学例：3个词时将每列容量设为3，视觉列不可能超额；把同一容量改为.4后，多个词竞争该区域，行与列的缩放就耦合起来。
依据：核心公式、检查与负控、论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
GAVAGAI 为什么同时需要 Nothing 和区域容量，而不是二选一？
GAVAGAI: Referential Alignment for Infant-Scale Vision-Language Models via Balanced Optimal Transport
问答新增：2026-11-04 · St Thomas’ College of Engineering and Technology
展开答案与例子
答案：Nothing允许不指称可见物体的词不被强制分给背景；区域容量防止少数常见背景吸收许多不同词。只有容量而没有Nothing仍须把质量塞进视觉区域；只有Nothing而无容量则不能限制某个背景区域的集中吸收。两条约束处理不同故障。
教学例子：教学例：一句话含hungry、ball，图中有球和手。hungry可去Nothing，ball去球；手的容量还阻止许多无关词都被分到手。教学分配不是模型测量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
网页被登录墙挡住后，为什么找到标题相近的页面还不能算AgentHeal恢复成功？
AgentHeal: Evaluating Goal-Preserving Resource Recovery of Web Agents under Access Barriers
问答新增：2026-11-04 · University of Science and Technology of China
展开答案与例子
答案：替代资源可能是不同作品或不可核对来源的look-alike，也可能是同作品的旧版本。AgentHeal保留原目标：有同版本副本时应优先使用；只有其他版本时要声明差异；根本无合法替代时要弃答并解释障碍，必要时向用户求助，而不是把相似主题当作等价。
教学例子：教学例：用户要论文v2的某指标，搜索到同名v1不能悄悄当v2；如果v2有机构仓库副本就应使用它，否则仅有v1时明确版本差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
AgentPerturb要求扰动后仍可解，AgentHeal却包含不可恢复任务，为什么不矛盾？
AgentHeal: Evaluating Goal-Preserving Resource Recovery of Web Agents under Access Barriers
问答新增：2026-11-04 · University of Science and Technology of China
展开答案与例子
答案：它们的测量目标不同。AgentPerturb比较同目标的配对稳健性，不应把破坏可解性当作能力下降；AgentHeal显式标记不可恢复regime，测是否诚实弃答、准确诊断并尊重政策，而非继续要求不存在的答案。可恢复与不可恢复必须分组报告，不能把它们混成总答题准确率。
教学例子：教学例：删掉唯一证据又要求回答原数字，会构成不公平扰动；把该情况明确设为无解并评价是否拒绝编造，才是在测恢复可靠性。
依据：背景与主要改动、核心公式、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
本地诊断知道work、version和可达资源，这会不会让Agent直接看到正确恢复路径？
AgentHeal: Evaluating Goal-Preserving Resource Recovery of Web Agents under Access Barriers
问答新增：2026-11-04 · University of Science and Technology of China
展开答案与例子
答案：这些是独立评测者的标注，模块根本不调用actor，不能把它们作为被测Agent的观察。来源归因和逐动作政策判断也由外层提供，不由本地字符串规则自动完成。四条合成真值表得到TS=0.5仅说明判定合同，不能当Agent真实能力；真正浏览器评测仍需分离actor、gold和judge。
教学例子：教学例：把copy_id直接给模型再测恢复率会泄露路径；只在模型提交后让独立评价者检查其访问记录和引用来源，才维持评测边界。
依据：数据协议与实现边界、本地结果与负控、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
AgentHeal的副本分支与其他版本分支，来源集合条件为什么不能写成同一个判断？
AgentHeal: Evaluating Goal-Preserving Resource Recovery of Web Agents under Access Barriers
问答新增：2026-11-04 · University of Science and Technology of China
展开答案与例子
答案：原文Eq1在精确副本可达时要求来源集合与副本集合交集非空；只有其他版本可达时则要求非空来源集合全部属于这些版本，并声明other。任何禁止行动又会把最终成功乘成0。自行把前者增强为全部来源都属副本，或把后者放宽为含一个版本，都改变了原文。
教学例子：教学例：只有v1可达时，用v1加一个诱饵拼出答案，即使声明other也失败；有v2副本时，Eq1本身只检查来源含v2，不能把它解释成语义答案正确性已经被证明。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
MPOPD把几何混合用在采样策略上，和用它当学生蒸馏target有什么区别？
Proposing Better Rollouts for On-Policy Distillation
问答新增：2026-10-30 · University of Illinois Urbana-Champaign
展开答案与例子
答案：前者改变实际访问的prefix，由学到的proposal产生轨迹；学生仍向教师做反向KL，并处理proposal与old学生的差距。直接把混合分布当学生target改变的是训练目标，却不一定让原学生采样到教师更支持的路径。两者不能作为同一个算法。
教学例子：教学例：一条好路径在学生下几乎不被采到，给已采到的坏路径重加权并不能补出这条未采集路径；proposal改采样分布才可能访问它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
为什么真实梯度通过后，还不能说完整MPOPD蒸馏已接入？
Proposing Better Rollouts for On-Policy Distillation
问答新增：2026-10-30 · University of Illinois Urbana-Champaign
展开答案与例子
答案：张量核没有采样器、LM复制或teacher调用。完整配置每轮proposal要从更新后学生重置，再向新几何target优化；学生KL和target又按同一教师top-k支持重新归一化。接口只能验证这些数值，不证明外部trajectory来源、参数初始化或长链训练真实完成。
教学例子：教学例：拿旧模型缓存prefix输入两个loss仍能正常反向传播，但不能宣称是当前proposal在线采样。CUDA小数组验证也不是16套推理benchmark的准确率。
依据：数据协议与实现边界、代码映射、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
学生第j个位置的KL应乘哪个重要性权重？
Proposing Better Rollouts for On-Policy Distillation
问答新增：2026-10-30 · University of Illinois Urbana-Champaign
展开答案与例子
答案：论文Eq7使用前一位置的单步ratio w[j-1]，首个prefix权重为1；ratio由冻结old学生与old proposal在采样token上的概率形成并裁剪。它既不是当前token的ratio，也不是所有更早ratio的累积乘积；更新中的学生不能参与重新计算这份快照。
教学例子：教学例：前三个采样ratio为4、0.25、4时，三个KL权重应是[1,4,0.25]，不是[4,0.25,4]或[1,4,1]。
依据：核心公式、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
固定eta的几何混合，是否等于概率平均或固定KL半径？
Proposing Better Rollouts for On-Policy Distillation
问答新增：2026-10-30 · University of Illinois Urbana-Champaign
展开答案与例子
答案：都不等于。几何混合相加的是加权log概率再归一化，而不是直接平均概率；不同prefix的师生分布不同，同一eta产生的位移KL也不同。局部固定半径推导可以得到prefix相关eta，作者实际用全局调节值只是计算折中。
教学例子：教学例：一个prefix师生几乎相同，eta=0.4基本不动；另一个prefix两者明显冲突，同样eta会移动更多质量，不能说每处都走了相同距离。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
同一batch的第一个组能否只用此前历史来决定CONCUR-A是否绑住ceiling？
CONCUR: Concordant Auxiliary Rewards for Multi-Task, Multi-Reward Reinforcement Learning
问答新增：2026-10-30 · Carnegie Mellon University
展开答案与例子
答案：不能。Algorithm1先合并本batch所有有效读数，再让同一task/auxiliary共享本步策略，随后才逐组投影。逐组边读边更新会让数据排列改变估计器。最后白化也跨整个多任务batch，不能对各组独立归一化。
教学例子：教学例：历史有60条正一致读数，当前batch第二个组带来第61条；第一个组也必须使用合并后的本步信任状态。本地数组通过只证明该顺序，不代表LLM训练收益。
依据：核心公式、数据协议与实现边界、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
原始奖励已经gate了辅助分量，为什么标准化后仍可能违背主奖励优先级？
CONCUR: Concordant Auxiliary Rewards for Multi-Task, Multi-Reward Reinforcement Learning
问答新增：2026-10-30 · Carnegie Mellon University
展开答案与例子
答案：gate只限制失败响应的原始辅助分数；每个奖励单独居中和缩放后，辅助差异可能被放大并反转主奖励排序。到顶组的主奖励又是常数，标准化为零，辅助就可能单独决定更新。CONCUR因此约束标准化后的分量，而不是只改原始gate。
教学例子：教学例：两条都正确的响应只差极少长度奖励，主优势为零而长度优势可被缩放到单位方差；这不是模型真的学会更多正确答案的证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
为什么PAVA前要按primary再按辅助分数排序，却不能把所有相同primary都平均？
CONCUR: Concordant Auxiliary Rewards for Multi-Task, Multi-Reward Reinforcement Learning
问答新增：2026-10-30 · Carnegie Mellon University
展开答案与例子
答案：约束只要求primary严格更高时辅助分数不能更低；相同primary且未到顶的响应之间没有并列约束。先按辅助分数排列这些响应，可让PAVA只修复真正的跨primary违例。只有启用ceiling tie时，到顶响应才必须相等。
教学例子：教学例：primary为[0.3,0.3,0.7]、辅助优势为[-1,0,1]已经可行，输出应保持不变；先把两个0.3位置平均成-0.5会加入论文没有的约束。
依据：核心公式、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
CONCUR-A超过双标准误门槛，是否就证明辅助奖励在到顶区域可靠？
CONCUR: Concordant Auxiliary Rewards for Multi-Task, Multi-Reward Reinforcement Learning
问答新增：2026-10-30 · Carnegie Mellon University
展开答案与例子
答案：不是。它汇总passing且primary不同的响应对的一致性，至少61条有效读数后用均值大于两倍标准误的固定规则放开并列。读数随训练分布变化，并非独立同分布；到顶响应之间也未被该统计直接比较，所以作者不赋予显著性水平或普适可靠性保证。
教学例子：教学例：前期辅助与主奖励正相关，后期反转，累计均值可能重新落回门槛内，ceiling应重新绑住，而不是第一次解锁后永久放开。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么当前状态不能一起gate，为什么还需要真实错配的discrimination？
SWIM: Learning What Matters from Behaviors for JEPA World Models
问答新增：2026-10-30 · Boston University / Unity Technologies
展开答案与例子
答案：当前状态提供动作发生的完整上下文，论文只门控未来位移；把两者都gate会改掉逆动力学输入定义。仅拟合正例时，模型可能忽略未来变化、只靠当前状态预测动作；cyclic错配让同一个当前状态和动作与错误未来对比，促使门控保留行为相关的位移信息。
教学例子：记录动作是向右，当前位置保持不变，正例未来向右；负例换成batch下一条未来再减当前位置。不能同时把当前状态也换掉，否则模型可能利用不同上下文区分正负。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
怎样防止组件测试把“L1让gate变小”误当作学到了行为，或把未来state泄露到规划？
SWIM: Learning What Matters from Behaviors for JEPA World Models
问答新增：2026-10-30 · Boston University / Unity Technologies
展开答案与例子
答案：先单独检查去掉L1后的行为项仍给gate梯度，再检查真实optimizer更新，而不只看参数有变化。第二阶段state距离停梯度，未来state只在离线训练构造位移，部署接口不能读取它。常量距离的Pearson没有定义，应拒绝，不能加任意epsilon后当成几何学习有效。
教学例子：若只算λsum(g)，gate当然会下降，即使记录动作全被忽略；因此本地另算λ=0的梯度。若所有frame pairs距离都为0，相关度分母为0，应报错而不是写成功率1。
依据：本地复现、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
把状态乘g还是sqrt(g)，以及之后再标准化，会得到同一个距离吗？
SWIM: Learning What Matters from Behaviors for JEPA World Models
问答新增：2026-10-30 · Boston University / Unity Technologies
展开答案与例子
答案：不会。要让平方距离中的每维系数是g，坐标必须乘sqrt(g)；乘g会得到g²。权重作用于已经标准化的状态，之后再逐坐标标准化会抵消缩放。整体gate尺度在Pearson相关中会抵消，且可被逆模型吸收，所以绝对gate值也不是唯一可识别的重要性刻度。
教学例子：一维差值2、gate0.25，目标距离为0.25×4=1；乘sqrt(g)=0.5再平方也是1，直接乘g再平方却是0.25。再除以缩放后的标准差会把0.5抵消。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
SWIM学到的是机器人策略，还是状态距离该看哪些坐标？
SWIM: Learning What Matters from Behaviors for JEPA World Models
问答新增：2026-10-30 · Boston University / Unity Technologies
展开答案与例子
答案：SWIM先从离线记录动作中学习连续状态坐标权重，再用它构造world-model几何监督。逆动力学预测记录动作只是学习权重的训练目标；实际部署仍由图像encoder、latent dynamics和CEM等规划器决定动作。本地仅实现门控目标与距离，不等于可执行机器人策略。
教学例子：状态含方块位置和背景灯颜色，行为数据可能让方块位置获得较高相对权重；这只改变“相距多远”的定义，并没有直接输出抓取轨迹。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Eq.7的二阶矩与协方差差在哪里，为什么会影响路由？
Multi-State Linear Attention with Generalized Second-Order Routing
问答新增：2026-10-30 · Princeton University
展开答案与例子
答案：论文保存mean(kkᵀ)，没有预先减均值；查询方差随后由qᵀΣq−(qᵀμ)²恢复。若把协方差传进去再减一次均值平方，会重复中心化；若直接把原始二阶矩当作方差，则把均值强度也算进去。本地以逐key点积的方差作为独立参考。
教学例子：keys为[1,3]，均值2、原始二阶矩5、方差1；把5直接当方差会多算4，把已中心化的1再减4则得到错误的−3。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
为什么本地只开放已完成段，不能把完整当前段统计直接给段内早期query？
Multi-State Linear Attention with Generalized Second-Order Routing
问答新增：2026-10-30 · Princeton University
展开答案与例子
答案：完整段均值和二阶矩包含该段后续token。如果早期query读取这些统计，会在路由阶段泄露未来。完整模型可以维护当前前缀的递归状态和矩，但本地没有实现这条路径，因此明确只开放已完成段，拒绝无可见段的调用，不用全段统计假装因果。
教学例子：段[start=4,length=4]覆盖位置4到7。query位置6时该段未完成，位置7时才可见；如果位置4就读取全部4个keys，已经用到了位置5到7。
依据：本地复现、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
混合两个softmax与先混合logits再softmax，为什么不能互换？
Multi-State Linear Attention with Generalized Second-Order Routing
问答新增：2026-10-30 · Princeton University
展开答案与例子
答案：softmax是非线性映射。MERLIN先分别形成均值路由和方差路由的概率分布，再以gamma作概率混合；单个混合logitsoftmax会重新分配竞争关系和归一化常数。两者即使都归一化到1，也不是同一个路由规则。
教学例子：两段均值logits为[4,0]、方差logits为[0,0]、gamma为0.5，论文混合约为[0.741,0.259]；先混合logits[2,0]后softmax约为[0.881,0.119]。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
为什么分段 key 均值相同，多状态注意力仍需要区别对待？
Multi-State Linear Attention with Generalized Second-Order Routing
问答新增：2026-10-30 · Princeton University
展开答案与例子
答案：均值只描述平均对齐，不能区分段内是否存在很强但被其他 keys 抵消的匹配。MERLIN额外保存原始二阶矩，从中计算特定query方向的对齐方差，再与均值路由混合。这是增加段级路由信息，不是恢复每个token的完整attention。
教学例子：一维两段keys分别为[-2,2]与[0,0]，均值都是0；query为1时，前者对齐方差4，后者0，均值路由看不出差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
为何要把ridge解重新缩放到μᵀu=1，而不是直接用无约束最小二乘方向？
Folding Attention Biases into Keys Makes Compacted KV Caches Run on Standard Kernels
问答新增：2026-10-30 · Independent Researcher
展开答案与例子
答案：无约束最小二乘会在平均偏差和投影离散之间折中，可能把所有bias整体衰减。论文在ridge稳定的逆协方差方向上重新定长，强制平均投影为1，再最小化该约束下的离散程度。协方差按N计算，ridge也随其trace定义，不能任意换成N−1口径。
教学例子：一维μ=2、方差1，无ridge时无约束LS方向为2/5，平均投影0.8；约束方向为1/2，平均投影恰为1。两者不是同一校准目标。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
为什么必须先真实转成BF16，再拟合values？只在结果里写BF16不够吗？
Folding Attention Biases into Keys Makes Compacted KV Caches Run on Standard Kernels
问答新增：2026-10-30 · Independent Researcher
展开答案与例子
答案：values最小二乘拟合使用的attention必须与实际舍入后的keys一致。若先在高精度keys上拟合，再把keys舍入，得到的是另一个attention矩阵，正规方程不再对应最终keys。本地实际执行dtype转换再构造A，返回拟合精度系数；完整cache安装、values存储舍入和后端正确性仍需另验。
教学例子：折叠key的某分量为1.003，BF16会舍到1.0。拟合A时若仍使用1.003，相当于让values补偿一张部署时不会出现的attention表。
依据：核心公式、本地复现、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
FoldBias为什么比直接删除bias更有根据，但又不能保证每个query都更好？
Folding Attention Biases into Keys Makes Compacted KV Caches Run on Standard Kernels
问答新增：2026-10-30 · Independent Researcher
展开答案与例子
答案：删除bias相当于把所有bias乘0；折叠相当于乘q·u，在上下文拟合良好且未来query接近时更接近乘1。若未来query远离拟合超平面，q·u可能很差。误差界还依赖bias范围和values直径，只在同values、未舍入keys的比较成立，不自动覆盖重拟合后的serving系统。
教学例子：q·u=0.9时仅留下10%的bias误差；若漂移到−2，则误差系数为3，可能比删除bias的系数1更差。该例不是LLM准确率。
依据：背景与主要改动、核心公式、论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
把静态bias移进key，为什么不可能对所有未来query都严格等价？
Folding Attention Biases into Keys Makes Compacted KV Caches Run on Standard Kernels
问答新增：2026-10-30 · Independent Researcher
展开答案与例子
答案：key位移贡献的是query的线性函数，而非零bias是与query无关的常数；两者无法在整个query空间相等。FoldBias拟合共享方向u，让上下文query的q·u尽量接近1，未来query漂移仍可能导致误差。因此它是分布相关的近似，不是通用代数恒等替换。
教学例子：若query取零向量，任何key位移产生的logit变化都为0，不可能等于非零bias0.8；若某个query满足q·u=1，则该query的bias可精确表达。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
为什么相同大小的独立随机item集合不等于sharedcore？
Where Should the Evaluation Budget Go in LLM-Driven Agent Scaffold Evolution?
问答新增：2026-10-30 · The University of Hong Kong
展开答案与例子
答案：共同item为候选差值引入配对协方差，竞争候选常在多数item上一致，配对有助于减少集合难度差异。冻结item模型和prior还保证历代分数用同一参照；如果每个候选都重拟合item参数，旧分数与新分数就不再处于相同尺度。这个益处仍依赖候选相关性，不是普遍无条件降方差保证。
教学例子：教学例：候选A全碰难题、B全碰易题时，平均分不能直接比较；让两者至少共享同一信息核心，比只规定两者都做60题更有可比性。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
搜索反馈便宜就够了，为什么最后仍要做额外确认？
Where Should the Evaluation Budget Go in LLM-Driven Agent Scaffold Evolution?
问答新增：2026-10-30 · The University of Hong Kong
展开答案与例子
答案：搜索时只需足够可比的低成本反馈来指导提案；最后选冠军需要区分接近的候选。EvalAlloc因此把预算分成共享信息项的稀疏搜索和复用缓存的配对确认，最终完整prefix靠真实观测决定，而不是一直相信模型补全。
教学例子：教学例：两个候选预测分只差0.01时，可以先据便宜反馈继续探索，但最终选哪个不应只看这个不确定的差值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
一个任务拿到0.9部分分，能否给信息项获取统计的成功次数加0.9？
Where Should the Evaluation Budget Go in LLM-Driven Agent Scaffold Evolution?
问答新增：2026-10-30 · The University of Hong Kong
展开答案与例子
答案：不能。论文获取统计只计满分次数a_i，用Beta后验估计p(1-p)的保守信息度；部分分在这个统计中计未满分，但仍作为分数进入响应模型。把两个阶段混用，会改变被选入sharedcore的item。
教学例子：教学例：十次都是0.9分，获取统计a=0、n=10，不是a=9；这不是说0.9分在模型拟合和最终成绩中被当成0。
依据：核心公式、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
配对确认为什么保留搜索缓存的union，并检查cross-fit训练candidate身份？
Where Should the Evaluation Budget Go in LLM-Driven Agent Scaffold Evolution?
问答新增：2026-10-30 · The University of Hong Kong
展开答案与例子
答案：已执行cell不应重付成本，公共prefix只补缺失item；union也不能删掉原来的candidate特定观测。后续校正使用外部两折refit预测，当前candidate不能训练用来校正自己的item模型，否则产生自拟合偏差。全部item真实观测到时校正项为零。
教学例子：教学例：A在搜索中已做item4，即使首轮prefix只有0/1/2，也保留4；计划需要四个新cell却只剩三个预算时应整轮拒绝，不能偷偷读完整隐藏成绩矩阵来选冠军。
依据：核心公式、数据协议与实现边界、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
context overflow与真正缺少能力，为何不能用相同的新增agent策略处理？
EMMA: Structured Episodic Memory for Multi-Agent Workflow Synthesis
问答新增：2026-10-30 · University of California San Diego
展开答案与例子
答案：overflow可能只是子任务切得太粗，先把未完成步骤拆小并从原位置继续，可保留已完成工作。只有不存在合适能力或连续overflow的结构证据才支持新专门化；连续overflow时继续改prompt/skill也不符合改变拆分方式的要求。
教学例子：教学例：前两步已产出表格，第三步材料太多。应保留前两步、把第三步拆成若干已有agent可执行步骤，而不是重新开始整条任务或把文件定位器当新专家。
依据：背景与主要改动、核心公式、代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
反思提出的修改为何既要一次一个条目，又要保留至少60%的旧prompt行？
EMMA: Structured Episodic Memory for Multi-Agent Workflow Synthesis
问答新增：2026-10-30 · University of California San Diego
展开答案与例子
答案：单条目和所属scope限制改动位置，行保留和长度/池容量限制改动幅度，防止backbone重写整个系统。只允许参与失败尝试的agent被改；新条目还必须在下一次计划实际使用。结构可接受并不证明它一定改善任务结果。
教学例子：教学例：旧prompt五行，只保留两行再换成全新角色会被拒绝；保留三行并加一条局部检查才满足60%门槛，仍需外部重跑。
依据：核心公式、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
EMMA为什么不把每次失败都写成新的skill？
EMMA: Structured Episodic Memory for Multi-Agent Workflow Synthesis
问答新增：2026-10-30 · University of California San Diego
展开答案与例子
答案：不同错误的修复责任不同。单次执行失误只需本任务plan指令，通用习惯归agent prompt，方法缺失归skill，路由错误归controller。写错层级的经验可能不再触发或干扰无关任务，结构化ownership用来限制这种任意增长。
教学例子：教学例：忘记检查输入单位可成为可复用方法；某次误点按钮不一定需要永久增加一个单位检查skill，更不必新增agent。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地守卫都通过，是否已证明记忆无泄漏且Agent能力更强？
EMMA: Structured Episodic Memory for Multi-Agent Workflow Synthesis
问答新增：2026-10-30 · University of California San Diego
展开答案与例子
答案：没有。代码只执行ownership、容量、行保留、轮换、生命周期和拼接等结构合同；语义去重、真正专门化与答案泄漏由独立外部服务给显式判断，本地不能自动证明其正确。当前没有被评测actor、LLM反思或真实任务轨迹，更不应输出全1能力分数。
教学例子：教学例：外部服务误把含答案的提案标为安全，布尔接口本身无法发现语义错误；本地拒绝计数只能说明拒绝规则被触发，不能成为完整AppWorld成功率。
依据：数据协议与实现边界、本地结果与负控、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
前缀多样化为什么不等同于把相同下一token都减一个分？
PinGER: Token-Efficient Generative Retrieval with Semantic IDs
问答新增：2026-10-30 · Pinterest
展开答案与例子
答案：它按父beam的最长公共前缀深度和已选名额累计罚分，同一父节点自身也受罚。不同层共享的前缀越深，重复子树被罚得越多；只看下一token会丢掉层级结构。
教学例子：教学例：父前缀(1,2)与(1,3)共享1级，(1,2)与自身共享2级。先从(1,2)取一个孩子后，两类父节点罚分不同，不能统一减lambda。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
为何PinGER的DPO既要累积每级前缀，又要保留NTP锚？
PinGER: Token-Efficient Generative Retrieval with Semantic IDs
问答新增：2026-10-30 · Pinterest
展开答案与例子
答案：逐级前缀损失让较早的SID决定也接收偏好信号；只用完整ID最后一项会改变目标。NTP锚抑制偏好优化漂移。参考margin只是偏移logistic输入，不是已正确排序就硬停梯度；本地只验证这套公式，不训练真实推荐器。
教学例子：教学例：三层SID要计算第1、1到2、1到3层的三项损失之和，再加NTP；不能只给最后一项三倍权重就当成等价。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
多样化提高了线上兴趣覆盖，是否代表离线召回也一定提高？
PinGER: Token-Efficient Generative Retrieval with Semantic IDs
问答新增：2026-10-30 · Pinterest
展开答案与例子
答案：不是。原文lambda从0变3时distinct@1明显上升，R@100却下降；线上强惩罚仍更合适，体现目标和配置的差异。不能把离线表和另一beam宽度的生产A/B混成单项提升。
教学例子：教学例：100个候选全来自同一类别可能容易命中旧偏好，却覆盖不了更多兴趣。增加类别覆盖是一种取舍，不是保证所有指标同向。
依据：论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PinGER为什么训练时保留SID，服务时却能把历史SID删掉？
PinGER: Token-Efficient Generative Retrieval with Semantic IDs
问答新增：2026-10-30 · Pinterest
展开答案与例子
答案：非对称mask使历史商品的信息只经dense token进入未来；历史SID不被其他商品或dense读取，因此不影响保留的dense状态。dense内部仍可以融合SID信息，删除独立SID位置不等于删除dense中的离散特征。
教学例子：教学例：历史商品各有3个SID和1个dense，概念训练布局有4个位置；服务留下dense位置前后，若其输入特征一致，dense注意力结果可保持不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
CPC改善是负lift，为什么融合时还要减去CPC头？
Reinforcement Learning for Controller Parameters in the Auto-Bidding System at Pinterest
问答新增：2026-10-30 · Pinterest Inc.
展开答案与例子
答案：CPC越低越好，所以低于基线的奖励为负数，不能先改成正收益。融合Qbu减beta乘Qcpc时，负CPC变化会增加最终分数；多步扩展的CPC backup也用min而非max。
教学例子：教学例：两个动作预算头均为0，CPC头分别为-0.1与0.2，beta为1时融合分数为0.1与-0.2，选择前者的方向才正确。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
已实现top-K softmax，是否代表已复现生产策略概率？
Reinforcement Learning for Controller Parameters in the Auto-Bidding System at Pinterest
问答新增：2026-10-30 · Pinterest Inc.
展开答案与例子
答案：不能。生产还依赖真实Q网络、beta数值尺度和融合后的数值预处理。组件把beta和预处理回调显式外置，默认identity仅是数值参考；真实propensity和外部观测也不是小张量测试能提供的。
教学例子：教学例：同一分数乘2通常不改top-K集合，却会让softmax更尖锐，从而改变IPS所需的动作概率；不能只核对argmax就说策略一致。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
论文叫DQN，为什么实际部署仍可看成contextual bandit？
Reinforcement Learning for Controller Parameters in the Auto-Bidding System at Pinterest
问答新增：2026-10-30 · Pinterest Inc.
展开答案与例子
答案：实际gamma为0，训练目标只回归当天结果，没有未来Q bootstrap。论文同时给出多步公式，但两头各自max/min后再融合，不保证等于组合奖励的最优Q；不能把扩展讨论当成已部署的长期最优策略。
教学例子：教学例：奖励1、未来Q为100，gamma0的目标仍是1；悄悄改成gamma0.9就变成91，已经换了目标。
依据：背景与主要改动、核心公式、论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
RLBP是在每次拍卖直接由神经网络出价吗？
Reinforcement Learning for Controller Parameters in the Auto-Bidding System at Pinterest
问答新增：2026-10-30 · Pinterest Inc.
展开答案与例子
答案：不是。它每天选择PID参数倍率，写入当天固定的查找表；高频反馈仍由原PID完成。生产只调P/I各三个倍率、D固定为1，共9种动作，这是一层受限元控制。
教学例子：教学例：一天开始把比例系数调为默认值1.2倍，不代表神经网络决定当天每一笔报价；中途反馈仍由PID误差项驱动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么长度批评有阈值，两个“文本梯度”又该怎样合并？
CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization
问答新增：2026-10-30 · Google
展开答案与例子
答案：Sec.3.3只在生成token数严格超过阈值时调用长度批评，避免已简短的推理持续被压缩。Eq.3将任务批评、换行、长度批评逐样本拼接，再交给元优化器；这不是把两个数值loss求均值。长度批评应渐进删掉叙述性冗余，保留必要计算。
教学例子：阈值为40时，40-token回复不触发，41-token回复才触发；“检查单位换算”与“删除重复开场白”是两条文本反馈，不能用一个标量0.7代替。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地如何避免用测试集或最后一个未测提示选优，为什么回调诊断不代表真实收益？
CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization
问答新增：2026-10-30 · Google
展开答案与例子
答案：本地要求固定validation revision和样本ID，与冻结CoT均长基准一致；train/test不能作为选优测量，训练ID不得重叠。每轮先验证当前提示，再请求下一提示，因此最后未测提案不会被选中。诊断中的模型与批评器是确定性测试替身，只证明门控、拼接和选择合同，不证明真实LLM会学到更好提示。
教学例子：已测提示A分数0.8、B分数0.9，优化器最后又提出C；C没有validation记录时只能返回B，不能因为C更新得最晚就返回C。
依据：数据协议与实现边界、本地结果与负控、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
CROP比单纯准确率提示优化多了什么，是否能说token节省完全无损？
CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization
问答新增：2026-10-30 · Google
展开答案与例子
答案：它在提示优化中同时引入长度文本反馈与输出token成本选优，而不是只追准确率。但论文Table3存在准确率下降：例如Gemini2Flash在ObjectCounting从96.0%降到94.8%，平均tokens从101.2降到19.6。应呈现成本—准确率权衡，不能把摘要的概括写成每个任务都无损。
教学例子：两个提示准确率都0.9，分别花100与50tokens，CROP分数可偏向后者；若短提示准确率明显更差，不能只展示长度下降。
依据：背景与主要改动、论文离线与线上效果、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
CROP优化的是模型参数、单次答案，还是系统提示？
CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization
问答新增：2026-10-30 · Google
展开答案与例子
答案：它固定目标模型权重，离线迭代系统提示。目标模型先生成，任务批评器和长度批评器分别指出准确性与冗余问题，元优化器据此重写提示；部署时使用选好的提示进行一次生成。它不是对答案硬截断，也不是RL权重后训练。
教学例子：把“逐项解释每一步”逐轮改成“保留合并算式，删掉重复叙述”，属于提示优化；把回复超过50tokens直接截掉，不是CROP。
依据：背景与主要改动、原论文关键图；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
Sample–Beam为何把推理采样和商品束生成分开？
PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search
问答新增：2026-10-29 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：线上要返回多个商品，单响应采样不完全对应候选集合服务。方法采样推理部分，再对SID做beam展开，使RL看到更接近服务的多候选结构；真实实现还需要论文的意图奖励与轨迹，普通beam函数不能代表整个方法。
教学例子：教学例：同一段搭配理由后展开十个不同商品码，与独立采十条互不相关的完整理由和ID，是不同的训练分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
论文CTR提升0.58个百分点，能写成相对提升0.58%吗？
PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search
问答新增：2026-10-29 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：不能，百分点是绝对差值，相对百分比还取决于基线CTR。论文线上结果来自完整部署配置，当前库只资料收录，未复现模型、私有数据训练或A/B，也不能将线上收益归因于一个本地占位组件。
教学例子：教学例：基线CTR为10%，增加0.58个百分点变为10.58%，相对提升是5.8%；这里仅说明口径，不是补造论文基线。
依据：论文离线与线上效果、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
推理预算更大，PailitaoMMSearch2.0的检索效果就一定更好吗？
PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search
问答新增：2026-10-29 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：不是。论文0.8B模型No-think的macro ER最高；2B模型Low-think在整体质量与延迟间更合适，而4B的不同意图又有不同变化。模型规模、任务意图和服务成本要一起看，不能据单项最优推广。
教学例子：教学例：图片已清楚展示同款属性时，多写理由可能增加时延甚至干扰结果；需要组合约束的匹配题则可能更受益。
依据：论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PailitaoMMSearch2.0是改写查询再检索，还是直接生成商品候选？
PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search
问答新增：2026-10-29 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：模型消费原图和自由文本，直接生成可映射为商品的三层SID集合，解码就是候选生成。部分生产场景最终还会与既有链路结果混排，不能把端到端检索理解成所有线上模块都消失了。
教学例子：教学例：用户上传衬衣照片要求找搭配裤子，生成的是候选商品ID，而不是只生成一句供别的搜索器使用的新查询。
依据：背景与主要改动、核心公式、论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
KL-MOPD的alpha来自当前学生，还是冻结初始学生？
KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation
问答新增：2026-10-29 · Zhejiang University
展开答案与例子
答案：来自冻结初始学生在自身采样前缀上的校准差距，只在训练前估计一次。后续损失使用当前学生的前缀，但不随当前模型重新计算alpha；动态权重属于另一个目标。
教学例子：教学例：初始某位置KL为1和3，权重固定为1/4、3/4。训练后差距变成2和1，也不自动交换这两个权重。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
张量损失通过梯度检查，为什么还不能称已实现on-policy推荐训练？
KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation
问答新增：2026-10-29 · Zhejiang University
展开答案与例子
答案：内核只看输入logits，不知道前缀由谁采样。初始学生校准、当前学生在线生成、冻结教师评分、语义ID解码和真实数据切分都需要外部链路。当前只有损失组件与小张量CPU/CUDA机制证据，没有推荐器能力比较。
教学例子：教学例：把一份缓存的旧模型前缀传进来，公式依然能计算，但调用者不能把它声明为当前学生的在线采样。
依据：本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
加权两项反向KL，等于把两位教师概率平均后算一次KL吗？
KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation
问答新增：2026-10-29 · Zhejiang University
展开答案与例子
答案：一般不等价。加权的是学生到各教师的KL损失，而不是先做概率算术平均。方向还必须是KL(student||teacher)，不能换成教师到学生的正向KL。本地负控检查这两种计算不被混淆，不据此推出推荐收益。
教学例子：教学例：两教师分别偏好不同token，算术混合会给两个峰都留质量；加权反向KL涉及对数教师分布，得到的梯度并不相同。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
KL-MOPD为什么在每个SID位置区分两位教师的学习难度？
KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation
问答新增：2026-10-29 · Zhejiang University
展开答案与例子
答案：完整商品ID需要多个token都选对。点击教师在前几个位置容易模仿、价值教师在后几个位置容易模仿，不代表整条ID都学好了。固定一半权重忽略这种位置差异，方法用初始学生到各教师的KL差距为难学的一方加权。
教学例子：教学例：三段商品码第一段区分类别、后两段区分属性。某教师只在类别段与学生差很远，不能把整条序列的同一个教师权重套到所有位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
为什么chunk相关性取最低CE位置的top-k均值，而不是最高CE？
Select-TTT: Query-Conditioned Selective Fast Weight Updates for In-Place Test-Time Training
问答新增：2026-10-29 · University of Science and Technology of China
展开答案与例子
答案：这里CE是问题token在当前hidden诱导的词表分布下的平均负对数概率；越低，说明该位置越能预测问题词汇。取最低CE的若干位置可保留局部相关证据，同时比只取单个最小值更稳健。把方向反过来会强化最不相关的位置。
教学例子：两位置的查询CE为1和6，取最相关的一项应选1；选6相当于把低概率误作高相关。问题序列中重复的token仍按出现次数计入平均。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
fast-weight参考实现为何必须先输出当前chunk，再写入它的keys与values？
Select-TTT: Query-Conditioned Selective Fast Weight Updates for In-Place Test-Time Training
问答新增：2026-10-29 · University of Science and Technology of China
展开答案与例子
答案：当前chunk输出使用更新前的状态，随后才把该chunk信息写入供后续使用。若先写后读，当前输出就利用了本应更新后才存在的value，改变因果顺序。本地只验证这种张量状态变化；真实NTP对齐特征、backbone和长对话评测尚未接入。
教学例子：初始W为0，第一个chunk先输出0，再写成W=1，第二个才能读到1；若第一个就输出1，已把当前写入提前使用。
依据：核心公式、本地复现、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
为什么不能把Select-TTT描述成“严格守恒的写入预算分配”？
Select-TTT: Query-Conditioned Selective Fast Weight Updates for In-Place Test-Time Training
问答新增：2026-10-29 · University of Science and Technology of China
展开答案与例子
答案：乘chunk数后的softmax在没有clip时和为chunk数；随后上限截断可能降低总和。论文描述近似保持平均学习率，不等于截断后严格守恒。再归一化会改变Eq.10，还可能重新超过单chunk上限，不能悄悄替换。
教学例子：三个chunk的softmax几乎全压到第一个，乘3后约为[3,0,0]；上限1.2后总和约1.2，不是3。这是公式例子，不是QA实验。
依据：核心公式、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Select-TTT改变的是上下文检索，还是写入fast weights的力度？
Select-TTT: Query-Conditioned Selective Fast Weight Updates for In-Place Test-Time Training
问答新增：2026-10-29 · University of Science and Technology of China
展开答案与例子
答案：它保留In-Place TTT的分chunk写入，只按问题相关性缩放每个chunk的学习率。相关性来自冻结LM输出头对问题token的负对数概率，不另训检索器，也不直接丢弃所有低分chunk。问题不同，写入倍率也可能不同。
教学例子：同一长对话中，问搬家日期和问饮食偏好时，应强化的片段不同；这不表示模型拿到了哪一段包含标准答案的标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么候选的动作与ROI需要先经过残差predictor，而不是直接送结构打分头？
GUI-JEPA: Candidate-Conditioned JEPA Latents as a Fast Action Policy for Mobile GUI Agents
问答新增：2026-10-29 · Shanghai Jiao Tong University / Nanyang Technological University
展开答案与例子
答案：论文刻意让候选相关视觉信息通过条件化latent路径，避免打分头绕开JEPA predictor。动作与ROI影响query，三层Transformer产生残差latent，再做ROI与全局池化。它用决策损失训练，不自动意味着这个latent是准确的未来画面预测。
教学例子：两个都是click的按钮，ROI内容与坐标不同，应产生不同条件latent；若直接把原ROI接到额外捷径头，不能用该结果证明predictor有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
本地三层predictor和真实梯度通过验证，是否等于已经能操作Android？
GUI-JEPA: Candidate-Conditioned JEPA Latents as a Fast Action Policy for Mobile GUI Agents
问答新增：2026-10-29 · Shanghai Jiao Tong University / Nanyang Technological University
展开答案与例子
答案：不能。当前接口只读外部画面与condition latent，验证残差结构头、候选mask和加权listwise损失。编码器、a11y枚举、MiniLM ranker与执行环境都没有接入；正例仅给训练loss，不能传进forward让模型看答案。GPU张量验证不是AndroidControl成功率。
教学例子：给两个合法latent候选反向更新参数，只能证明梯度路径工作；真正打开应用还需要从截图生成latent、找到合法候选、执行并观察下一页面。
依据：本地复现、检查与负控、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
GUI-JEPA的latent打分，与“预测下一状态然后选最接近目标”有何区别？
GUI-JEPA: Candidate-Conditioned JEPA Latents as a Fast Action Policy for Mobile GUI Agents
问答新增：2026-10-29 · Shanghai Jiao Tong University / Nanyang Technological University
展开答案与例子
答案：它将latent作为通过listwise动作损失塑造的决策特征，而非把到目标的latent距离当作价值。论文随机初始化predictor也能匹配dynamics预训练版本，提示决策相关性和动力学预测不是一回事。不能从动作分数改善推导完整世界模型准确。
教学例子：点击确认可能使画面变化很小却完成任务，打开动画可能让视觉距离更接近某目标图但动作错误；决策分数不等于像素或latent相似度。
依据：背景与主要改动、核心公式、论文离线与线上效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
GUI-JEPA为什么不需要逐token生成动作？
GUI-JEPA: Candidate-Conditioned JEPA Latents as a Fast Action Policy for Mobile GUI Agents
问答新增：2026-10-29 · Shanghai Jiao Tong University / Nanyang Technological University
展开答案与例子
答案：它先从可访问性树枚举候选，再让每个候选条件化画面latent，一次批量打分选动作。动作空间来自观测侧枚举，不是语言模型自由生成。因此速度取决于候选数，也依赖像素型Agent不一定拥有的a11y输入，不能直接比较所有GUI系统。
教学例子：页面已有三种可执行按钮动作，系统分别算三个分数后选最高者；这不同于先生成JSON文本，再解析其中坐标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
候选更符合rubric，是否就能直接升为下一轮harness？
When the Critic Falls Behind: Co-Evolving Rubrics and Harnesses for Continual Agent Self-Improvement
问答新增：2026-10-29 · Harbin Institute of Technology
展开答案与例子
答案：不能。rubric用来定位行为弱点与指导提案，不替代真正任务效果。论文要求候选先通过外部验证器，再在独立validation上与当前harness比较；只有最高分候选的增益严格超过门槛才更新，最终test不参与这个选择。
教学例子：教学例：候选增加了很多‘检查证据’文字，但validation成功率没有提高，就应保留当前harness，而不是仅凭更漂亮的自我检查日志晋级。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
outcome-blind判断与后续使用成功/失败标签做统计矛盾吗？
When the Critic Falls Behind: Co-Evolving Rubrics and Harnesses for Continual Agent Self-Improvement
问答新增：2026-10-29 · Harbin Institute of Technology
展开答案与例子
答案：不矛盾。判断标准是否被满足时，judge只能看到行为证据，避免拿最终成败倒推违规；判断完成后，外部统计层才把行为标签与任务结果组合成六格表。组件只接收这两份输入，无法自动证明外部judge确实被盲化，不能据此宣称完整评测流程已接入。
教学例子：教学例：先独立标记‘提交前是否检查目标文件’，封存标签后才揭晓测试成功与否；不能看到失败后才把原来模糊的检查行为改判违规。
依据：背景与主要改动、数据协议与实现边界、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Agent已经能自己改harness了，为什么还要同时更新rubric？
When the Critic Falls Behind: Co-Evolving Rubrics and Harnesses for Continual Agent Self-Improvement
问答新增：2026-10-29 · Harbin Institute of Technology
展开答案与例子
答案：harness修复早期问题后，失败分布会变化。固定标准可能一直追踪已经消失的缺陷，也可能忽视新出现的行为问题。RuHarness从当前执行轨迹重新评估标准，保持任务目标不变，再用当前有诊断价值的标准指导下一步修改。
教学例子：教学例：早期主要忘记调用搜索，后来搜索已正常但常在证据不足时提前提交。继续只奖励‘调用过搜索’就难以定位后一个问题。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么区分度、覆盖率和预测性要从同一六格后验一起计算？
When the Critic Falls Behind: Co-Evolving Rubrics and Harnesses for Continual Agent Self-Improvement
问答新增：2026-10-29 · Harbin Institute of Technology
展开答案与例子
答案：三项统计来自同一成功/失败乘Violated/Satisfied/N/A列联表，本来相关。论文给六格各加0.5，抽2000份联合Dirichlet样本；每份重算三项，再取效用0.2分位。分别独立采样会丢掉共同数据的相关性。N和Red来自轨迹集合，采样时保持固定。
教学例子：教学例：一个标准只观察到2次违规且都失败，点估计会很高；低分位后验会反映证据少的不确定性，而不会把2次命中等同于上百次稳定观测。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
记忆body被改成新版本后，为何不能继承父版本累计的成功效果？
Remembering Is Not Enough: Refining Memories and Learning When to Use Them in Multi-Agent Systems
问答新增：2026-10-29 · East China Normal University
展开答案与例子
答案：效果证据绑定的是被实际使用的旧body；新规则尚未证明同样可靠。论文保留记忆identity、owner及合规修正记录，但清空旧效果，新版本为provisional。组件只执行这个版本规则，不代表已经实现LLM修复或多Agent任务能力。
教学例子：教学例：v2在历史10题表现好，v3增加一个停止条件后，不能直接写‘v3已在10题验证’；v2记录需保留，而v3的effect记录从空开始。
依据：核心公式、数据协议与实现边界、本地结果与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
候选修复为什么要同时比较父记忆与无记忆基线，而不是只要求比原规则好？
Remembering Is Not Enough: Refining Memories and Learning When to Use Them in Multi-Agent Systems
问答新增：2026-10-29 · East China Normal University
展开答案与例子
答案：父规则可能已经有害；只超过父规则仍可能弱于什么都不注入。论文要求固定触发与历史集合上的每个任务都不弱于两份参照的较大者减容差，还不能增加完全失败次数。它保护已测试任务的行为，不保证没见过的任务都安全。
教学例子：教学例：父规则0.2、无记忆0.8、候选0.7。虽然候选超过父规则0.5，但默认0.01容差下仍达不到0.79，应拒绝。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
只在当前失败任务上试修复，与DiscernMem的跨任务验证有什么差别？
Remembering Is Not Enough: Refining Memories and Learning When to Use Them in Multi-Agent Systems
问答新增：2026-10-29 · East China Normal University
展开答案与例子
答案：只修眼前任务可能损害旧能力。DiscernMem固定触发、过去正效果与相关任务的验证集合，对每项而非平均分施加门槛；相关任务只要求不退化，不要求一定产生迁移提升。来源任务排除在历史验证之外，避免用记忆诞生的原例反复证明自己。
教学例子：教学例：触发题从0.4升到0.9，旧任务从0.8掉到0.5；两题平均分变好也不能掩盖旧任务退化，应拒绝该修复。
依据：核心公式、数据协议与实现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
一次团队失败，为什么不能直接把用过的记忆全部改写？
Remembering Is Not Enough: Refining Memories and Learning When to Use Them in Multi-Agent Systems
问答新增：2026-10-29 · East China Normal University
展开答案与例子
答案：失败可能来自别的角色、工具或不适用的场景。DiscernMem用相同任务、seed和配置的单记忆重放与无记忆重放衡量孤立注入效果；再区分规则内容确有缺陷，还是好规则超出使用范围。负效果本身仍不足以证明内容有错。
教学例子：教学例：‘先修复源码再跑测试’可能适用于代码bug，但测试环境故障时继续改源码反而有害。应补avoid范围，而不是删除一条本来有用的源码修复经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
ResCom为什么对白化后的输出交叉统计做SVD，而不是直接截断主权重？
ResCom: Activation Residual Compensation for Large Language Model Quantization
问答新增：2026-10-29 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：秩预算应分给真实出现且会影响输出的残差方向。残差Gram矩阵描述校准分布的尺度与相关性，误差-残差交叉统计描述其输出作用；Cholesky白化后截断SVD求解的是带ridge的输出重建目标。直接截断权重没有利用残差分布，目标不同。
教学例子：某方向残差很大却被主层几乎抑制，另一个方向残差小但被放大；有限秩应由输出损失判断，而非只按残差幅度选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
为什么收集一层统计后立刻挂上补偿，会破坏ResCom的校准合同？
ResCom: Activation Residual Compensation for Large Language Model Quantization
问答新增：2026-10-29 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：早层补偿改变后层所见激活，后层统计就不再来自同一个冻结原模型。论文先收集所有目标层，再安装分支；本地流式合并只合并同一冻结映射的样本。另外G与C是未除样本数的和，随意取平均而不调整ridge也会改变解。
教学例子：把样本数翻倍后G、C都加倍，固定ridge的相对强度随之变化；若悄悄把G、C除以样本数，不能继续声称同一个正则化问题。
依据：核心公式、本地复现、检查与负控；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
给量化输入加低秩分支，与给舍入残差加低秩分支，关键差别是什么？
ResCom: Activation Residual Compensation for Large Language Model Quantization
问答新增：2026-10-29 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：前者仍只能读取量化值，因此无法区分落在同一格点的输入；后者读取被删除的部分，在同一预算下拥有不同的信息。ResCom又保持既有主路径冻结，所以它也不同于先拆出高精度权重、再重新量化剩余权重的方案。
教学例子：先分走一部分权重再量化，会改变主路径校准问题；在已冻结路径旁加UVd+b则不改变原量化设置，两者不能作为同一个实现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
为什么已经量化好的模型，还能从当前激活的舍入残差中找回信息？
ResCom: Activation Residual Compensation for Large Language Model Quantization
问答新增：2026-10-29 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：量化把一段连续输入映射到同一个格点，只看量化值无法分辨格点内的不同输入。但当前前向在舍入前后都能看到激活，两者之差仍保留被丢掉的信息。ResCom把这份残差送入固定低秩分支，而不是重新训练量化器。
教学例子：1.01与1.04都舍入为1.0，只看1.0的分支输出相同；残差0.01与0.04却允许补偿器给出不同输出。这不是论文模型准确率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
Meta公开RPL完整代码后，本地typed-program组件就自动变成完整复现了吗？
Learning to Program Retrievals: Composing Search Primitives via Reinforcement Learning
问答新增：2026-10-29 · KAIST AI / Meta Superintelligence Labs
展开答案与例子
答案：不会。官方源码发布只改变来源可核验性；本地仍未运行神经检索器、跨轮Python状态、策略生成、GRPO或蒸馏训练。还要遵循主项目CC-BY-NC与vendored部分各自许可，不因仓库可见就自动复制或升级能力证据。
教学例子：教学例：拿到完整工厂图纸，不等于已有的小型管道模拟器已经生产出同样产品；必须另验真实执行链路和成本。
依据：论文信息、背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
新技术论文说先池化再投影，本地先读官方last_hidden_state再池化，是否少了一层？
EmbeddingGemma 2: Unified and Efficient Multimodal Representations
问答新增：2026-10-29 · Google
展开答案与例子
答案：没有直接少一层。固定官方实现已经在返回last_hidden_state前做无偏置embedding_projection，返回的是768维token表示。同权mask均值与线性投影可交换，因此本地池化投影后的token与论文顺序一致，不能再额外投影一次。新论文补充不把旧16图GPU结果升级为完整七套benchmark。
教学例子：教学例：两个token先各乘同一矩阵再平均，等于先平均再乘该矩阵；若换成非线性层或每token不同权重，就不能沿用这个等价关系。
依据：核心公式、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
“输入函数乘输出向量”为什么被称为秩1算子？
Hilbert Operator for Progressive Encoding (HOPE): A Mathematical Framework for Deconstructing Learned Representations in Deep Networks
问答新增：2026-10-29 · Google DeepMind
展开答案与例子
答案：一个神经元的输入激活是标量函数，每个输入只改变它的幅度；该标量始终沿同一个输出权重向量传递。因此整条输入函数景观映射到输出空间的一维方向，形成秩1张量。两神经元的内积等于激活核乘输出向量内积，不能只用输入权重cosine代替。
教学例子：激活从0.2变到0.8时，输出从0.2w变到0.8w，方向仍是w；换一个输出向量会改变功能相似度。
依据：核心公式、原论文关键图；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
实现剪枝时，为什么既要固定初始参数收益，又要补偿下游BN均值？
Hilbert Operator for Progressive Encoding (HOPE): A Mathematical Framework for Deconstructing Learned Representations in Deep Networks
问答新增：2026-10-29 · Google DeepMind
展开答案与例子
答案：剪枝选择按失真除以初始参数收益比较；改用逐步缩小的邻接shape会改变收益口径。执行后，被删除激活的平均贡献消失，因此Dense消费者的BN运行均值要减去这份贡献，避免额外平移。补偿不保证保留每个样本的预测，undo精确恢复也不等于压缩准确率不降。
教学例子：某激活均值0.8、输出权重[1,2]，删除后消费者BN均值应减[0.8,1.6]；不能把补偿写成加法。
依据：核心公式、数据协议、结果与负控、高成本完整实验与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
HOPE的Hilbert压缩与Sleep中的Hope网络是一回事吗？
Hilbert Operator for Progressive Encoding (HOPE): A Mathematical Framework for Deconstructing Learned Representations in Deep Networks
问答新增：2026-10-29 · Google DeepMind
展开答案与例子
答案：不是。Hilbert Operator for Progressive Encoding分析冻结网络的功能容量，用PRUNE、MERGE和EVICT逐步压缩；Sleep中的Hope是多频率记忆网络，在学习与离线巩固阶段更新记忆。名称相似不代表算法相同。本地只提供前者的核、剪枝和单步恢复子组件。
教学例子：给冻结ResNet统计打剪枝分数，不能被描述成让语言模型睡眠后学会新知识。
依据：背景与主要改动、保留机制与接口、高成本完整实验与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
HOPE为什么不直接把权重小的神经元删掉？
Hilbert Operator for Progressive Encoding (HOPE): A Mathematical Framework for Deconstructing Learned Representations in Deep Networks
问答新增：2026-10-29 · Google DeepMind
展开答案与例子
答案：同一个ReLU神经元可以把输入及BN尺度放大、输出权重缩小，而整体函数不变。裸权重大小会跟着变，不能稳定表示功能重要性。HOPE比较的是激活函数与输出向量构成的Hilbert算子容量；这个比较仍依赖Gaussian surrogate，不等于真实数据上的重要性已得到证明。
教学例子：隐藏激活扩大7倍、输出权重除以7，预测保持不变；功能容量应不变，但只看输出权重会误以为它变得更不重要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
LTI的编辑距离门槛限制的是编辑次数还是相似度比例？
Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
问答新增：2026-10-29 · Google Research
展开答案与例子
答案：门槛限制绝对token编辑次数；通过门槛后，字面奖励才用一减距离除以两段续写最大长度。阈值包含等号，不能把它换成固定相似度比例。
教学例子：教学例：阈值为1时，一次替换无论发生在6token还是60token续写都通过，但归一化奖励分别为5/6和59/60。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
本地Sleep奖励组件能证明模型已学会长期保留知识吗？
Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
问答新增：2026-10-29 · Google Research
展开答案与例子
答案：不能。它只接收已分词续写与外部语义标签，验证奖励数值边界；没有梦境采样、CMS、参数扩展、LoRA训练、筛选或遗忘评测。完整高成本实验已明确不复现，不把奖励核注册为Evolve能力算子。
教学例子：教学例：两段整数token得到0.9奖励，只说明该输入满足奖励公式，不说明任何语言模型权重发生了变化。
依据：本地复现与边界、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
字面距离超阈值，是否意味着语义奖励也要清零？
Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
问答新增：2026-10-29 · Google Research
展开答案与例子
答案：不是。语义0/1由外部冻结评审独立给出，阈值只作用于字面分支。词面差很多也可能语义相同；仅用编辑距离替代语义模型会改变算法。
教学例子：教学例：gamma为0.4、语义评审判同义，字面分支为零时总奖励仍为0.4，而不是零。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Sleep中的睡眠只是暂停训练，还是另一套学习阶段？
Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
问答新增：2026-10-29 · Google Research
展开答案与例子
答案：是离线巩固阶段。方法在应用预计算基础更新前扩展慢模块，用更新前教师把快记忆巩固到拟更新学生，然后应用更新并清理发送层专家。它不是简单暂停或重放几条样本，本地也没有实现这一完整链路。
教学例子：教学例：临时笔记要整理进长期知识库，先核对整理后的内容再清空临时笔记；只计算笔记相似度并不等于完成整理。
依据：背景与主要改动、高成本完整实验；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
HGE为什么分别预测容器成交、内部商品购买概率和数量，而不只回归一个门店GMV？
Hierarchical GTV Estimation: Bridging the Gap between Container-Level Ranking and Item-Level Conversion
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：容器价值来自内部商品组合，单一金额标签稀疏且波动大。分解让模型先表达是否成交，再累加不同商品的条件购买与数量，并以残差补偿top-K遗漏；商品不是互斥选择，不能把独立购买概率改成总和为一的softmax。融合门必须读取上下文，不能按真实成交标签事后选支路。
教学例子：用户可能在同一店同时买两件低价商品，或只买一件高价商品；把内部商品视作互斥类别会漏掉多件购买，单一门店回归又难解释这些来源差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
HGE 残差与融合 gate 为什么不能按真实成交标签硬切路？
Hierarchical GTV Estimation: Bridging the Gap between Container-Level Ranking and Item-Level Conversion
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：残差可正可负，用于补偿 top-K 模型误差，不应擅自非负截断；融合权重只依曝光前上下文逐样本预测，不能利用事后真实成交挑更准分支。来源组件没有完整多任务训练配方，对输出平方求导只算梯度诊断。
教学例子：测试后知道门店成交才选商品分解分支，会让结果虚高；应由请求时已有上下文决定 gate，允许残差纠正高估也纠正低估。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
HGE 的商品购买 sigmoid 与互斥 softmax，为什么对应不同业务假设？
Hierarchical GTV Estimation: Bridging the Gap between Container-Level Ranking and Item-Level Conversion
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：用户成交后可能购买多件不同商品，sigmoid 允许各商品同时有高概率；softmax 强迫总和为一，等于只选一个，改变交易组合。数量头也不能被类别概率替代。原文定义在这里比常见分类代码习惯更重要，替换激活会改算法。
教学例子：用户在一家店同时买咖啡和面包，两项都可购买；softmax 会让提高咖啡概率压低面包，不符合多商品同单成交。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
HGE 的 top-K 商品是要展示的 K 个推荐结果，还是同一容器内部的输入？
Hierarchical GTV Estimation: Bridging the Gap between Container-Level Ranking and Item-Level Conversion
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：是同一候选门店或直播间内部的商品输入，模型最终估计的是容器价值。不同容器各有自己的商品集合，集合注意力先描述内部关系，再拼接用户、查询等上下文。top-K 只覆盖部分库存，不等于整店全部商品，更不是一次直接输出 K 家门店。
教学例子：两家店各输入三件商品，总共六件内部商品参与编码，最终仍得到两家店的价值分数；不能把这六件商品误当最终推荐列表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPST为什么只把学生全部匹配候选答案的题当作过易，全部一致但答成别的答案不能删？
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：课程门要判断学生是否已掌握经过独立验证的候选答案，普通一致性只能说明回答相同。全体一致地答错仍有学习需求。教师额外线索只用于在学生前缀上评分；生成题还需独立重答与保义改写验证，不能让出题器自己的答案未经检查就成为真值。
教学例子：学生每次都给出同一个错误结果，不能因为共识很高就认定题目太容易；应先与课程已验证的候选答案对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPST的EMA β是旧教师动量还是新学生权重？
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：是新学生权重，每次学生优化后以一减β乘旧教师、β乘新学生更新。先逐响应归一再等权平均；已有公式歧义需明示，不能把整个目标当已无争议精确复现。
教学例子：例如β很小意味着教师缓慢吸收新学生，不是几乎完全换成新权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
OPST的过易过滤与简单学生共识过滤有什么差别？
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：只有全部学生回答匹配候选答案才判过易；全部一致地答成另一个答案仍可能有学习价值或暴露错误。把任何共识都删掉会改变难度门定义。
教学例子：例如全组都得到同一个错误数值，不能误当已经掌握而过滤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPST为什么连问题与特权线索也自生成？
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：减少对人工题库依赖，同时为教师提供额外解题条件；学生只看问题并真实生成。自生成题必须经重答、保义改写和难度门过滤，不能因为生成器写了答案就认定有效。
教学例子：例如生成一道新题后要独立重解，排除题面矛盾或答案不自洽。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
MART-GRPO屏蔽最后未恢复错误之后的惩罚，为什么不重新算组优势或有效token分母？
When to Stop Penalizing Actions? Martingale GRPO for VLA Reinforcement Learning
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：它过滤的是失败反馈作用的位置，保持原始组奖励、优势和归一化才能隔离这一机制；改分母会额外放大保留前缀。轨迹先完整执行，事件模型再回溯边界，并非提前终止环境。回溯VLM也不自动满足理想停止时刻理论，必须区分经验启发与保证。
教学例子：机器人失手后做了无关停留，可屏蔽停留的负信用；但不能把剩余动作数量缩小后再把同一失败惩罚额外放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
MART屏蔽后可以重算优势或按剩余token数归一吗？
When to Stop Penalizing Actions? Martingale GRPO for VLA Reinforcement Learning
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：不可以。原全组优势和原始有效动作词元分母保持，mask仅作用反馈；合法区间含上端点。格式错、身份错或越界要报错，不能当语义不确定fallback。
教学例子：例如删掉后半loss后再缩小分母，会额外放大剩余梯度，改变原方法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
回溯VLM边界与理论stopping-time条件为什么不能等同？
When to Stop Penalizing Actions? Martingale GRPO for VLA Reinforcement Learning
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：VLM看过未来完整轨迹，其选择通常不是只依过去的停止时间。理论无偏条件不能自动套用，因此任意事件mask不保证无偏或必然降低方差。
教学例子：例如看完结局才决定哪一步重要，与执行到该步就能决定停止，是不同信息条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
MART-GRPO为什么在失败轨迹后半段屏蔽反馈？
When to Stop Penalizing Actions? Martingale GRPO for VLA Reinforcement Learning
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：最终失败不代表后续每个动作都造成失败，恢复尝试也可能有价值。回溯定位最后未恢复错误，把其后的负向信用屏蔽，保留此前相关信号；不是提前停止机器人。
教学例子：例如物体掉落后尝试重抓，不应仅因终局失败就把所有恢复动作同罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么给 action logits 加 log(Nref/Na)，能抵消完全复制动作 Token 带来的注意力总权重变化？
UniAction: Unified Action Conditioning for World Models
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：同一联合 softmax 中，复制相同 key/value 且位置编码相同，会增加重复项的指数和，使 action 总权重仅因数量变大。数量对应的对数偏置抵消这种重复，同时保留 action 内相对 logits；加入不同内容或不同位置的动作仍可合理改变输出。
教学例子：例如把每个动作 token 连位置表示一起复制两份，未经校正动作会更占权重；校正后不应仅凭重复份数改变结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
复制不变性是否允许新增任意动作或改变位置编码？
UniAction: Unified Action Conditioning for World Models
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不允许。精确不变性要求复制的 key、value 及位置表示完全相同；不同新动作或不同位置可改变输出。Na 按每个请求的有效动作计数，padding 不计且 softmax 权重为零；native 位置回调必须显式提供，本地诊断回调不冒充 Wan 原生位置机制。
教学例子：例如把同一动作复制到另一个时间点，位置表示变了就不再是完全复制，输出发生变化并不违反该不变性。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
联合 softmax 校正与把视频、动作分别 softmax 后相加有何不同？
UniAction: Unified Action Conditioning for World Models
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：联合 softmax 让两种信息在同一个归一化分母竞争，动作 logits 统一加 log(Nref/Na) 调节总量；分别归一化会各自总和为一，再相加形成另一种融合规则。两者即使动作内部排序相同，也不具有相同的跨模态权重。
教学例子：例如视频证据很强、动作证据弱时，联合归一化可使动作总权重较小；分别归一化仍强行分配一整份动作权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
统一建模不同动作格式时，为什么 token 数量不应直接代表动作的重要性？
UniAction: Unified Action Conditioning for World Models
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不同动作可按不同粒度离散成 token，同一语义可能因编码更细而占更多位置。UniAction 区分元素身份与时空位置，并处理这种表示数量差异对联合注意力的影响。它约束的是编码粒度带来的偏置，新增真实动作仍可改变内容，不能把所有 token 增加都当成无意义复制。
教学例子：教学例：同一移动轨迹分成十段或二十段，语义重要性未必翻倍；但若新增一次真正的抓取动作，模型当然应感知到新信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
FlexGlue 为什么只在峰值附近的局部窗口读坐标，而不对全图坐标求期望？
FlexGlue: Sparse-to-Dense Feature Matching and Visual Disambiguation
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：若相似建筑在两处形成峰值，全局期望可能落在二者中间的错误位置。局部窗口围绕最强候选计算坐标，减少多峰平均；随后细化位移，而共视投票与困难负例负责判断两图是否真的可匹配。高相似度本身不能替代共视验证。
教学例子：例如左右两扇相同窗户都得高分，全图平均会落在墙上；围绕被选窗户做局部读取才有合理初始坐标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
用普通 softmax 加交叉熵就能称为 FlexGlue 的实际粗匹配实现吗？
FlexGlue: Sparse-to-Dense Feature Matching and Visual Disambiguation
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：不能。正文明确实际使用 1.5-entmax 与 Fenchel–Young loss；粗标签是亚像素坐标周围四个 cell 的双线性权重，细化时对粗坐标停止梯度。当前本地没有完整 operator、训练指标或 GPU 收据，不能把通用 softmax 演示当作复现。
教学例子：例如真值在四格交界处应分配四个权重，若强行选最近格点作为 one-hot，监督目标已经不同于论文。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
FlexGlue的逐层共视门控，与无论是否共视都跑满全部层相比，何时可以提前结束？
FlexGlue: Sparse-to-Dense Feature Matching and Visual Disambiguation
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：共视分支在每层产生token级sigmoid vote，双图vote均值低于该层阈值tγ^(L−k)时提前退出。它检查两图是否值得继续匹配，而不是把最强局部匹配分数当共视证据；提前退出也依赖门控可靠，不能将少跑几层直接解释为匹配质量提高。
教学例子：两张对称建筑图片局部很像，但双图整体共视vote低，可在中间层退出，而不是继续细化一个高置信假匹配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
FlexGlue 的稠密网格为什么仍能处理任意位置的匹配查询？
FlexGlue: Sparse-to-Dense Feature Matching and Visual Disambiguation
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：模型先在 stride-8 特征网格上进行全局交互，再把指定查询插值到网格特征中，通过跨图注意力读取另一图坐标。查询不必恰好位于某个固定 cell 中心，因此可在稠密表示上支持连续位置匹配，而非只返回固定关键点集合。
教学例子：例如查询落在四个网格点之间，可先插值得到其特征，再到另一张图读取对应位置，而无需把它硬移到最近格点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
PathJev的重要贡献为什么不能缩成病理图像上接一个softmax？
PathJev: Decision-Native Vision–Language Modelling for Histopathology
问答新增：2026-10-27 · University of Naples Federico II
展开答案与例子
答案：候选头结合候选线性项、问题交互及集合注意力，但这些结构继承已有模型；新增证据还依赖病理状态数据、类型化专家标签、重叠审计和未见器官对照。普通分类核只能覆盖小部分计算，不能证明病理泛化。本地完整训练因成本过高未复现，目标标签也不进入提示。
教学例子：例如肿瘤等级作为运行时文字选项参与打分，训练采用原始等级标签；即使一个小softmax能算梯度，也不能代表跨器官识别已通过。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
PathJev的Score标签可以直接改成ordinal距离损失吗？
PathJev: Decision-Native Vision–Language Modelling for Histopathology
问答新增：2026-10-27 · University of Naples Federico II
展开答案与例子
答案：不能。现有协议使用原文one-hot等级监督；虽然等级有顺序，改成距离损失仍是新的目标选择。目标不得进入提示，完整训练本地因成本过高未复现。
教学例子：例如等级二与等级三看似相邻，也不能自行改变惩罚后声称仍按原目标复现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
PathJev评测未见器官，与在训练中见过的器官上随机留出样本相比，检验什么不同？
PathJev: Decision-Native Vision–Language Modelling for Histopathology
问答新增：2026-10-27 · University of Naples Federico II
展开答案与例子
答案：未见器官检验跨器官迁移，随机留出主要检验同类分布中的新样本。两者的泛化条件不同，还需做数据重叠审计，避免相近病理状态混入训练。继承的决策头即使相同，也不能让这两种测试自然成为同一难度或相同结论。
教学例子：训练覆盖器官甲但留出甲的新切片，与测试器官乙，是两种划分；不能把前者成绩写成后者的迁移证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
PathJev中的typed decision为何不等于病理自由问答？
PathJev: Decision-Native Vision–Language Modelling for Histopathology
问答新增：2026-10-27 · University of Naples Federico II
展开答案与例子
答案：它把专家标签转成明确候选的选择或评分等类型化决策，按运行时候选归一化。输出空间有结构，易评估，但无法据此覆盖所有开放病理解释任务。
教学例子：例如在给定等级里选一项，与撰写完整诊断报告，要求不同的输出能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
EditJev离线要运行所有编辑器，为什么推理时却只运行被选中的一个？
EditJev: System One Routing for Image Editing Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：离线全候选生成与评审用于建立成对质量监督，让路由器学会按请求预测各编辑器效用。部署时效用加上固定速度偏好即可选一次，无需先看各编辑结果。候选顺序必须一致，速度权重表达取舍而非质量真值；完整多编辑器流程本地因成本过高未复现。
教学例子：例如移除背景时先预测哪个编辑器更合适，再只调用它；若先把所有编辑器都跑完再选，就失去路由节约生成成本的目的。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
EditJev的pairwise损失为什么先按每请求pair数归一？
EditJev: System One Routing for Image Editing Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不同请求可产生不同数量的可靠偏好对。先在请求内平均，再跨请求平均，避免pair多的请求自动占更大权重；没有有效pair的请求贡献可微零。
教学例子：例如一张图有很多明显差距，不应仅因能组成更多pair就压过其他请求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
EditJev质量优先与速度优先怎样在同一接口中表达？
EditJev: System One Routing for Image Editing Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：质量效用与固定速度分相加，β控制速度偏好；β改变选择取舍，不代表编辑质量评价变了。选择规则可解释成本偏好，不能无实验就称某β全面最优。
教学例子：例如两个编辑器质量接近时，增大速度权重可能选更快者，但不表示它质量更高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
EditJev预测的是编辑后的图像吗？
EditJev: System One Routing for Image Editing Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不是。它根据请求预测固定候选编辑器的效用向量，再选择一个编辑器执行。图像生成由被选编辑器完成，路由训练依赖离线多编辑结果的评审监督。
教学例子：例如用户要改衣服颜色，路由器先选编辑器，而不是自己绘制新衣服。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么未来 latent 要由历史预测，而真实未来只交给训练期的目标编码器？
DT-JEPA: Learning to Predict Future Representations for Decision-Making
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：决策时真实未来尚未发生，直接用它作条件会造成泄漏。历史编码器预测未来分布，并通过重参数采样得到决策条件；EMA 目标只提供训练对齐信号。相同回报可能对应不同动力学，未来表征尝试补足单一 return-to-go 无法区分的信息。
教学例子：例如两条轨迹都得十分，但一条将撞到障碍、另一条可通行；预测未来状态比仅给“目标十分”更能区分后续选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
NLL、BC 与 critic 的归约能都改成通用 MSE.mean 吗？
DT-JEPA: Learning to Predict Future Representations for Decision-Making
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：不能。NLL 对 latent 维求和后批平均，BC 与 critic 对时间和动作维求和后批平均；归约改变会隐式改变损失相对权重。target 与 TD bootstrap 停止梯度，但 actor 的 Q 对动作梯度需保留，本地仅验证这些组件，不包含完整在线环境收集。
教学例子：例如动作维翻倍时，全元素均值会缩小单样本总贡献；若其他项仍按维求和，原有权重关系就发生变化。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
预测高斯分布与直接用一个确定未来向量，有何建模取舍？
DT-JEPA: Learning to Predict Future Representations for Decision-Making
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：高斯均值与方差允许表示不确定性，再经重参数采样调制 DT；确定向量只提供一个点条件。分布形式增加可训练的不确定性表达，但受对角高斯假设限制，不能因此声称可完整覆盖多峰未来，也不能把训练真实未来输入部署前向。
教学例子：例如两条路都可能成功时，方差可反映预测不确定；但两个相距很远的离散目标未必能被单一高斯精确表达。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
Decision Transformer 为什么可能需要比“期望回报是多少”更丰富的未来条件？
DT-JEPA: Learning to Predict Future Representations for Decision-Making
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：不同轨迹可能获得相同总回报，却通向完全不同状态，单个 return-to-go 无法区分这些动力学。DT-JEPA 用从历史预测的未来表示分布作为条件，让动作选择获得更具体的未来信息。未来只是预测，不是部署时可读取的真实结果，仍要管理不确定性和训练信息隔离。
教学例子：教学例：两条路线奖励相同，一条到充电区、另一条到出口；相同回报数字未说明当前该往哪走，未来状态特征提供另一类条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么内层 Agent 看不到最终任务指标，而外层仍能用它评价策略？
RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
问答新增：2026-10-27 · Purdue University
展开答案与例子
答案：内层依据训练损失与诊断改 updater，若读取最终指标就会直接对评测反馈调参；外层评估固定策略的整体研究表现，承担不同选择职责。跨轮继承提示、库和节奏才是递归部分，归一化聚合也只是排名工具，不能把搜索套件成绩当未见任务泛化。
教学例子：例如内层只看到训练 loss 决定改更新规则，运行结束后外层比较策略；不能让内层每次试改都先查看最终测试分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
archive 保留低分后代与排除暴露分支各有什么证据边界？
RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
问答新增：2026-10-27 · Purdue University
展开答案与例子
答案：低分已评估策略仍入 archive，可保存探索与失败经验，不能只存赢家伪造单调改进。曾暴露 held-out 描述的分支即使排除，其总结可能经其他 archive 传播，原文未解决该 provenance 风险；z-score 聚合也不是显著性检验。
教学例子：例如删除一条污染策略却保留别人读过它后写的总结，信息仍可能间接流入后代，不能据删除动作宣称隔离已证明。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
为什么跨候选固定模型、数据顺序和更新预算比仅固定 seed 更重要？
RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
问答新增：2026-10-27 · Purdue University
展开答案与例子
答案：若候选能改模型、loss 或训练时长，分数差就不再只反映 updater 策略。固定合同控制优化对象，异常 updater 短试验后回滚；多个 seed 也不能补救系统性协议差异，或把训练套件指标自动变成未见任务泛化。
教学例子：例如甲多训练一万步、乙只训练一千步，即使用同 seed 也无法把差值归给优化器策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
RSI-Opt 为什么研究“怎样改进优化方法”，而不只优化一个固定模型？
RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
问答新增：2026-10-27 · Purdue University
展开答案与例子
答案：某种优化更新在当前任务有效，不表示它适用于其他模型或训练阶段。RSI-Opt 把更新策略本身作为可改进对象，在受控任务执行后评价其作用，再决定保留哪些变化。它需要区分内层实际优化与外层方法选择，不能由候选描述或单次高分推导普遍收益。
教学例子：教学例：先让一种更新规则训练小模型，再据同预算结果比较规则；研究目标是更新方法，而不是只记住某次训练的最好参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么循环内图像评分高，仍不能直接激活抽取出的经验策略？
ImageRSI: Verification-Driven Recursive Self-Improvement for Agentic Image Generation
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：同一评审器引导修复又评价收益，可能强化自身偏差。经验需先在相同请求、配置和 seed 下做有无配对，由独立盲评校准，再经独立 holdout 接纳；硬约束也不能被平均高分掩盖，fallback 返回最好图不等于经验或图像已达接纳标准。
教学例子：例如修复策略让评审偏爱的构图更漂亮，却漏掉指定人数；只有固定要求的独立配对与硬否决检查，才能暴露这种投机。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
最多两次修复后返回最高分 fallback，是否表示 accepted？
ImageRSI: Verification-Driven Recursive Self-Improvement for Agentic Image Generation
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不表示。初始加两次修复的最好候选可作为 fallback，但若未过硬条件仍未接纳。judge 离线 SFT/GRPO 在采集轮之间更新，不在同一评测请求自改；本地真实生成、语义 judge 与训练链都未实现，不应把评分公式写成已验证系统。
教学例子：例如三张图都拼错指定文字，返回其中最好看的一张仍是未通过，不能因有返回文件就统计 checklist 成功。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
经验抽取与独立 paired admission 为什么要分开？
ImageRSI: Verification-Driven Recursive Self-Improvement for Agentic Image Generation
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：轨迹提出可复用策略只是候选，有无经验需在相同请求、输入、配置和 seed 下配对，再盲评校准并用独立 holdout。循环内 judge 可能偏爱自己指导的修改，不能直接用它的分数激活经验或让外部 test verdict 指导生成。
教学例子：例如“加强空间描述”在当前一图有效，只能作为提案；还需新请求配对检查是否也会损害其他关系或风格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
固定原始 requirements 为什么比只提高五维平均分更重要？
ImageRSI: Verification-Driven Recursive Self-Improvement for Agentic Image Generation
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：图像修复应满足用户最初的数量、关系、文字与身份约束，不能通过删除难要求或平均抵消缺陷提高分数。五维评分用于定位问题，接纳还受硬 veto；漂亮但遗漏关键条件的图仍应失败，评审得分也不是生成结果本身的事实保证。
教学例子：例如要求三只杯子且文字准确，画面美感再高也不能抵消只有两只杯子，修复不能把要求改成“两只或三只”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
参数闭合和 guard 为真，为什么还不足以证明省掉一次模型调用既正确又真实？
HarnessMM: Recursive Self-Improvement for Harness Token Efficiency
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：这些条件只支持某条动作可被复用，语义是否完成任务仍需原评测器判断。执行证书还要绑定精确参数、前驱回执与工具结果，并审计原注册边界的慢调用确实未发生；理论上可跳过与物理调用实际减少是两件事，失败和恢复成本也不能漏算。
教学例子：例如图里已有可执行测试命令，系统可直接调用，但必须留下真实测试回执并确认未另发一次慢模型请求，才能计入节省。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
核算 HarnessMM 成本时，为什么连失败、fallback 和开发阶段都不能漏记？
HarnessMM: Recursive Self-Improvement for Harness Token Efficiency
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：完整 episode 要累计所有实际调用的输入输出 token，包括生成复用结构、选择、额外上下文、失败恢复和最终整理，cached input 也属于账目。开发成本另记并按部署次数摊销。少一次慢调用只是局部证据，不能直接推出总 token、延迟或能耗都降低。
教学例子：教学例：省去一次主模型调用，却新增两次选择与恢复调用，应全部计入；一次性建图成本还需按实际复用任务数摊销。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
复用已确定动作与让模型规划新动作，在线决策自由度有什么区别？
HarnessMM: Recursive Self-Improvement for Harness Token Efficiency
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：复用只在先前完成语义解析、参数完整且条件满足的动作中选择，不能凭当前观察自由补参数或发明新步骤；规划则需要解释新信息并构造行动。前者可跳过重复推理，但受覆盖范围限制，不支持或需新判断时应 abstain，不能把结构条件通过当成语义正确。
教学例子：教学例：已保存的精确测试命令可按成功回执触发；临时发现新的依赖冲突时，不能由复用器猜一个修复命令。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
HarnessMM 为什么认为工具反馈后再调用一次模型，有时是在重复已经完成的判断？
HarnessMM: Recursive Self-Improvement for Harness Token Efficiency
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：Agent 可能已在上一轮确定某个后续命令，只是等待前置工具返回；条件满足后再让模型重新推理，未必增加新信息。HarnessMM 研究复用这种已确定决策来减少慢调用。需要新的语义理解时仍应交回模型，复用范围不能扩展成任意预测未来动作。
教学例子：教学例：已明确“文件创建成功后运行指定测试”，成功回执到来时可检查条件并执行；若出现未知错误，则需要重新判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么先轨迹内再轨迹间平均师生分歧，不能按节点访问次数直接平均？
Frontier-OPD: Discovering the Edge of Agent Capability and Teaching Agents to Go Beyond
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：循环轨迹会多次访问同一状态，若每次都算独立证据，频繁绕圈的一条路径就压过其他轨迹。两级平均先平衡轨迹权重，代表历史再用于真实教师桥试验；排名的有符号分歧与验证 agreement 也不同，节点高分不等于接管一定有益。
教学例子：例如一条轨迹三次分歧十分，另一条一次零分，节点应是五分；直接按四次访问平均成七点五会放大循环影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
桥实际少于 K 回合时怎样比较窗口，续跑能进训练池吗？
Frontier-OPD: Discovering the Edge of Agent Capability and Teaching Agents to Go Beyond
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：比较实际桥长加 H 的新旧同长窗口，需有效重放、非终止交接和完整续跑，agreement 不下降才接纳桥响应。验证用的学生续跑不能进训练池，重复响应另需保留；当前只做 L1 数值协议，未实现训练器和完整经验池。
教学例子：例如 K 上限二但教师只走一轮，就用一加 H 比较，不能拿更长旧窗口或把验证续跑也当教师示范训练。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
高分前沿节点与有效教师桥为什么不能用同一个判据确认？
Frontier-OPD: Discovering the Edge of Agent Capability and Teaching Agents to Go Beyond
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：节点排名决定先把有限教师预算花在哪里，依据有符号师生分歧；桥验证则比较真实接管加学生续跑与原历史的同长窗口，要求有效重放和 agreement 不下降。前者是试验优先级，后者是训练数据准入，排名靠前本身不证明教学有效。
教学例子：例如某状态分歧很大，但教师接管后学生仍无法继续，该位置可被优先试验，却不能因此直接把失败桥加入训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Frontier-OPD 为什么只在部分状态请教师接管，而不让教师生成所有训练轨迹？
Frontier-OPD: Discovering the Edge of Agent Capability and Teaching Agents to Go Beyond
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：强教师的完整交互昂贵，而且直接模仿其顺利轨迹未必覆盖学生会卡住的位置。Frontier-OPD 从学生自己到达的状态寻找值得尝试教学的前沿，让教师短暂搭桥后交回学生；节省预算的同时还需验证这段教学是否真的适合学生续跑。
教学例子：例如学生反复卡在找钥匙后的开门步骤，可针对该位置试一小段教师帮助，而不是每道题都由教师从头完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
PAIR 的偏好损失形式像多负例对比学习，为什么不能把它称作 token 级 DPO？
PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：PAIR 用点击候选、同次曝光未点击候选和随机会员构造偏好，训练资料编码器与历史塔，使相关性表达互补需求而非只看相似。其计算形式是多负例对比目标，没有逐 token 概率比、显式参考策略或 KL 项。定义性差别在曝光条件下的监督语义，不能因使用“偏好”一词就等同于语言模型 DPO。
教学例子：求职者点击了招聘者而略过另一位求职者。两位求职者资料可能更相似，但这种曝光偏好要求编码器学会互补关系；训练比较的是候选表示得分，不是回答文本的 token 概率。
依据：背景与主要改动、核心公式与服务边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
PAIR 的历史塔如何检查 position、padding 与候选身份，而不读取未来点击？
PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：历史只能含请求前事件，mask 应使 padding 内容变化不影响输出，位置变化可按结构影响序列，候选资料与标签保持配对。真实更新与梯度诊断能核验算子，不把少量 CUDA smoke 当正式职业推荐收益。原文损失是多负例对比，不可擅加参考 KL。
教学例子：改动被 mask 的历史 token 不应改变分数；若改了未来被点击候选才变准，那不是合法历史建模，而是把答案漏进输入。
依据：背景与主要改动、核心公式与服务边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
PAIR 的同次曝光未点击与随机会员负例，分别提供什么区分难度？
PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：曝光未点击更接近用户实际面对的竞争对象，随机会员提供较广但常更容易的背景；混合帮助区分细粒度选择与全局空间。未点击不一定真负，位置与机会也影响反馈。来源称偏好不代表有 token DPO 或已消除曝光偏差。
教学例子：用户在两位同地区招聘者中点了一位，是细比较；从全国随机抽一个无关学生更易区分，却不能替代这次真实选择关系。
依据：背景与主要改动、核心公式与服务边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
PAIR 为什么将职业社交相关性理解为互补，而不只相似？
PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：求职者可能需要招聘者、客户或不同技能伙伴，资料最像的人未必最有帮助。共享资料编码加历史塔，利用同次曝光的点击与未点击构造偏好，让空间反映这种需求。互补关系仍依场景，不能一律推荐背景不同者。
教学例子：工程师找招聘者时另一工程师更相似却不合任务；若在找技术同伴，工程师又可能合适，当前历史意图决定相关性含义。
依据：背景与主要改动、核心公式与服务边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OneLatent 的潜在 token 为什么能省掉在线长推理，又不能被称为严格的推理信息瓶颈？
OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：训练用探索、评价、归因理由重建教学生通过潜在 token 组织推荐信息，随后只预测语义 ID，省去输出长理由的解码成本。但普通因果掩码仍允许输出读取原始画像和历史，且更新全部学生参数，所以效果不能归因于潜在 token 单独存储了全部推理。本地仅完成资料与成本审查，没有运行复现。
教学例子：训练时教模型用几个内部标记支持“为何适合这位用户”的回答，上线只输出物品编码。即使推荐更快，也不能据此断言这些标记完整保存了每一步推理。
依据：背景与主要改动、成本判断与本地边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
OneLatent 多视角重建为什么先按每条理由 token 数平均，再按可用视角平均？
OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：直接求和让长理由天然更重，视角数不同也会改变样本贡献。双层平均控制长度与缺失差异；教师可读正例构造理由，学生 prefix 却不能含目标 SID 或正例描述。服务异步缓存和大训练成本是另一边界，本地只有审查。
教学例子：一条二十词理由和一条二百词理由不应仅因长度十倍就支配学习；缺少归因视角时也不能用空文本当作真实第三项。
依据：背景与主要改动、成本判断与本地边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
OneLatent 的潜在接口与额外 encoder/projector 的 latent MSE 蒸馏，为何不是同算法？
OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：来源用普通因果学生通过单、多视角理由重建再预测 SID，更新全部参数，没有额外投影器和严格 latent 瓶颈。向量 MSE 只对齐位置特征，不保留同样生成监督。任何小夹具若替换训练目标，只能作新诊断，本地未做这种替代复现。
教学例子：让学生从潜在标记重建理由与让两组向量欧氏距离接近，分别监督可生成内容和坐标；后者成功不证明前者能力。
依据：背景与主要改动、成本判断与本地边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OneLatent 的三视角教师监督为什么是探索、评价和归因，而非固定一条长 CoT？
OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不同视角提供候选发现、比较与解释线索，模型按样本可用视角学习潜在接口，减少固定模板可能带来的偏置与过度思考。它只减少在线显式文本输出，不能据此证明潜在 token 忠实保存每个推理步骤。全参数训练也共同影响结果。
教学例子：某样本只有可靠评价理由，另一样本还有探索与归因，不必给二者硬塞同一长度推理；内部表示学到多少仍需独立检查。
依据：背景与主要改动、成本判断与本地边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
UserArena的OPTD为什么只把抽象意图给教师，并逐token限制它带来的分布变化？
UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
问答新增：2026-10-27 · Leiden University
展开答案与例子
答案：完整轨迹可能泄漏未来商品或动作，先提炼抽象偏好并只给冻结教师，可保持学生部署输入边界。含意图与无意图教师重放同一学生前缀，信任域限制额外指导强度，再结合真实响应grounding。KL约束不能证明意图提取器没有泄漏，内容过滤仍必须独立检查。
教学例子：教师可知道用户更看重耐用性，但不能直接拿到下一页商品ID和最终购买结果，再把这些未来动作暗示给学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPTD grounding能在学生rollout前缀上直接替换gold token吗？
UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
问答新增：2026-10-27 · Leiden University
展开答案与例子
答案：不能。真实响应grounding使用另一组真实前缀logits；教师两视图则评分同一学生前缀。逐词元信任域取可行下端点，方向是混合教师到无意图教师，不能改成批平均反向KL。
教学例子：例如学生已走错历史，硬塞真实下一动作不等于对真实轨迹做teacher forcing。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
OPTD给教师抽象意图，与直接给学生未来轨迹有何不同？
UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
问答新增：2026-10-27 · Leiden University
展开答案与例子
答案：意图只提供给冻结教师且需排除具体动作、商品身份、价格与结果；学生仍按自身前缀生成。信任域限制意图影响，但不能单靠KL证明提取器无泄漏。
教学例子：例如抽象偏好轻便可以，下一页会点击哪个商品则不应写进意图。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
UserArena为什么不只报告下一步动作命中？
UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
问答新增：2026-10-27 · Leiden University
展开答案与例子
答案：用户模拟还需保持轨迹动态、跨会话偏好和群体差异，并观察最终推荐结果是否接近真实政策差异。局部动作准确不能替代整体用户行为保真。
教学例子：例如每次点击猜得还行，但长期兴趣漂移全错，模拟推荐政策仍可能失真。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
MOER里续写由学生生成，为什么整条专家前缀引导轨迹仍按off-policy处理？
MOER: Mix-Policy Optimization under Expert Prefix Guidance with Selective Rollback
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：学生是在外部专家前缀条件下续写，整条轨迹并非从无引导学生策略完整采样，因此不能仅按作者身份把后半段归为普通on-policy。MOER成功时保留引导轨迹，失败时回滚到已验证专家轨迹，并使用两类目标；专家信息仅能处于训练边界。
教学例子：老师先写出关键推导，学生接着完成；即使后半段亲自写出，也不能假装学生从空白独立走到了同一状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
MOER的off-policy比值前向为一时为什么仍有梯度？
MOER: Mix-Policy Optimization under Expert Prefix Guidance with Selective Rollback
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：分母中的策略概率停止梯度，分子保持可微，所以数值相消不等于导数相消。联合组优势不除标准差，最终按全部有效响应词元归一，不能额外按混合权重改分母。
教学例子：例如分子等于detach后的分母时结果是一，但改变分子仍会改变损失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
MOER怎样区分原生on-policy与专家前缀引导轨迹？
MOER: Mix-Policy Optimization under Expert Prefix Guidance with Selective Rollback
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：整个引导轨迹均视为off-policy，即使后半由学生生成，因为其起始状态受专家干预。两类使用不同目标，不能按词元作者把后缀直接归入原生策略样本。
教学例子：例如学生接着专家写第三步，第三步仍属于受引导轨迹的数据流。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
MOER为什么用逐渐缩短的专家前缀引导学生？
MOER: Mix-Policy Optimization under Expert Prefix Guidance with Selective Rollback
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：完整专家解法减少探索空间，完全无指导又可能难以成功。逐步减少前缀让学生承担更多续写；失败时回滚到已验证完整专家轨迹，避免把错误续写继续当示范。
教学例子：例如先提示前两步，再只提示第一步，学生逐渐自己完成剩余推导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
GIFT为什么按logit梯度几何挑token，却不能说它会永久排除所有冲突监督？
GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：配额优先选择不冲突且提供正交新方向的教师信号，但配额大于可用非冲突位置时，仍可能补入较弱冲突token。它做的是token选择，不是把教师梯度投影掉；保留项仍按全部有效token数归一。局部logit一阶性质不能保证共享参数有限步更新始终安全。
教学例子：一个子批次需要保留的token比完全不冲突的位置还多，算法可能选最弱冲突补齐；不能把配额选择称作零冲突保证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
GIFT减少选中token后可以按selected数重归一吗？
GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：不能，分母仍为全部有效词元，保留项强度不稀释，配额按子批有效集合与资格集合计算。无RL梯度和零教师梯度也需按规定处理，不能自动当高价值新方向。
教学例子：例如只选一半后再除以一半数量，会额外把每项强度翻倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
GIFT token选择与把教师梯度直接投影有什么区别？
GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：它决定保留哪些词元的原蒸馏损失，不是把每个梯度旋转到正交方向。精确配额不足时仍可能纳入弱冲突，因此不能宣传永久无冲突或有限步安全保证。
教学例子：例如最终选中某位置，仍用它原损失，而非用一个已被几何改写的新梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
GIFT为什么先分析RL与蒸馏梯度几何？
GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：教师指导可能与任务奖励冲突，也可能补充正交新方向。按局部logits梯度选择词元，试图减少不必要冲突并逐步缩小监督范围，而非盲目全词元模仿。
教学例子：例如教师偏好一种格式但任务奖推动另一行为，需要先判断方向关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
AOPD为什么不只给KL乘一个reward，而需要采样项与全词表教师期望共用截断测度？
When to Follow the Teacher: Advantage-Based On-Policy Distillation
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：目标关心教师动作对当前学生后续奖励的优势，估计包含两项相消结构。只截断采样项、或把教师测度重新归一化，会破坏对应关系，变成另一目标。leave-one-out基线来自同题其他rollout，教师与行为概率冻结，不额外生成反事实续写来伪造优势。
教学例子：教师偏好一个学生暂时接不下去的开头，不能仅因教师概率高就强化；需结合学生真实续写结果，判断指导是否可利用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
AOPD能只裁sampled term或用当前学生替代rollout S吗？
When to Follow the Teacher: Advantage-Based On-Policy Distillation
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：不能，两项共享同一未归一化截断教师测度，分母来自固定采样学生S。只更新Sθ，组需多于一以形成独立LOO基线，不得跨步偷偷改行为概率。
教学例子：例如把截断后教师再softmax，会改变总质量及两项对应关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
AOPD与给KL简单乘一个reward有什么不同？
When to Follow the Teacher: Advantage-Based On-Policy Distillation
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：目标包含同一截断教师测度下的采样项与全分布项，结合独立LOO回报；简单乘奖会丢掉其估计结构。截断测度不重新归一，是关键差异。
教学例子：例如只对一个采样词乘奖励，不能代表减去全词表教师项的同一目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
AOPD为什么问教师动作对学生是否可完成？
When to Follow the Teacher: Advantage-Based On-Policy Distillation
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：教师偏好的下一步不一定是当前学生能继续完成的路线，学生相对终局优势用于选择适合其能力的指导。估计复用学生已有rollout，不额外生成反事实续写。
教学例子：例如教师给很高阶证明起点，学生后面完全接不住，未必是最佳当前监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
TTR为什么只归一化key，却让回归target保留原始token的模长？
Rethinking Sequence Compression with Test-time Regression
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：key的单位化让回归按方向组织观测，target仍保留输入强度；二者的这种不对称使系数反映当前token集合。若target也由归一化key的同一个静态投影产生，固定向量就能平凡拟合，失去输入相关压缩意义。每次前向求回归系数，不等于推理时更新模型的持久参数。
教学例子：两个token方向相同、模长分别1和3；key相同但target不同，回归必须权衡两次观测。若两边都归一化，它们会变成同一个监督点，强度差异随之消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
TTR 的 dual solve 为什么在 token 轴形成 T×T 矩阵，且不能 detach？
Rethinking Sequence Compression with Test-time Regression
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：用K按D的逆平方根缩放后，解I_T加K_tilde K_tilde转置的Cholesky方程，再映射回d维系数。外层loss需要通过solve训练target投影和正则，detach会切断定义中的学习路径；复杂度也保留T的三次项。
教学例子：T远小于d时解token轴方程较合适，但不能据此把任意T规模都宣称为只需O(T²d)。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
TTR 与固定平均池化的主要区别，为什么不只是换一组权重？
Rethinking Sequence Compression with Test-time Regression
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：平均池化按固定聚合规则输出；TTR将当前组构造成ridge回归问题，精确求解与这组相关结构有关的系数，并通过求解反传训练外层参数。它改变了压缩问题的定义。
教学例子：两组token均值相同，但方向相关性不同，回归压缩仍可能产生不同表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
TTR-Compressor 的“test-time”是否表示推理时再训练模型参数？
Rethinking Sequence Compression with Test-time Regression
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：这里指每次前向按当前token组重新拟合回归系数，把系数作为压缩表示。可训练target投影和正则由外层loss学习；输入相关的闭式拟合不等同于推理时更新这些模型参数。
教学例子：两组输入使用同一套a和ρ，却各自解出不同的压缩系数h。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
反向KL蒸馏为何不能只在旧rollout状态上重拟合token KL？
Reverse-KL Policy Distillation: Statistical Guarantees and Limits
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：目标风险按候选策略自己的访问分布计算，旧策略频繁到达的状态可能被候选很少访问。该算法用截断的前缀重要性比与累计KL增量，构造有界候选比较，再更新整条策略的权重。前缀比不包含当前动作，同一个比值要乘在比较差的两项上；这与普通旧数据KL回归不同。
教学例子：旧策略常走一条失败支路，新候选几乎不会进入；不修正访问分布，就可能把这条支路上的token误差算得过重，掩盖候选真正会遇到的状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
前缀重要性比为什么必须排除当前 action，并同时乘差值两项？
Reverse-KL Policy Distillation: Statistical Guarantees and Limits
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：文档r_h的乘积只到u<h，用同一个截断比加权candidate与rollout累计KL增量之差。把当前动作算进去或仅重权一项，会改变比较loss及其有界性质。
教学例子：比较第3个状态时，前缀只含前两步动作，不能先把第3步选择也纳入状态到达比。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
full-feedback teacher 分布与只给一个采样答案，监督信息有什么差异？
Reverse-KL Policy Distillation: Statistical Guarantees and Limits
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：本算法在到访状态查询完整动作分布，才能计算候选各动作的反向KL与比较量；单个采样答案不直接提供相同信息。还需teacher在候选正概率动作上有支持，否则KL可能无穷。
教学例子：只看到老师这次选A，不能据此知道它给B和C分别多少概率。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
反向 KL 策略蒸馏为什么关注学生自己会访问哪些状态？
Reverse-KL Policy Distillation: Statistical Guarantees and Limits
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：目标是在候选策略自身访问分布下累积teacher与student的KL。不同策略走到的状态不同，把所有历史状态等权重拟合，可能偏离某候选实际需要控制的风险。
教学例子：某学生几乎不会进入的一条分支，不应仅因它曾在旧rollout出现就占同等风险权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
OpenAttention只精读少量KV，为什么还要给未读尾部留一个带计数的代理？
OpenAttention: One Percent Is Enough with Tail Proxies
问答新增：2026-10-27 · Sogang University
展开答案与例子
答案：直接top-k会把未读token的softmax质量全部丢掉。OpenAttention按查询相关几何聚类，给高估计误差的簇更多精读预算；剩余token以均值key/value代理参与归一化，并在logit中加入对数数量。这样保留尾部的总质量近似，但簇内分布与误差估计仍有假设，不能视为精确attention。
教学例子：100个相似尾部token各自权重不大，合起来却很可观；一个无计数的均值代理只算一次，会低估它们，加入数量修正才能近似这100项的总贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
精确 token 选出后，为什么必须从簇代理里扣除这些行并重算计数？
OpenAttention: One Percent Is Enough with Tail Proxies
问答新增：2026-10-27 · Sogang University
展开答案与例子
答案：否则选中的token会同时以精确项和代理成分被重复计算。残余簇需重算均值与数量，并在logit加入log计数；空簇不再产生代理。文档的确定性边界不能偷偷用经验补丁替代。
教学例子：簇原有10项、精确读取3项，剩余代理代表7项，而不是继续代表10项。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
OpenAttention 的残余代理，相对普通 top-k 截断多保留了什么？
OpenAttention: One Percent Is Enough with Tail Proxies
问答新增：2026-10-27 · Sogang University
展开答案与例子
答案：top-k以外的内容被直接忽略；残余代理以剩余均值和数量近似未读集合的贡献，并与精确token联合softmax。它仍是近似，不是把代理均值当成尾部的精确恢复。
教学例子：一个簇剩下100个相近token，代理不应仅以“一项”的权重参与归一化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
OpenAttention 为什么不满足于“只读少量重要 KV”？
OpenAttention: One Percent Is Enough with Tail Proxies
问答新增：2026-10-27 · Sogang University
展开答案与例子
答案：低读取率下，未读尾部仍可能携带大量总权重。OpenAttention把精确读取与带计数的残余簇均值代理结合，尝试保留尾部质量，而非把所有未读token当作没有贡献。
教学例子：很多单项不突出的历史词，合起来的注意力质量也可能影响输出。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
LazyFlash前向仍是dense，为什么训练加速来自反向，而不是减少可见上下文？
LazyFlash: Forward-Dense, Backward-Sparse Attention for Accelerated Long-Context Fine-Tuning
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：它保持前向完整注意力，用输出梯度的块范数分配反向保留概率，再对采样块按概率倒数重加权，估计dense梯度。要真正节省时间，必须在tiled反向内核里跳过相应访存与计算。先完整反传再把梯度置零，不具备同样成本；单次随机梯度也不会逐元素等于dense。
教学例子：某query块的梯度贡献很小，可降低其反向执行概率；前向仍看过全部证据。只有没有实际执行被跳过块的反向工作，才可能获得相应速度收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
在 PyTorch dense backward 后把梯度置零，为什么不算 LazyFlash kernel？
LazyFlash: Forward-Dense, Backward-Sparse Attention for Accelerated Long-Context Fine-Tuning
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：主要访存与计算已经完成，后置mask没有省掉定义性反向工作。必须在tiled FlashAttention反向内部跳过相应操作；当前文档明确无本地operator或GPU回执，不以toy mask冒充实现。
教学例子：算完所有块再丢掉一半结果，不能报告为只计算了一半反向块。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
LazyFlash 的 importance backward 与固定 top-k 梯度块截断，估计性质一样吗？
LazyFlash: Forward-Dense, Backward-Sparse Attention for Accelerated Long-Context Fine-Tuning
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：importance采样按保留概率倒数重权，以dense梯度为无偏估计目标；固定截断一般没有这一保证。无偏针对随机性的期望，也不表示每一次抽样反向都与dense完全相同。
教学例子：某块只以一半概率保留，保留时需按对应概率补偿，而非永远删除低排名块。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
LazyFlash 为什么在训练时保留 dense 前向，却压缩反向工作？
LazyFlash: Forward-Dense, Backward-Sparse Attention for Accelerated Long-Context Fine-Tuning
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：前向决定模型读取的完整上下文；反向不同query块的梯度贡献可能很不均匀。方法把节省放在训练梯度计算上，避免把部署时的可见信息范围改成稀疏前向。
教学例子：模型仍看全文作预测，但本次训练反向只抽取部分贡献块并做相应重权。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
核心机制
Jev-DLC为什么用更新前的通道预测评估可靠性，并只让反馈影响之后请求？
Jev-DLC: Decision-Level Continual Learning from Typed Feedback
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：可靠性应衡量通道在看见反馈前的决策，否则修正后再评分会把学习信息当成预测能力。保守通道积累重复语义经验，响应通道跟踪当前修正，二者通过可靠性混合。反馈只能对应已提交决策，不能伪造重放；冻结评分器上的持续状态也不能读取当前金标再预测。
教学例子：例如用户撤销一次工具选择后，系统才能更新两个通道并处理下一次请求；不能先用这次正确工具修正状态，再回填为本次成功预测。
依据：背景与主要改动、双通道、PA-I与可靠性；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
实现细节
Jev-DLC为何拒绝伪造、重放或过期Decision的反馈？
Jev-DLC: Decision-Level Continual Learning from Typed Feedback
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：反馈必须针对当前实例已提交的选择，否则可把任意目标注入状态或重复累积同一经验。更新完成后释放当前公开缓存，硬安全掩码不能被适配状态覆盖。
教学例子：例如同一次撤回事件发送两遍，不能让系统把它当两次独立用户纠正。
依据：背景与主要改动、双通道、PA-I与可靠性；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
方法对比
Jev-DLC保守通道与响应通道为什么要分开？
Jev-DLC: Decision-Level Continual Learning from Typed Feedback
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：前者积累重复行为形成稳定先验，后者较快响应当前修正；可靠性混合允许二者在稳定与变化环境中有不同影响。单一状态难以同时表达长期习惯和近期转向。
教学例子：例如用户长期偏好A但近期临时改用B，两通道可分别保留长期与即时信号。
依据：背景与主要改动、双通道、PA-I与可靠性；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
基础理解
Jev-DLC持续适配时需要保存整段交互历史吗？
Jev-DLC: Decision-Level Continual Learning from Typed Feedback
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：方法在冻结评分器上保留两个紧凑状态：保守通道的语义计数与方向，以及响应通道的当前修正方向。历史反馈被压入状态，不是把所有旧对话不断塞回上下文。
教学例子：例如用户反复纠正同类路由，系统更新计数和方向，而不无限拼接所有旧工单。
依据：背景与主要改动、双通道、PA-I与可靠性；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么逆动态头的未来状态要来自可反传的 online 编码器，而非 EMA target？
Inside-JEPA: From Prediction to Relational Grounding in Latent World Models
问答新增：2026-10-27 · Australian Institute for Machine Learning, Adelaide University
展开答案与例子
答案：逆动态目标要把“哪些关系能解释动作”的信号传回表示层，若未来关系全停梯度，该侧就失去相应学习压力。JEPA 预测目标仍可使用稳定 EMA，但逆动态路径有不同梯度职责；还需通过只读实体、打乱动作等对照确认关系通道真正提供作用信息。
教学例子：例如模型需根据移动前后的“杯子在盒子左侧”关系恢复动作；未来关系分支可反传，才能学会保留这种变化。
依据：背景与主要改动、核心公式与五臂；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
四实体 K=8 的状态为什么是 256 维，而不是删对角后的 224 维？
Inside-JEPA: From Prediction to Relational Grounding in Latent World Models
问答新增：2026-10-27 · Australian Institute for Machine Learning, Adelaide University
展开答案与例子
答案：实体 latent 为 4×32，有序对槽为 4×4×8，合计 256；padding 和对角槽固定零但仍保留形状。JEPA 未来目标来自 EMA 并停止梯度，inverse 的未来状态必须来自可反传 online 编码器；将二者混用会切断定义性训练信号。
教学例子：例如把对角关系值设零不会删除那三十二个槽；若顺手移除它们，预测器输入维度与论文合同就不同。
依据：核心公式与五臂、本地复现与操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
INV-S、INV-R 与打乱标签控制分别用来区分什么信号？
Inside-JEPA: From Prediction to Relational Grounding in Latent World Models
问答新增：2026-10-27 · Australian Institute for Machine Learning, Adelaide University
展开答案与例子
答案：INV-S 让逆动态只读关系通道，INV-R 只读实体 latent，可检查动作监督是否直接塑造关系；打乱标签臂只打乱 inverse 目标，而预测器仍读真实动作。它们是监督来源控制，不能简单将任意辅助头增益都解释为关系 grounding。
教学例子：例如随机动作标签也能带来相似变化时，就需警惕收益来自一般正则而非正确动作与关系变化的对应。
依据：背景与主要改动、核心公式与五臂；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
Inside-JEPA 为什么关注潜在状态能否表达“对象之间的关系”？
Inside-JEPA: From Prediction to Relational Grounding in Latent World Models
问答新增：2026-10-27 · Australian Institute for Machine Learning, Adelaide University
展开答案与例子
答案：世界模型可以预测向量变化，却未必把接触、相对位置等关系组织成可检查信息。Inside-JEPA 把实体与关系纳入状态，并研究动作监督如何塑造关系表示。可解释通道存在不等于语义已被学到，需要对照区分信号来源，不能用维度正确或预测 loss 低替代关系能力验证。
教学例子：教学例：两个物体外观不变，但从分离变成接触，这种关系变化可能决定下一动作；仅识别物体类别并不足以描述。
依据：背景与主要改动、核心公式与五臂；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
FineSID从相关性预训迁移到CTR时，为什么不能只复制SID embedding？
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：相关性阶段训练的是包含有序内容融合与HiFormer交互的完整共享预测器，知识同时存在于embedding、稠密层和归一化状态。只复制词表会丢掉大部分已学交互；迁移还须按约定更换CTR头并处理优化器状态。原文大规模实验成本过高，本库只收录方法与证据，不能用随机token小夹具替代整条链路。
教学例子：预训已学会查询中的用途如何与图像局部细节交叉，只搬商品短码就像只带走字典、不带走阅读能力；后续点击训练还得从头重学这些交互。
依据：背景与主要改动、三阶段结构、成本判定：不执行复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
实现 FineSID 阶段切换时，为什么 optimizer 状态与归一化状态也需要明确处理？
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：完整参数迁移不能只复制 SID embedding，交互层和归一化统计同样影响输出；优化器状态保留还是重置必须按阶段约定，否则训练动力学改变。CTR 任务头转换也需显式匹配。这里是论文关键实现契约，本地没有运行训练可供效果验收。
教学例子：搬了权重却丢失对应归一化状态，表示尺度可能突变；把旧任务的优化动量无说明套到新 CTR 头，也不能称无差别复现阶段迁移。
依据：三阶段结构、成本判定：不执行复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
FineSID 的完整预测器迁移与冻结内容 encoder 后加新 CTR 头，知识复用层次有什么不同？
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：后者主要搬运内容表征，FineSID 还保留相关性阶段学到的跨 token 融合、交互网络与状态，让 CTR 接着已有匹配能力适配个性化。迁移更完整也更昂贵，阶段接口需严格一致；来源本库是成本审查完成，没有缩小模型效果证据。
教学例子：只带走内容词典与连阅读理解网络一起迁移不同；前者知道词含义，后者还保留查询条件怎样与商品局部特征组合的能力。
依据：背景与主要改动、三阶段结构、成本判定：不执行复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
FineSID 为什么保留细粒度视觉与文本 token，而不只生成一个商品摘要码？
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：单个码会压掉局部纹理、区域和文本细节，相关性与点击判断却可能恰好依赖这些差别。细粒度离散 token 提供更丰富交互单位，再经相关性预训连接查询与商品。更多 token 也增加训练与服务成本，不能把细粒度直接等同于更好推荐。
教学例子：两件外套整体相似，用户只关心袖口或口袋设计；单个摘要码可能混淆，局部 token 才有机会保留决定点击的细节。
依据：背景与主要改动、三阶段结构、成本判定：不执行复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
ME-OPD为什么正确rollout不走教师纠错分支，错误rollout也只选一部分token？
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：正确轨迹只保留任务奖励，避免教师风格压过已成功的学生行为；错误轨迹才比较教师与冻结旧学生，只纠正教师更不支持的位置。先在完整同题组计算任务优势，再拆分支，否则只剩正确组会失去相对信号。参考解和完整回答只进入训练教师视图。
教学例子：学生几何推导仅误读一个标签，教师评分可集中压低相关错误token；不能因表达不同就重训整条已正确回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
ME-OPD应在拆正确/错误集合之前还是之后计算组优势？
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：先用全K条奖励算优势，再拆分；只留正确再统计会全为一而丢信号。纠错mask用冻结旧学生，严格大于才选，分母是全minibatch选中纠错token数。
教学例子：例如teacher与old分数相等的位置不选，不能因当前学生改变又重新挑mask。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
ME-OPD与Projected Distillation的修正产物有何不同？
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：前者teacher-force原回答并压低选中错误token，后者外部projector生成已验证修正版并做编辑片段DPO。评分原token与比较新旧文本，数据流不同。
教学例子：例如一法没有新改写答案，另一法必须把修正版与原版精确对齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
ME-OPD为什么正确回答不走教师纠错分支？
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：正确轨迹保留任务奖励，避免教师改写已成功表达；错误轨迹才筛教师更不支持的原token做局部纠正。教师不生成新答案，而是给原回答评分。
教学例子：例如答对的另一种解法不必因教师风格不同被整段改掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
CORD为什么要先选protected梯度，再对另一个梯度投影？
CORD: Conflict-Aware Optimization for Joint RL and Distillation in Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：投影的含义是尽量保留被保护目标的方向，只最小修改冲突的另一方向；交换保护对象会得到不同更新。还要区分只在冲突时投影与始终投影，并在完整优化批次汇总后操作。得到的是优化器转换前的一阶性质，不保证有限AdamW步后目标必降。
教学例子：任务奖励与教师模仿希望把同一参数往相反方向推。保护任务目标与保护模仿目标，保留下来的方向不会相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
CORD为什么先累加完整optimizer批梯度，再投影一次？
CORD: Conflict-Aware Optimization for Joint RL and Distillation in Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：投影是非线性操作，逐微批投影再相加通常不等于全批投影。固定权重汇总后还需先应用目标权重λ；保护梯度为零时不投影，λ为零直接返回第一目标方向。
教学例子：例如两微批冲突方向抵消后可能不冲突，提前分别投影会改变最终结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
CORD只在冲突时投影与always投影有什么差别？
CORD: Conflict-Aware Optimization for Joint RL and Distillation in Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：冲突门控保留同向分量，只有内积为负才移除冲突；always连有益平行分量也去掉。两者合成方向不同，且投影前性质不保证自适应优化器有限步更新必然下降。
教学例子：例如两个梯度同向时，冲突版直接相加，always版仍削掉另一方向的平行部分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
CORD为什么先选要保护的目标？
CORD: Conflict-Aware Optimization for Joint RL and Distillation in Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：任务奖励与教师指导梯度冲突时，直接相加会抵消。保护方向明确哪一目标的一阶方向不能被另一目标损害，再最小修改未保护梯度；这是一种明确取舍。
教学例子：例如保护任务奖励与保护教师行为，是两种不同配置，不能只写用了投影。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
AW-0 为什么允许专家内部双向交互，却把专家之间限制为代码→视频→动作？
Agentic World Action Models
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：内部双向交互有利于同一模态组织完整表示，跨专家分块因果则保持计划、场景预测与动作的条件方向。代码不应提前读取后续视频或动作来伪装规划，动作却可利用代码与预测场景；完全互读会改变信息可用性及推理时的执行顺序。
教学例子：例如先生成“抓取杯子”的程序，视频专家据此预测场景，动作专家再产出控制；不能让程序先偷看真实未来动作。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
连续 flow 目标与代码 masked diffusion 能使用同一噪声和监督 mask 吗？
Agentic World Action Models
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：不能。视频与动作采用连续加噪及速度回归，代码采用独立 Bernoulli mask，只监督被遮挡程序 token；动作噪声与代码 mask 也不由视频噪声统一决定。视频混合采样还需不同重要性权重并截断归一化，单个 flow loss 不能代表完整训练。
教学例子：例如视频噪声较低不意味着程序也只能遮少量 token；若三者共用一个随机 mask，就改变了论文规定的独立采样关系。
依据：本地收录与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
三专家各有投影、归一化与 FFN，与完全共用一套模态变换有什么区别？
Agentic World Action Models
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：独立变换给代码、视频和动作各自的表示处理路径，联合注意力再按规定边界交换信息；完全共享则对不同模态使用同一套参数映射。前者表达了模态分工，也增加参数与接口管理，不能据结构推断必然更好。原文是专家内部双向、专家之间分块因果的具体组合。
教学例子：教学例：离散程序 token 与连续动作可以各用自己的 FFN，但仍通过联合注意力衔接；这不等于三份模型完全隔绝或完全互读。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
AW-0 为什么试图把可组合程序、未来视觉和机器人动作放在一个模型里？
Agentic World Action Models
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：程序能表达可复用步骤，视频预测提供未来场景，连续动作负责真实控制，分别建模未必能把计划与物理后果联系好。AW-0 用三个专家联合生成这些对象，默认代码提供计划而非直接执行。实际效果还受视觉预测、动作质量和执行模式限制，本地仅完成资料审查。
教学例子：教学例：整理物品可有程序级“抓取再放置”，同时预测下一场景并生成控制；默认产生的代码不意味着系统会直接运行任意 Python。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
OnQ为什么在量化学生自己的前缀上蒸馏，并对同位置不同候选使用不同KL混合权重？
Right On Q: Recovering Reasoning under Quantization via Self-Generated Trajectories
问答新增：2026-10-27 · University of Michigan, Ann Arbor
展开答案与例子
答案：量化改变生成路径，全精度教师标准轨迹未必覆盖学生实际错误状态。教师因此沿学生前缀评分，再按每个候选的师生概率比平衡正反KL，以分别处理低估和高估。混合系数停止梯度，近似词表还保留剩余质量桶，不能只归一化少数候选掩盖误差。
教学例子：例如学生在一个前缀低估正确数字却高估某个连接词，两种偏差不应共用整句权重；教师也不能换回自己的理想前缀来评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
用 teacher/student top-20 并集近似 OnQ 时，能只在并集内重新归一化吗？
Right On Q: Recovering Reasoning under Quantization via Self-Generated Trajectories
问答新增：2026-10-27 · University of Michigan, Ann Arbor
展开答案与例子
答案：文档近似保留额外“其余质量”类别，并保留学生残差质量梯度、平滑教师类别。直接截断再归一化会抹掉尾部差异。OPD更新latent权重与scale，zero point在该阶段固定。
教学例子：并集只覆盖90%概率时，剩余10%仍需作为一类参与目标，而非被默认为0。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
OnQ 候选级 Dynamic KL，与整句固定 forward/reverse 混合有何差别？
Right On Q: Recovering Reasoning under Quantization via Self-Generated Trajectories
问答新增：2026-10-27 · University of Michigan, Ann Arbor
展开答案与例子
答案：同一前缀内有的token被学生低估、有的被高估，候选级α_v根据p_v与q_v变化；整句一个系数不能表达这种局部差异。α还需stop-gradient，避免权重本身变成被优化捷径。
教学例子：一个候选需要更强teacher覆盖，另一个需要抑制学生过高概率，二者不必用相同比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
Right On Q 为什么让量化学生自己生成训练前缀？
Right On Q: Recovering Reasoning under Quantization via Self-Generated Trajectories
问答新增：2026-10-27 · University of Michigan, Ann Arbor
展开答案与例子
答案：量化会改变模型真正走到的推理状态，固定全精度答案可能覆盖不到这些偏差。OnQ在学生前缀上查询冻结教师，让监督更贴近量化学生自身分布。
教学例子：学生前面走错一步后，教师仍在同一个错误前缀上给分布反馈，而非只展示另一条理想轨迹。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
MoEZip为什么要在普通KV压缩预算中预留路由锚点？
MoEZip: Routing-Aware KV Cache Compression for Sparse Mixture-of-Experts LLMs
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：删除KV不仅改变注意力输出，还可能改变后续专家路由。方法把已观察指令位置的路由Fisher敏感性经注意力传播到上下文，先保留全局锚点，其余沿用基础压缩器预算。该敏感性不是路由翻转的充分条件，未来答案和离线金标诊断不得进入真实选择器。
教学例子：例如一段旧证据对答案词元注意力不高，却影响调用哪个专家，可被锚点保护；不能偷看将来的标准答案再倒选该保留哪段历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
MoEZip 预留 anchors 后，base compressor 补预算时能再选同一批 anchors 吗？
MoEZip: Routing-Aware KV Cache Compression for Sparse Mixture-of-Experts LLMs
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：应排除已选anchors并补足剩余预算，最终gather真实KV且保持原时间索引。选择输入只能来自prefill可用instruction，不能用未来gold answer的离线路由翻转统计。
教学例子：总预算64、anchors16时，base需要补48个不同位置，而不是重复选16个anchor占名额。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
MoEZip 的 Fisher trace，是 router top-k 翻转的精确判据吗？
MoEZip: Routing-Aware KV Cache Compression for Sparse Mixture-of-Experts LLMs
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：不是。它是分布曲率的方向平均代理，不含router对hidden的Jacobian，也不是翻转的充分必要条件。anchor评分需按该代理理解，不能把高trace直接写成必然换专家。
教学例子：两个位置trace相同，hidden扰动方向不同，实际路由变化仍可能不同。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
MoEZip 为什么把 KV 误差与专家路由联系起来？
MoEZip: Routing-Aware KV Cache Compression for Sparse Mixture-of-Experts LLMs
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：删除KV会改变attention输出，进而影响MoE router。普通压缩若只看attention质量，可能忽略路由敏感位置，因此方法从已观察instruction的gate与attention中估计全局routing anchors。
教学例子：一条KV虽不占最大attention，扰动它后却可能让token跨过专家选择边界。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
核心机制
多个正确选项都排在干扰项前面，为什么完整正确集合仍可能恢复失败？
When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：候选份额总和受限，一个正确项吸走大部分质量时，另一个正确项虽排名靠前却可能低于阈值或均匀基线。排序正确与集合恢复因此不同，列表份额也不能直接当独立二元概率。部署阈值只可在验证集拟合后冻结，不能从测试曲线挑最佳点。
教学例子：例如两个正确选项分到很不均的份额，阈值只保留一个，尽管干扰项都更低；这说明单选命中不能替代完整集合的检查。
依据：背景与主要改动、方法与本地协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
实现细节
测试集阈值能根据测试exact-set曲线重新选择吗？
When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：不能。可部署协议只在验证集网格选阈值，再冻结测试；原文同数据阈值曲线属于回溯诊断。预测器也不接收正确集合，避免监督信息直接决定选择。
教学例子：例如看完测试曲线才挑最佳点，只能说明事后上界，不能称作未见数据的效果。
依据：背景与主要改动、方法与本地协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
方法对比
列表份额与独立二元概率为什么需要不同校准解释？
When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：列表份额受同组其他候选影响，总和受限；独立二元概率允许多个选项同时很高。直接用同一阈值或可靠性解释，会把候选竞争误解为对错置信。
教学例子：例如再加入一个正确项会分走列表质量，却不必降低原项独立正确的可能性。
依据：背景与主要改动、方法与本地协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
基础理解
多正确选项任务要求返回一个答案，还是一个完整正确集合？
When Multiple Choices Are Correct: Asymmetric Probability Allocation in Jev and Other Decision Models
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：目标是恢复所有正确候选组成的集合，集合大小可能超过一。返回一个正确项只满足单选式命中，仍可能漏选；返回所有项也可能误选干扰项。因此先把输出单位从“一个赢家”改成“一个集合”，再理解排序、阈值与exact-set指标。
教学例子：正确集合是{甲,乙}时，仅返回甲不算完整恢复；返回甲乙丙也因多出丙而不满足精确集合。
依据：背景与主要改动、方法与本地协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
DetectorScope的概念贡献为什么等于置零特征的logit差，却不能称为改写文本的因果效果？
Building Auditable AI Text Detectors with Sparse Autoencoders
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：稀疏特征池化后进入线性检测头，每个权重乘激活都可精确分解，因此置零该池化特征的logit变化可核验。改写原文会同时改变多个特征与上下文，不受这条线性等式约束。自动描述和相关验证也不保证语义无误，本地头组件不含完整SAE与解释生成流程。
教学例子：例如某概念贡献增加检测分数，置零它能验证分数差；删除原文一个词可能连带改变其他概念，不能把二者变化当作同一种干预。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
DetectorScope 的 L1 更新为何不能既做次梯度惩罚又再 soft-threshold 一次？
Building Auditable AI Text Detectors with Sparse Autoencoders
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：文档先做BCE梯度SGD momentum，再执行ηλ soft-threshold，不额外对L1求次梯度，也不惩罚bias。RMS只从训练拟合且不中心化，预测不可重拟合held-out尺度。
教学例子：两次施加L1会让稀疏强度超过所声明λ，改变头的实际训练目标。
依据：核心公式、数据协议与结果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
DetectorScope 的概念描述验证，与人工确认该概念语义可靠相同吗？
Building Auditable AI Text Detectors with Sparse Autoencoders
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：Spearman衡量外部真实与预测激活的秩相关，是筛选信号，不能当作人工审查或误伤担保。常量序列甚至无法验证描述，不能强行给高分后称其可解释。
教学例子：一段描述与少量激活排序相关，仍不足以证明在所有文本上语义都准确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
DetectorScope 为什么把检测预测建立在可检查的稀疏特征上？
Building Auditable AI Text Detectors with Sparse Autoencoders
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：它先池化SAE特征并筛除描述不可靠的概念，再用轻量稀疏线性头预测，使每次logit能分解为明确特征贡献。可解释性来自实际计算结构，而非预测后补写一句理由。
教学例子：某概念贡献可通过置零该特征核对，不必相信一段与检测分数无关的生成解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
第二阶段为什么只监督教师裁剪 B 中落在学生裁剪 A 内的 patch？
ALPS: Visual State Encoders for World Models
问答新增：2026-10-27 · University of California, Santa Cruz
展开答案与例子
答案：学生只看得到 A，要求它逐点预测完全不在视野内的 B 区域会把不可见内容也当成确定监督。几何映射先找可对应位置，再预测固定教师的目标，外观增强则训练鲁棒表示；教师固定与学生初始化相同，不意味着训练中两者会一起更新。
教学例子：例如学生只看到图片左半边，教师裁剪横跨左右；应只监督二者重叠部分，而不能要求学生精确读出右侧从未见到的小字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
跨裁剪损失为什么先按图平均有效 patch，再对 batch 平均？
ALPS: Visual State Encoders for World Models
问答新增：2026-10-27 · University of California, Santa Cruz
展开答案与例子
答案：每图重叠区域大小不同，先做图内均值可避免重叠更多的图自动占更大权重。有效性由 B 的 patch 中心是否落入 A 的半开区间决定；无重叠时损失安全贡献零，训练采样器另有最小有效数要求，不能把安全分母当完整采样策略。
教学例子：例如甲图重叠一百格、乙图十格，整体 token 平均会让甲权重十倍；逐图平均让两张图各贡献一个样本。
依据：核心公式、本地复现、验证与结果边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
固定 Stage1 教师与 EMA 教师在第二阶段各意味着什么？
ALPS: Visual State Encoders for World Models
问答新增：2026-10-27 · University of California, Santa Cruz
展开答案与例子
答案：ALPS 用 Stage1 模型作为学生初始化和固定教师，教师在第二阶段不随学生更新。EMA 教师则会按学生参数持续移动，目标分布不同；不能把常见 JEPA 的 EMA 习惯套进 ALPS。训练后丢弃跨视图预测器，部署保留学生 encoder 和语言接口。
教学例子：例如学生为增强鲁棒性发生变化时，固定教师仍提供同一干净裁剪目标；EMA 设置会让这些目标随训练一起漂移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
ALPS 为什么希望一个视觉表示同时适合语言理解、状态预测和图像检查？
ALPS: Visual State Encoders for World Models
问答新增：2026-10-27 · University of California, Santa Cruz
展开答案与例子
答案：世界模型规划需要表示可预测，指令任务需要语言对齐，检查预测结果又需要能恢复可读图像，单一目标训练可能只满足一部分。ALPS 研究让同一组 patch token 兼顾这些接口。多接口可读性仍要各自验证，能重建像素不能自动证明可规划，语言对齐也不保证物理状态完整。
教学例子：教学例：机器人既要理解“把杯子移到右边”，又要预测位置并检查未来画面；若每种用途都需完全不同表示，接口会难以衔接。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
约束型任务为什么用硬门 G 切断目标分，而非让目标优化抵消硬约束失败？
PLE: Physical-Engineering's Last Exam
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：工程产物可能目标值漂亮却违反必须满足的条件，硬门要求全部硬约束通过才计算那部分收益。约束比例仍提供分项信息，完整任务分母保留缺失项为零；本地评分聚合只消费外部裁判，不具备判断物理可行性或专业规范的独立能力。
教学例子：例如设计重量很低但关键承载条件失败，不能让轻量化高分抵消硬失败；缺交产物也不能从平均分里删掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
PLE 聚合结果时，为什么必须保留全部任务分母与缺失项？
PLE: Physical-Engineering's Last Exam
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：每run按完整任务集平均，缺失评分记0，再对三个run均值求平均；只对已成功提交项求均值会虚高。本地只接外部grader结果和产物字节，不独立认证物理或法规正确性。
教学例子：85项只完成10项，不能把这10项的平均分直接报告为完整benchmark均值。
依据：核心公式、离线验收接口；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
PLE 约束型硬门评分，与只按目标值连续打分有什么不同？
PLE: Physical-Engineering's Last Exam
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：硬约束不满足时G=0，目标优化分被切断，不能用更高目标值抵消违反约束。专家rubric及特殊site/MEP grader又有独立规则，不能用一个通式替代所有任务。
教学例子：目标效率再高，只要一个硬约束失败，也不能继续获得那0.6GO′项。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
PLE 为什么要求提交可审查工程产物，而不只生成一段回答？
PLE: Physical-Engineering's Last Exam
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：长时工程任务包含多格式输入、约束和成果文件，最终要核验实际产物满足要求。benchmark通过专家或独立grader评价，不能把流畅文字当成已完成设计。
教学例子：提交一个说明文档，并不自动证明相应工程文件真实存在或通过约束。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么学生先探索，再学习同隐藏任务的专家完整成功轨迹，而不是只模仿开局专家？
Asymmetric On-Policy Distillation Learns In-Context Exploration
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：专家知道隐藏目标，直接成功的轨迹缺少失败后继续搜索的上下文。先收学生实际经历，再把这些历史作为专家动作预测的条件，训练其从观察与奖励中更新任务认识；部署时仍没有隐藏目标，学生探索动作也不能被自动当成正确监督标签。
教学例子：例如学生先找错两个房间，再看到同任务专家如何找到目标，能学习从失败历史缩小范围，而非只记住专家开局直达路线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地单步三门诊断如何保留完整专家轨迹，又有哪些限制？
Asymmetric On-Policy Distillation Learns In-Context Exploration
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：每次选门本身是完整单步 episode，所以专家轨迹长度一是该环境边界，而非将多步方法普遍简化。真实小 Transformer 仅末端专家 query 监督，学生历史动作不当正确标签，部署从空历史不调专家；无一般 POMDP 或机器人能力比较。
教学例子：例如学生错误尝试留在上下文供理解，但 loss 不要求重复这个错动作；正确专家动作仅作为训练目标分离保存。
依据：核心公式、本地复现、保留的定义机制与缩小边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
BAMDP 跨 episode 条件与一般 POMDP takeover 为什么不能混为单步 DAgger？
Asymmetric On-Policy Distillation Learns In-Context Exploration
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：固定 latent 的 BAMDP 在多个 episode 积累任务知识，再配同任务专家 episode；一般 POMDP 从学生到达的中间状态接管。完整专家轨迹和上下文都重要，单步给当前动作标签会丢掉方法定义；部署也不能继续调用知道 latent 的专家。
教学例子：例如隐藏门跨三次尝试不变时，第一轮失败可帮助下一轮；若每轮都换门，这种跨 episode 历史就不再提供同样知识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
隐藏任务环境中，为什么只模仿专家成功路线可能不够应对学生真正遇到的状态？
Asymmetric On-Policy Distillation Learns In-Context Exploration
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：学生会尝试不成熟动作，看到的信息和进入的状态未必出现在专家的顺利路线中。ASTEROID 研究让学生探索与专家成功经验结合，使学习覆盖实际遭遇的不确定情况。探索必须来自可见交互，专家信息用于训练的范围也需隔离，不能在评测时直接透露隐藏任务或解法。
教学例子：教学例：专家一开始就走对路，学生却先探索错门；只学成功开局并未告诉学生如何利用自己已观察到的失败信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
SPAR 的 RQ-PIB 为什么只移动商品分支、不更新码中心，并用包含最重商品的负载上界？
SPAR: Stepwise Personalized Autoregressive Recommendation with Prefix-Balanced Semantic IDs
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：冻结码中心与父前缀可限制修复对语义路径的扰动，算法只在可行目的分支中选择距离代价最小的当前移动。商品不可分且权重不同，平均负载不一定可达，因此上界需考虑最重商品，不能强求严格等分。每件至多移动一次也限定修复范围；本地只实现这段子程序，没有整个记忆检索与偏好对齐模型。
教学例子：三个分支总负载十二，但某个商品单独重六，要求每支恰好四不可能。上界容纳不可分重商品，再从过载支选代价最小的可行移动，而非重训所有码中心。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
本地SPAR是否包含PATH检索和SFT+DPO整模型？
SPAR: Stepwise Personalized Autoregressive Recommendation with Prefix-Balanced Semantic IDs
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：没有，只实现冻结码本后的RQ-PIB子程序。零负载组不修，商品最多移一次，父前缀不变，中心也不更新；不能拿字典或K-means当完整推荐模型。
教学例子：例如成功修复几条分支负载，只说明局部程序，不代表前缀个性化已训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
RQ-PIB可行移动与全局均等分桶有什么不同？
SPAR: Stepwise Personalized Autoregressive Recommendation with Prefix-Balanced Semantic IDs
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：它每步选当前可行的低失真增量，受最大单物品权重与上界限制，不保证完全均等或全局最优。简单平均分配会忽视语义失真和父前缀。
教学例子：例如一个超热门物品不能拆成两份，负载完美相等可能本就不可能。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
SPAR为什么在父SID前缀内修复负载？
SPAR: Stepwise Personalized Autoregressive Recommendation with Prefix-Balanced Semantic IDs
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：热门分支的交互权重可压过其他分支，按父前缀比较兄弟负载，冻结码中心后小失真移动，保留语义路径层级。负载是训练交互次数，不只是物品数。
教学例子：例如两个分支各十件商品，但一个包含热门款，其交互负载可远大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
ECHO为什么既蒸馏完整教师分布，又特别惩罚选择边界上的漏选？
ECHO: Efficient Cascade with Homogeneous Operators for Distillation-Guided 100K-Sequence Modeling
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：完整软分布传递教师对各历史项的相对相关性，但学生仍可能在有限选择预算下漏掉关键记录。边界监督比较高质量漏选项与低质量已选项，直接推动二者交换次序；权重来自停止梯度的教师差异。该组件保留记录地址而非只压成潜向量，本地仅验证损失与梯度，并未验证100K推荐效果。
教学例子：学生只选两条历史，却漏掉教师最看重的一条、保留一条低相关记录；软标签教整体偏好，边界配对则明确要求把这两条的选择顺序调换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
ECHO 为什么按全 batch 有效配对权重归一，并对教师及权重 detach？
ECHO: Efficient Cascade with Homogeneous Operators for Distillation-Guided 100K-Sequence Modeling
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：逐行平均会让配对少的请求被额外放大，全批归一保留定义贡献。教师与挖掘权重固定，损失只更新对应学生分数；padding 不参与概率、选择或梯度。联合细节是损失保真的核心，不能仅输出一个有限标量就称通过机制验证。
教学例子：一行十对、另一行一对，逐行平均让后者单对权重大十倍；统一分母避免该偏置，教师冻结也防止双方一起移动掩盖错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ECHO 边界配对与全分布 KD，为何对不同错误提供监督？
ECHO: Efficient Cascade with Homogeneous Operators for Distillation-Guided 100K-Sequence Modeling
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：全分布传递整体教师偏好，边界项直接比较漏选高质量与已选低质量记录，推动真正影响 Top-K 的交换。配对权重强调教师质量差，不能让离散选择本身可导；学生被配对 logits 接收梯度。两个信号互补而非简单重复摘要。
教学例子：第十与第十一条跨选择边界，整体分布差异很小却决定关键记录是否保留；边界损失可专门纠正这一对，而不是平均照顾所有尾部。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ECHO 为什么要保留历史记录地址，而不是仅缓存几个兴趣潜向量？
ECHO: Efficient Cascade with Homogeneous Operators for Distillation-Guided 100K-Sequence Modeling
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：潜向量压缩方便，却难按候选取回具体事件。保留可寻址记录再做目标侧小子集检索，让细粒度证据与用户侧复用并存。地址保留并不表示线上逐候选扫描全历史，实际服务需遵循导出索引与参数路径，本地损失组件不能代替该系统。
教学例子：相机候选可取近期微距浏览记录，跑鞋候选读取运动证据；只有“爱户外”的静态潜向量时，难恢复具体是哪次行为支持推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
已经减去用户或商品基线，为什么还要保留原始预测项？
Baseline and Incremental: User, Item, and Request Debiasing in Instagram Feed Ranking
问答新增：2026-10-27 · Meta
展开答案与例子
答案：相对基线表示候选超出常态的程度，原始预测保留真实业务量级，两者提供不同信息。方法为非线性增量单独设权重，概率在log-odds空间比较，回归量用同单位差；它是评分配置，不是因果uplift。若只按相对改善排，低基线上的小绝对收益可能压过高价值候选。
教学例子：候选A从低基线略升，候选B本来就有较高购买概率；只看相对变化会偏向A，保留绝对预测才能同时表达高基线的真实价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
Baseline-Incremental 的降权门为什么不能简单给正向门取负号？
Baseline and Incremental: User, Item, and Request Debiasing in Instagram Feed Ranking
问答新增：2026-10-27 · Meta
展开答案与例子
答案：正向门若以预测 p 为幅度，p 接近零时会自然消失；降权若照搬它，最需压低的低预测候选反而几乎没有惩罚。来源保留常数、gap 等幅度与分段极限，并要求 logit 前显式裁剪概率边界。实现必须按门类型分别核验，不静默合并。
教学例子：某候选 p 接近零，负 p 门惩罚也近零；常数降权仍可压制它。把两个门写成仅符号相反的一行代码，会丢掉这一行为差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
为什么概率预测用 log-odds 差，而回归量用原单位差，不能统一直接相减？
Baseline and Incremental: User, Item, and Request Debiasing in Instagram Feed Ranking
问答新增：2026-10-27 · Meta
展开答案与例子
答案：概率在接近零或一时同样绝对差的含义不同，logit 差表达赔率尺度上的相对变化；回归目标已有自然单位，可用直接差。两种变换对应不同评分响应，不能为了代码统一而混用。本方法也未因此获得因果解释，仍是设计的价值函数。
教学例子：点击率从百分之一到百分之二与从百分之四十到四十一虽都增一点，赔率变化不同；观看秒数则可直接比较多出的时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Baseline-Incremental 中的用户、商品和请求基线分别代表哪种相对参照？
Baseline and Incremental: User, Item, and Request Debiasing in Instagram Feed Ranking
问答新增：2026-10-27 · Meta
展开答案与例子
答案：用户基线描述惯常响应，商品基线描述普遍吸引力，请求基线描述当前候选池水平。增量衡量候选相对某种参照的突出程度，原始预测保留绝对价值。它是评分配置，不是干预实验的因果 uplift，参照选错会改变排序含义。
教学例子：高活跃用户对所有视频都易点击，其中一条仅略高于个人习惯；低活跃用户的一次中等点击概率可能更突出，但两者绝对价值仍应保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Projected Distillation为什么只在编辑片段做DPO，而SFT只用学生自己答对的响应？
Projected Distillation: On Learning to Solve Hard Problems from Close, Correct Targets
问答新增：2026-10-27 · University of Massachusetts
展开答案与例子
答案：最小修正尽量保留学生已能生成的结构，让偏好更新聚焦真正改变的位置；经修正答案与学生自正确答案来源不同，不能混成同一种全段监督。两侧仍按各自完整因果前缀评分，未改位置直接梯度为零也不意味着共享参数完全不受影响。
教学例子：学生只在最后一个运算符出错，projector改这一处并验证；偏好学习聚焦改动，而不是把教师整段表达都重新模仿。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
编辑片段概率能只喂被修改token而丢掉前文吗？
Projected Distillation: On Learning to Solve Hard Problems from Close, Correct Targets
问答新增：2026-10-27 · University of Massachusetts
展开答案与例子
答案：不能，各自编辑token需在各自完整因果前缀上评分，片段logp未按长度平均。一侧插入或删除可为空，但一对必须有编辑；未选token零直接梯度不等于共享参数完全不受影响。
教学例子：例如改第三步后，第四步条件前缀也跟着变，不能拿另一条响应的前文混算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
编辑片段DPO与对修正全文SFT有什么不同？
Projected Distillation: On Learning to Solve Hard Problems from Close, Correct Targets
问答新增：2026-10-27 · University of Massachusetts
展开答案与例子
答案：片段DPO比较原错与已验证修正的编辑位置，未改部分不直接纳入该损失；全文SFT另用于学生自己答对的样本。把projector修正当该SFT对象会改变方法。
教学例子：例如外部改好的答案不能冒充学生本轮自主成功产生的正例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Projected Distillation为什么先最小修正学生错误回答？
Projected Distillation: On Learning to Solve Hard Problems from Close, Correct Targets
问答新增：2026-10-27 · University of Massachusetts
展开答案与例子
答案：完整专家答案可能远离学生分布，保留学生文本只改必要片段，使监督更接近当前行为。修正仍须独立验证，最小编辑只是可计算近似，并非最可能正确回答的精确解。
教学例子：例如学生只错一处符号，先改该处而非把整段换成完全另一套推导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPTD为什么最终学生层只选一次候选token，浅深层比较时不能各自重做top-k？
On-Policy Transition Distillation
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：层间监督要追踪同一候选的预测如何沿深度修正，各层独立选词会把身份变化混成修正量。固定候选后比较完整词表归一化得到的log概率增量，再加最终层OPD。实际更新还有停止梯度与目的层权重，不是隐藏状态MSE，也不能随意替成精确转移KL。
教学例子：浅层偏爱词甲、深层偏爱词乙，若各自只保留最喜欢的词，就无法追踪甲的概率为何下降、乙为何上升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPTD的梯度流过增量哪一端，实用缩放怎样处理？
On-Policy Transition Distillation
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：学生相邻readout两端都可微，教师、候选权重和修正系数冻结。附录实用目标是转移求和，与正文均值存在倍数差；它也不等于精确reverse transition KL。
教学例子：例如三段转移相加不能偷偷改成平均后仍报告相同学习率与目标尺度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
层间增量监督与每层独立top-k蒸馏有何区别？
On-Policy Transition Distillation
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：最终学生选定候选身份后全路径保持，才能比较同一token沿深度的变化。各层独立top-k会把不同对象混在增量里，不能视为同一路径。
教学例子：例如浅层第一是A、深层第一是B，不能用两个第一名的logp相减当A的修正。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
层间OPTD为什么不只对齐教师最终分布？
On-Policy Transition Distillation
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：最终接近不代表沿深度修正预测的过程相同，方法监督浅到深读出的log概率增量，并保留最终OPD。它比较预测路径而非直接对齐隐藏向量。
教学例子：例如两模型最后都选A，但一个中层反复改主意，另一个逐步修正，路径不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
CSD跨tokenizer蒸馏时，为什么保留REST质量而不能对共同候选重新softmax？
CSD: Common-Support Distillation for Cross-Tokenizer Knowledge Transfer
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：不同分词的token ID没有直接对应，需按解码文本事件和完整链式概率建立共同空间。显式匹配以外的质量进入REST，保留未列出事件的影响；重新归一会把这些质量丢掉并改变散度。共同文本对齐也必须核对字符边界，不能只按位置凑齐两套token。
教学例子：一个模型把词分成两段，另一个用单token；匹配该词事件后，其余续写概率仍存在，不能假装共同事件就是整个词表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
CSD学生梯度是否只经过chunk末token？
CSD: Common-Support Distillation for Cross-Tokenizer Knowledge Transfer
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：事件概率含观察前缀链乘因子、末词和REST，学生梯度需经过全部；教师冻结。非1:1权重不进入分母计数，零KD或无共同事件回退CE，比例整体detach。
教学例子：例如两token对一token时，忽略第一片的概率会错算整段文字事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
REST质量桶与只对共同候选重新归一相比保留什么？
CSD: Common-Support Distillation for Cross-Tokenizer Knowledge Transfer
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：REST保留未显式匹配的概率，避免把少量交集假装成完整分布。重新softmax会隐藏未覆盖质量，且完整链式概率不能随意改成长度平均。
教学例子：例如共同候选只占很小质量，归一后看似高度一致，遗漏部分却可能很大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
CSD为什么需要共同文本事件而不直接对齐token ID？
CSD: Common-Support Distillation for Cross-Tokenizer Knowledge Transfer
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：不同tokenizer的编号、词表和边界不同，同一文字可能拆成不同数量词元。先按字符区间核对解码等价，再比较共同事件概率，才有可比语义对象。
教学例子：例如一个模型单词一token，另一个拆成两片，编号相同毫无语义保证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
A2D为什么既要求师生分歧大，又要求教师偏好落在学生可达支持集？
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：只有分歧可能选到学生完全学不动的问题，只有兼容性又可能选到已掌握的问题。A2D用差异与兼容性的乘积奖励问题合成器；兼容性取教师在学生候选上的原始概率质量，不能重新归一化抹掉不可达部分。评分师生冻结，下游再从原始学生开始蒸馏。
教学例子：例如学生会两种基本解法，教师还知道一种相近改进，问题有学习空间；若教师几乎只支持学生完全采不到的路线，兼容性应低。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
A2D兼容概率为什么不能在并集内重新归一后再算？
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：它需教师全词表在学生候选上的原始质量，重归一会隐藏并集外质量。重复惩罚按完整评分批聚类，非单GRPO组；下游候选优势也不再任意组标准化。
教学例子：例如教师绝大部分质量在学生候选外，局部归一会把不可达程度夸成很兼容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
A2D的兼容性与纯师生分歧奖励有什么差别？
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：分歧大可能表示任务完全不可达，兼容性看教师质量落在学生支持多少。乘积平衡学习空间与可达性，不把越难越远直接当越有价值。
教学例子：例如教师只会学生从不支持的路线，分歧虽大仍可能低教学回报。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
A2D为什么训练问题合成器而非先直接训练学生？
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：问题决定学生访问哪些前缀，也决定教师能提供什么帮助。先冻结评分师生、优化提问分布，再筛库并从原学生开始蒸馏，分开课程学习与学生更新。
教学例子：例如先寻找学生有差距又能学的练习题，而非边改题边偷偷累计学生收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
AP-OPD为什么检测器一直读取原始块统计，回拉时又连负系数一起缩放？
Adaptive Pullback: Reweighting Supervision at Penalty Jumps in On-Policy Distillation
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：若用已加权前块继续检测，局部回拉会递归改变后续基准，产生原方法没有的传播。检测依赖正向惩罚的原均值，但回拉作用于后块全部有符号监督，保留正负方向而减弱强度；不重新归一化，允许权重为零，也不能把门槛当校准显著性检验。
教学例子：第二块刚发生惩罚跳升而被缩小，第三块仍应与第二块原始水平比较；不能让一次缩小自动制造新的连续跳升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
AP-OPD下一边界能用已回拉前块统计吗？
Adaptive Pullback: Reweighting Supervision at Penalty Jumps in On-Policy Distillation
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：不能，均值与检测始终用原始未加权数据，避免递归扭曲。权重不重归一、不设隐含下界，前块均值为零时可把后块权重置零，样本方差需足够词元。
教学例子：例如第一处缩小后再拿缩小值检测下一处，会制造额外伪突增。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
AP-OPD回拉与把异常token逐个删掉有何区别？
Adaptive Pullback: Reweighting Supervision at Penalty Jumps in On-Policy Distillation
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：回拉按块统一缩放全部有符号系数，不改变符号，也不只针对正惩罚词元；逐词元删除会形成另一选择目标。检测阈值也不是校准显著性检验。
教学例子：例如同一后块里的负log-ratio也按同一比例缩放，而非原样保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
AP-OPD为什么关注惩罚突增而非单纯高惩罚？
Adaptive Pullback: Reweighting Supervision at Penalty Jumps in On-Policy Distillation
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：持续高差异与局部突然跳升可能对应不同状态，方法比较相邻块原统计来定位后者，再整体回拉后块监督，避免局部尖峰主导更新。
教学例子：例如全篇都难与某一步后突然恶化，不应被同一个总平均混淆。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
多模态System One重排为什么要同时报告候选内概率和标签在全词表中的质量？
Multimodal Reranking Is a System One Decision
问答新增：2026-10-27 · Aalto University
展开答案与例子
答案：候选标签内归一化总能给出和为一的分布，即使模型原本几乎不愿输出任何合法标签。额外报告全词表标签质量，可以揭示低支持而非把相对选择误作绝对信心。所有标签需是当前分词器下不同的单词元，本地读出组件不是独立训练的System One模型。
教学例子：例如合法字母总共只占很少词表质量，但其中A相对最高；可以据此排序，却不能直接宣称模型以同样高的绝对置信度认可A。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
候选标签为什么必须是当前tokenizer下不同的单token？
Multimodal Reranking Is a System One Decision
问答新增：2026-10-27 · Aalto University
展开答案与例子
答案：读出只取一个答案位置的logits，若标签是多词元便缺少后续条件概率；复用其他模型token ID也会读错词。必须逐标签核对，不可偷偷只取最后一片。
教学例子：例如换模型后字母标签被拆分，应明确拒绝或另定协议，而非沿用旧编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
setwise候选读出与逐文档yes/no评分有何不同？
Multimodal Reranking Is a System One Decision
问答新增：2026-10-27 · Aalto University
展开答案与例子
答案：setwise候选在同一上下文竞争归一化，逐文档二元评分则分别判断相关性。两者分母与交互条件不同，概率不可直接互换；本地未复现原文yes/no对照。
教学例子：例如两个都相关的文档可各有高yes概率，但在二选一分布中必须分享份额。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
System One多模态重排的一次读出怎样得到完整排序？
Multimodal Reranking Is a System One Decision
问答新增：2026-10-27 · Aalto University
展开答案与例子
答案：把首阶段候选和查询放进同一上下文，在首答案位置读取各候选标签概率后排序；未纳入的尾部保留首阶段顺序。它无需生成排序文本，但仍要编码输入候选。
教学例子：例如对前若干图片读A、B、C概率，再按高低排，后面的召回结果保持原次序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
SSA有放回采样后先去重，为什么还要按“至少抽中一次”的概率修正？
Stratified Sparse Attention: Reducing the Sparse-to-Dense Gap at Extreme Sparsity
问答新增：2026-10-27 · Rice University
展开答案与例子
答案：一个token可能在多次抽样中重复出现；去重后，它是否进入最终集合的概率不再等于单次抽样概率。SSA用包含概率一减一减p的m次方作修正，并让确定保留的重项概率为1。最终是自归一化比值估计，不能把这种修正继续夸成输出严格无偏。
教学例子：某token每次被抽中的概率为0.2，抽两次时至少出现一次的概率是0.36；去重只算一行时，应按0.36而不是0.2修正它的贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
SSA 怎样稳定计算很小的包含概率，并验证 full-budget 边界？
Stratified Sparse Attention: Reducing the Sparse-to-Dense Gap at Extreme Sparsity
问答新增：2026-10-27 · Rice University
展开答案与例子
答案：文档使用-expm1(m·log1p(-p))避免直接相减的精度损失，再在log空间归一化；k=N时显式返回dense attention。代理分配是离散detached步骤，不能声称该处已获梯度。
教学例子：把预算设为全部key时，应与dense结果一致，而不再随机遗漏某个尾部token。
依据：核心公式、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
有放回抽样后去重，为什么不能再直接用 1/p_i 修正？
Stratified Sparse Attention: Reducing the Sparse-to-Dense Gap at Extreme Sparsity
问答新增：2026-10-27 · Rice University
展开答案与例子
答案：去重后每个token最多参与一次，相关概率是至少被抽到一次的π_i=1-(1-p_i)^m，而不是单次抽样概率p_i。分子分母再取比值仍是self-normalized估计，不能宣称严格无偏。
教学例子：同一token抽中三次后只保留一行，不能既去重又按三次独立样本的口径计权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
SSA 为什么既确定保留 heavy 项，又随机覆盖剩余尾部？
Stratified Sparse Attention: Reducing the Sparse-to-Dense Gap at Extreme Sparsity
问答新增：2026-10-27 · Rice University
展开答案与例子
答案：只留top-k会丢掉尾部，均匀采样又可能浪费预算。SSA按代理分数分配确定保留和残差抽样预算，再用包含概率修正被选token，兼顾重要项与尾部覆盖。
教学例子：强证据稳定保留，较弱证据仍有被抽到的机会，而非全部被硬截断。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
RACE压窄注意力后为什么仍保留原RoPE频率和原head缩放？
RACE: RoPE-Aligned Attention Compression Based on Query-Key Activation Energies
问答新增：2026-10-27 · MIT CSAIL
展开答案与例子
答案：压缩是原模型上的子空间变换，不是重新定义一套更窄模型。Q/K共同保留完整旋转对，频率不重编号，缩放仍按原维度；V子空间变换再折叠进输入输出权重，直接在低维计算。联合能量仅优化校准上界，不保证全局最小语言模型损失。
教学例子：例如保留原来的第二和第五个旋转平面，应继续使用它们原频率；若把它们改编成第一、第二频率，就同时改变了位置编码含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
压缩 V 后，为什么还要同步折叠输出投影 W_O？
RACE: RoPE-Aligned Attention Compression Based on Query-Key Activation Energies
问答新增：2026-10-27 · MIT CSAIL
展开答案与例子
答案：文档W_V′=W_VP_V、W_O′=P_VᵀW_O，二者共同形成对应子空间路径；只改V会造成维度或函数关系错配。校准选择/SVD被detach，折叠前向仍保留输入和权重梯度。
教学例子：V从8维降4维后，输出投影也要接收这4维的相应表示，而不是仍按原8维解释。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
RACE 的 Q/K 成对选择与 V 的 SVD 子空间，为什么使用不同压缩方式？
RACE: RoPE-Aligned Attention Compression Based on Query-Key Activation Energies
问答新增：2026-10-27 · MIT CSAIL
展开答案与例子
答案：QK需保持共同RoPE旋转平面及匹配几何，V主要承载被聚合内容，可用校准右奇异子空间投影。对三者任意使用同一通道裁剪规则，会改变原方法的角色分工。
教学例子：保留一个Q旋转对时K也要保留对应对，V则不必沿同样两维选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
RACE 为什么直接缩小 attention 的原生 head 宽度？
RACE: RoPE-Aligned Attention Compression Based on Query-Key Activation Energies
问答新增：2026-10-27 · MIT CSAIL
展开答案与例子
答案：仅把KV存成低秩而在attention前还原，可能省存储却增加重建。RACE将QK选择与V子空间折叠进投影权重，让attention本身在保留维度上执行，而不重建完整Q/K/V。
教学例子：读出4维表示后直接在4维计算，而不是先还原成8维再做原运算。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么 LocaLeJEPA 不把所有簇都直接拉向同一个高斯分布？
LocaLeJEPA: Maximum Entropy Representations under Geometric Priors
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：不同局部簇可能对应具有自身几何的状态，把它们统一拉向原点会破坏簇间位置和局部结构。方法先固定分组，再对各簇重中心残差匹配均匀球体分布，保留整体布局；簇太小时还要明确回退，不能把目标偷换为普通全局高斯正则。
教学例子：例如两团表示分别对应两种运动模式，各自分散但位置不同；约束局部形状无需把两团的中心都拉到同一点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
小簇过滤与簇数变化为什么影响有效正则强度？
LocaLeJEPA: Maximum Entropy Representations under Geometric Priors
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：只保留至少四样本的簇，无有效簇时回退全 batch 并记录。各簇统计先乘其样本数，再对有效簇和视图等权平均，因此改变簇数不只是改变局部粒度，也改变损失尺度；积分采用球特征函数，不能把高斯窗口误作目标分布。
教学例子：例如拆成更多有效小簇后，等权平均与样本数因子共同改变数值；沿用同一 λ 也不保证正则力度相同。
依据：核心公式、本地复现、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
均匀实心球目标与高斯或单位球面目标有什么区别？
LocaLeJEPA: Maximum Entropy Representations under Geometric Priors
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：均匀实心球把概率分布在球体内部，半径取根号 d+2 使协方差为单位阵；高斯无界，球面则只在固定半径上有质量。三者特征函数不同，LocaLeJEPA 的目标不能由高斯公式或向量单位化代替。
教学例子：例如二维均匀圆盘含中心附近样本，圆周分布没有内部质量，高斯还会在任意大半径出现样本；它们并非同一正则。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
同一图像的不同视图越相似，为什么还要防止所有图像都变成同一个表示？
LocaLeJEPA: Maximum Entropy Representations under Geometric Priors
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：跨视图一致让模型忽略增强噪声，但如果所有输入都输出常量，也能轻易达到一致。LocaLeJEPA 同时关心表示多样性，并考虑数据可能具有局部几何结构。两项需求分别是同对象稳定与不同对象可区分，不能把一致性 loss 低直接当成表示已学到有用信息。
教学例子：教学例：猫的两种裁剪应相近，但猫和汽车若也全部变成同一向量，检索和分类就没有可用差别，尽管跨视图误差很低。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
子类复用父 harness 方法，为什么不等于同时执行多个祖先 Agent？
Object-Oriented Harness: Evolving Agent Harnesses through Object-Oriented Design
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：继承是代码复用：一个实例调用未覆盖的父方法，不会自动启动祖先的独立轨迹。专用子类只改必要 hook，部署时从冻结候选选完整类；目标簇得分提升也不保证所有任务改善，自报置信度消融更不能被误作校准成功概率。
教学例子：例如子类只覆盖搜索 prompt，终端执行仍调用父实现；这是一名 Agent 的一套方法，不应把它计成两名 Agent 并行协作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
选专用类时为何必须重建同初始环境，而选 Base 可复用结果？
Object-Oriented Harness: Evolving Agent Harnesses through Object-Oriented Design
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：路由前 Base 已执行，若最终仍选 Base 可直接用；选专用类需 tool_factory 重置，避免继承 Base 已造成的进展。真实外部副作用不保证可回滚，本地可信 Python 类与白名单数据隔离也不是安全沙箱，脚本 actor 不代表 LLM 能力。
教学例子：例如 Base 已创建一半文件后再让专用类接着做，会让后者看似更成功；公平比较应从相同初始文件状态开始。
依据：核心公式、本地复现、成本与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
按任务簇严格接纳与全任务只看平均分有什么取舍？
Object-Oriented Harness: Evolving Agent Harnesses through Object-Oriented Design
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：目标簇需严格高于当前专用类且额外检查通过，避免全局平均掩盖相关簇退化；但不保证所有任务都改善。路由部署只看公共任务与可观察 base 轨迹，不能读取测试 grader 分数选类，自报 0.7 也不是校准成功概率。
教学例子：例如修改只帮助表格任务，应在该簇验证，不能靠另一个容易簇的分数上涨掩盖它没有提升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
OO-Harness 为什么用可继承的 harness 类组织面向不同任务的专门化？
Object-Oriented Harness: Evolving Agent Harnesses through Object-Oriented Design
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：单一通用流程未必适合所有任务，但为每类任务完全复制代码又难共享已验证逻辑。OO-Harness 用类和继承表达可复用部分与专门改动，再按任务选择适合的版本。继承关系是代码组织，不代表运行更多 Agent，也不保证专用版本在所有任务上优于基类。
教学例子：教学例：浏览任务子类沿用基础恢复逻辑，只改搜索步骤；选择该子类后执行的是一套流程，并非父类与子类各跑一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么同样的最终文本前缀，也不一定对应可复用的同一份 KV？
Cache Engineering for Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：KV 取决于计算时可见的历史与位置，drop 发生早晚不同可能已影响后续状态。repos 还要对 RoPE Key 作位置变换，不能只改索引或连 Value 一起旋转；缓存索引因此需要记录位置版本与操作历史，单看逻辑字符串相同不足以证明等价。
教学例子：例如旧工具响应在生成前被驱逐与生成后才被驱逐，后续 token 曾看到的内容不同，即使最后保留文本一样也不能混用缓存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
repos 为何只旋转 key，而不是把 value 也乘同一 RoPE 变换？
Cache Engineering for Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：位置从 p 移到 q 时，已旋转 key 用 R(q)R(p)^-1 调整位置，value 保持不变；drop 本身也不重编号。缓存系统还需操作历史与版本管理，本地未实现 AKV 或真实 serving，少量旋转张量计算不能冒充完整缓存工程。
教学例子：例如把保留 key 的位置从十移到五，需要撤旧旋转再施新旋转；同样旋转 value 会改变其内容读取语义。
依据：核心公式、本地复现、成本与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
直接管理 KV 与把文本压缩成摘要，在恢复和缓存复用上有何不同？
Cache Engineering for Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：摘要改变逻辑输入并可能使后续 KV 失效，需重新预填充；直接管理保留逻辑记录，却改变活跃状态及位置版本。相同最终文本和 token 集合可能因操作时机形成不同 KV，复用身份必须包含历史，不能仅按最终前缀判断。
教学例子：例如先删工具 KV 再生成一句话，与先生成该句再删旧 KV，后一句的隐藏状态可能不同，即使最终保留文本一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长程 Agent 为什么会出现“聊天记录还在，推理缓存却放不下”的问题？
Cache Engineering for Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：逻辑对话保存文本，推理时的 KV cache 保存各层对历史 token 的中间表示，二者占用和用途不同。对话增长会让缓存内存与后续读取开销增加；Cache Engineering 研究直接管理这些状态，在保留逻辑记录的同时控制计算资源，但删缓存后的恢复仍有成本。
教学例子：教学例：一万行工具日志仍保存在会话中，但暂时不再需要其 KV；以后重新用到日志时，系统可能必须重新计算表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么子接口仓库即使暂时低分也留在种群，而非只保留严格优于父本的修改？
Evolving Agent Interfaces
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：进化搜索可能需要经过局部低谷或组合不同改动，保留后代让未来变异和交叉仍能利用其结构。验证分数用于选父本，但验证轨迹和标签不交给 Meta-Agent；改变的是动作与观察接口本身，不能把训练策略误写为逐轮贪心接纳最佳 patch。
教学例子：例如一次接口改动单独效果一般，却可与另一路观察压缩组合；若立即删除所有低分后代，就失去这类后续组合机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
BuilderContext 为何不传验证诊断，低分淘汰又为何保留谱系？
Evolving Agent Interfaces
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：验证只用于父本选择，传诊断会把受保护选择集变成开发反馈。淘汰撤销父本资格但保留审计与最终候选，不能抹去失败历史；本地控制器仅运行可信 callback 与合成任务，不执行任意接口源码或证明真实 GUI 提升。
教学例子：例如 Meta-Agent 看到验证失败文件名后定向修复，就不再是规定的训练轨迹开发；删除低分记录还会隐藏搜索代价。
依据：核心公式、本地复现、成本与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
变异一个接口父仓库与交叉两个父仓库，探索的改动来源有什么不同？
Evolving Agent Interfaces
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：变异从单个父仓库出发修改接口及使用知识，交叉则综合两个不同父本的结构或经验。两者都由无标签训练轨迹支持构建，私有验证结果只用于种群选择，不能传给 Meta-Agent 当答案。交叉增加组合来源，也可能带来不兼容，仍要冻结后代再独立执行评价。
教学例子：教学例：一个父本改善截图观察，另一个改善批量编辑；交叉可尝试结合二者，而单父变异只依据当前仓库继续修改。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
进化 interface 与只积累现有工具组成的 skill 有何区别？
Evolving Agent Interfaces
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：skill 通常在固定动作观察接口上组合方法，S4 允许 Meta-Agent 修改接口代码与使用知识，改变任务 Agent 能观察和执行什么。底层任务模型与 harness 固定以隔离接口作用，但新接口仍需真实任务验证，不能只给仓库换版本名。
教学例子：例如将逐格编辑工具改为批量区域操作属于接口变化，记录“逐格编辑时先排序”只是使用现有工具的经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SID-Topology 为什么允许新商品与旧头部 token 碰撞，却不顺移旧商品来消除碰撞？
Don't Rewrite the SID Map: Topology Preservation for Generative Retrieval in Dynamic E-Commerce Search
问答新增：2026-10-27 · Alibaba / Taobao & Tmall Group
展开答案与例子
答案：生成器已经学会查询到旧 SID 路径的含义，顺移旧商品会把原有概率质量导向别的对象，短预算继续训练也未必修复。保留旧路径把更新影响局限于新商品插入，头部碰撞由展开处理，而非全局重映射。大 beam 可能掩盖窄 beam 的漂移，因此评估需检查路径稳定性，不能只看宽束结果。
教学例子：模型熟悉编码 A 指向旧商品甲，新商品乙加入时若把甲改到 B，原来生成 A 的请求就错位。宁可让 A 对应可展开的碰撞集合，也先保留甲的旧地址。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
新增商品占到旧独占token时能顺移旧商品消碰撞吗？
Don't Rewrite the SID Map: Topology Preservation for Generative Retrieval in Dynamic E-Commerce Search
问答新增：2026-10-27 · Alibaba / Taobao & Tmall Group
展开答案与例子
答案：不能，保留式更新冻结所有旧SID，允许规定碰撞并解码全部成员；尾桶容量须显式，耗尽报错。未出现的旧商品也要保留，不能静默取模或重编码。
教学例子：例如新商品进头部，不应把旧目录一串token向后挪一格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
大beam效果尚可为何不证明重映射没有损伤？
Don't Rewrite the SID Map: Topology Preservation for Generative Retrieval in Dynamic E-Commerce Search
问答新增：2026-10-27 · Alibaba / Taobao & Tmall Group
展开答案与例子
答案：宽搜索可能掩盖窄beam路径漂移，实际服务预算较窄时损害更明显。应分别测映射与训练影响，不用宽beam平均结果替代路径稳定性证据。
教学例子：例如正确商品还在很深候选里，宽beam找到它不代表首几条路径仍正常。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SID Topology为什么把映射更新与继续训练分开审查？
Don't Rewrite the SID Map: Topology Preservation for Generative Retrieval in Dynamic E-Commerce Search
问答新增：2026-10-27 · Alibaba / Taobao & Tmall Group
展开答案与例子
答案：生成检索学到的是query到SID路径，重映射旧商品会改变已学路径含义。继续训练不必修复任意重排，因此更新目录与模型是两个独立变化。
教学例子：例如原码通向鞋，重排后通向包，旧模型即便输出同码也已指错商品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
MAPS的Reflector为什么区分画像错误与脚本错误，再路由最小修改？
MAPS: A Multi-Agent Personalized Script-Driven Video Advertising System Enhanced by Reinforcement Learning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：低反馈可能来自理解错人，也可能来自表达和商品事实有问题，全部重做会浪费计算并破坏本来正确的部分。分角色归因后只修改相关环节，让画像、脚本与视频生成保持可检查接口；混合奖励还需评估结构、个性化和事实。该链路依赖大模型与私有环境，本库因成本只收录研究，不提供关键词奖励替代复现。
教学例子：用户偏好判断正确，但脚本夸大了商品性能，应修脚本而非重建画像；若根本把送礼对象理解错，再精修镜头也无法修正推荐方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
MAPS 的 group advantage 为什么在没有反馈差异时不能声称做了有效 RL？
MAPS: A Multi-Agent Personalized Script-Driven Video Advertising System Enhanced by Reinforcement Learning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：同上下文脚本奖励需形成相对差异，全部相同则中心化后优势为零，没有方向教策略更偏哪条；judge 和视频执行链也必须真实存在。来源明确不提供关键词 proxy 来替代整篇，公式可计算不意味着训练与环境已经复现。
教学例子：四个脚本都被简陋规则打满分，策略无从学习哪份更个性化；跑一次优化器不能当作四 agent 视频创作能力已提升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
MAPS 的混合 reward 与关键词计数替代，相比保留哪些语义要求？
MAPS: A Multi-Agent Personalized Script-Driven Video Advertising System Enhanced by Reinforcement Learning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：结构奖含场景角色与物理合理性，个性化和商品一致性由语义 judge 评估，关键词覆盖无法判断事实矛盾或用户契合。代理可单测接口却不是同一算法证据。奖励配比也不保证 judge 可靠，必须区分文字得分与真实创意效果。
教学例子：脚本写满“耐用、适合你”可命中关键词，却可能把普通鞋描述成防火鞋；语义一致性要检查商品事实，而非只数赞美词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
MAPS 为什么把广告创作拆成 Profile、Scripter、Director、Reflector 四种角色？
MAPS: A Multi-Agent Personalized Script-Driven Video Advertising System Enhanced by Reinforcement Learning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：画像提炼需求与风格，脚本表达商品与分镜，视频执行负责呈现，反思将反馈归回可修改环节。分工让错误可定位，避免低反馈就重做全部链路。角色名不构成能力，实际需要语义模型、视频生成器与可信环境，本地因成本仅审查。
教学例子：用户理解正确但脚本夸大性能，应修文案；若视频执行违反脚本，则修生成环节，而非让画像 agent 背锅重写偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
VAG为什么只接受与证据保留/退化视图对比同号的教师修正？
Reinforcement Learning with Visually Attributable On-Policy Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：特权裁剪带来的修正可能来自语言风格而非视觉证据，同号门控要求它与视觉对比方向相容，再以有界项调制原verifier优势。两分支必须是同一EMA教师，仅改变视觉输入。这个控制不能用两份任意文本logits替代，当前库也未执行完整多模态链路。
教学例子：裁剪后教师更偏爱某个措辞，但遮挡关键图像时偏好不变，说明修正未必由视觉证据驱动，不应一律当作视觉指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
VAG两教师分支可以用不同模型吗，代码已执行了吗？
Reinforcement Learning with Visually Attributable On-Policy Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：不可以当同一设定，两分支应同EMA教师仅改变视觉输入；当前公式是原方法说明，本库未执行该多模态训练。严格同号门控保留，verifier优势不被替换。
教学例子：例如一个大视觉教师对比一个小文本模型，会混入架构差而非只测视觉对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
VAG与纯文本教师给固定logits门控有何区别？
Reinforcement Learning with Visually Attributable On-Policy Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：定义链路依赖同一EMA视觉模型在两种真实视图上的条件对照。纯文本或固定分数只能模拟公式，无法证明视觉敏感度和裁剪归因已执行。
教学例子：例如人工给正负两个分数，并没有让模型实际看过被遮挡图像。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
VAG为什么比较证据保留与退化裁剪？
Reinforcement Learning with Visually Attributable On-Policy Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：特权裁剪修正可能混入语言风格，匹配两视觉条件的差提供视觉归因方向；只接纳同向修正，再有界调制verifier优势，保留任务锚点。
教学例子：例如裁剪后教师改口，需判断改动是否与画面证据差异一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
APSD只冻结自教师，为什么不能把整个插值或外推target都detach？
Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：target同时依赖冻结教师与当前学生，正确轨迹插值、错误轨迹外推改变的还有学生依赖分支的梯度。把整体detach只留下部分模仿项，会丢掉定义性的耦合修正。数值上目标一样不代表反向一样，反馈只用于训练自教师，不能进入部署学生输入。
教学例子：两个实现算出相同target概率，但一个保留其对学生分布的导数、另一个冻结；即使loss相同，参数更新也会不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
APSD构造PoE时哪些张量保持梯度，默认α如何解释？
Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：学生分布及其target分支可微，自教师条件分布detach；log-space计算防下溢。正确α在零一间、错误大于一，本地RLRF默认与原RLVR配置不同需明示。
教学例子：例如正确用0.5、错误用1.5属于本地对应配置，不能写成全部原文设置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
APSD冻结自教师与冻结整个target为什么不是一回事？
Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：自教师q冻结，但PoE目标还依赖可微学生p，完整梯度有额外耦合项。整个target detach会删除定义性项，变成另一种缩放蒸馏，即使前向目标数值相同。
教学例子：例如目标中一半来自当前学生，切断这支梯度会改变优化而非只节省内存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
APSD为什么正确时插值、错误时越过自教师外推？
Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：正确轨迹需要保留学生已有成功偏好，插值减小干扰；错误轨迹希望更强纠正，外推加大教师方向。它依据训练反馈改变目标，不意味着外推必然正确。
教学例子：例如学生已答对时温和调整，答错时才加强纠正，而不是统一强度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
KronLSTM擦写的是整个value向量，还是一个key–value的标量关联？
Kronecker Delta Rule for Long Context Linear Attention
问答新增：2026-10-27 · Johannes Kepler University Linz
展开答案与例子
答案：Kronecker Delta Rule用v转置Sk衡量一个key与value方向的标量关联，沿vk转置这一矩阵方向擦写；它不同于直接用整段向量误差修改记忆。对另一个关联的干扰同时取决于key和value的重叠，任一方向正交都能阻断这次干扰。KronLSTM还分开遗忘、擦除与写入门，不能把写入系数误乘擦除门。
教学例子：两条关联使用相近的key，但value方向正交。沿第一条的vk转置更新时，第二条的标量关联不会因此被同样擦掉；这仍不保证所有后续写入都无干扰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
KronLSTM 的遗忘乘法方向和 write 系数，为什么不能照搬普通 delta update？
Kronecker Delta Rule for Long Context Linear Attention
问答新增：2026-10-27 · Johannes Kepler University Linz
展开答案与例子
答案：文档中的遗忘在右侧作用于key轴，解耦写入项是c·vkᵀ，而非βc·vkᵀ；擦除项才使用β。改错任何一项都会改变更新式，应对照独立vec参考，而非只检查loss是否下降。
教学例子：把β设得很小并不应顺带把独立write门c的写入也压小。
依据：核心公式、实现与运行；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
KronLSTM 与普通 DeltaNet 的误差对象不同，会怎样影响干扰分析？
Kronecker Delta Rule for Long Context Linear Attention
问答新增：2026-10-27 · Johannes Kepler University Linz
展开答案与例子
答案：普通DeltaNet使用向量误差Sk-v；Kronecker规则使用标量误差vᵀSk-c。文档说明其他关联的扰动同时取决于key与value内积，其中一侧正交即可消除当前擦写干扰，但不保证任意长历史永不遗忘。
教学例子：两个key相似但value正交时，标量关联更新的干扰判断与只看key重叠不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
KronLSTM 把记忆中的哪个对象看成要修正的目标？
Kronecker Delta Rule for Long Context Linear Attention
问答新增：2026-10-27 · Johannes Kepler University Linz
展开答案与例子
答案：它针对一个key-value对的标量关联vᵀSk进行修订，而不是直接要求整条预测向量都等于目标value。更新沿vkᵀ这一矩阵方向发生，再结合遗忘及擦写门。
教学例子：修正“某个key与某个value之间的关联强度”，不必把这一key下的所有value方向一并重写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
FLINT把查询与文档都压成固定V个向量后，为什么评分仍不是对称平均相似度？
FLINT: Fixed-budget Late Interaction
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：两侧分别由可学习latent读取token，得到固定预算的多向量表示；后续对每个查询向量取文档侧最大匹配，再沿查询求和。两侧编码预算固定不意味着池化随意，也不意味着交换查询和文档后分数一样。关键在于查询各部分分别寻找最合适的文档证据。
教学例子：查询有“地点”和“时间”两个latent，每个各找文档中的最佳匹配再相加；若反过来要求文档所有latent都找查询匹配，求和对象变了，数值通常不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
FLINT 的 padding mask 与全 masked 输入，为什么需要明确接口约定？
FLINT: Fixed-budget Late Interaction
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：padding不能参与cross-attention；文档本地mask中True表示有效token，整行全部masked时报错。还需保留pre-LN及两段残差，而非只用一个裸attention产生固定V输出。
教学例子：批次padding占一半时，这些补位不应影响latent读取结果。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
FLINT 的可学习 latent pooling，与截取前 V 个 token 或平均池化有何不同？
FLINT: Fixed-budget Late Interaction
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：latent经cross-attention从全部有效token读取，再经过残差和FFN，能形成任务相关固定预算表示。截断会丢掉尾部，平均池化则使用另一种聚合规则，不是该模块的等价替代。
教学例子：文末关键证据仍可被latent读到，而直接保留前4个token无法看到它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
FLINT 为什么把查询和文档都压成固定数量的向量？
FLINT: Fixed-budget Late Interaction
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：逐token多向量检索的索引与查询成本随长度增长。FLINT用两套可学习latent读取两侧token，使双方都输出固定V个向量，以显式预算控制表征和检索规模。
教学例子：长短不同的文档都形成4个向量，长查询也不再必须逐token发起同样多次检索。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
DeepSEA按语言资源分组报告，为什么仍必须固定预测顺序并隔离Gold？
DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：各语言与任务的覆盖不同，只有严格校验语言、数量和顺序，才能让预测与相应样本评分正确对齐。公开输入只投影问题所需字段，答案由评测器独占，防止把翻译标注或评分信息送给被测模型。该基准衡量低资源语言表现，不是提升参数能力的训练算法。
教学例子：例如同一题的两种语言输出交换位置，会把语言差异变成对齐错误；预测器应只见问题，不能同时拿到评分器保存的正确答案。
依据：背景与主要改动、核心公式与评分口径；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
预测回调能收到 evaluator 对象或 benchmark 文件路径，再承诺不看 Gold 吗？
DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：不应这样设计。文档用白名单不可变公开输入与深复制私有参考隔离，缺语言、数量或字符串类型直接报错；该数据流合同也不是操作系统沙箱，不能额外开放shell绕过边界。
教学例子：回调只应收到题目、选项或上下文，不应拿到含answer_with_cot的原始记录。
依据：公共输入与 Gold 隔离；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
确定性 scorer 与 LLM judge，在 DeepSEA 接口中是同一个可替换环节吗？
DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：评分必须遵循各任务固定上游口径，不应临时换成另一个judge后仍直接横比。预测与参考的绑定也需固定语言/学科/行号；分组报告不能修复错位评分。
教学例子：把语言A的第1条预测配到语言B参考，即使总条数一致，分数也没有有效含义。
依据：背景与主要改动、公共输入与 Gold 隔离；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
DeepSEA 为什么不只报告一个多语言总分？
DeepSEA: A Multilingual Evaluation Benchmark for Southeast Asia
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：研究针对东南亚低资源语言覆盖，按语言资源层级和任务报告能看出平均分掩盖的差距。它提供评测数据与协议，不是改变模型参数的训练算法。
教学例子：高资源语言表现很好，可能把低资源语言的明显失误淹没在总体均值里。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么同一个 memory-worth 模型同时控制检索与淘汰，而不只按相似度排序？
Remembering Has a Price: Learning Memory Worth under Resource Constraints
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：相似记忆也可能冗长、过时或不可靠，预算有限时应比较实际任务价值。稳定基础特征给出可解释方向，RFM 进一步学习查询相关残差，同一价值标尺再用于读取和保留；反馈只应更新真正被选中使用的记忆，不能给未访问条目编造成败标签。
教学例子：例如两条记忆同样谈某接口，旧文档更相似却已过期，新文档较短且可靠；价值选择可以保留后者而非机械追相似度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
新候选通过入库门后，为什么仍可能立刻被淘汰？
Remembering Has a Price: Learning Memory Worth under Resource Constraints
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：入库门检查新颖性或相对最佳旧记忆的探针价值，随后扩展库按整体价值淘汰最低项，新候选也参与竞争。探针来自当前及历史真实查询，不是未来测试题；只更新实际选中对，不能为未用候选捏造反事实成功标签。
教学例子：例如候选足够新颖先进入满库，但在统一价值排序中最低，仍应自己退出，不能强制挤掉更有价值的旧记忆。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
快残差拟合与慢特征几何更新为什么分开？
Remembering Has a Price: Learning Memory Worth under Resource Constraints
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：快更新及时拟合新反馈的价值偏差，慢更新用梯度统计调整核距离的特征几何，减少每次反馈都大幅改变表示的震荡。两种时间尺度承担不同适应任务；残差模型并非可以看所有候选结果，只有实际使用的记忆对有真实标签。
教学例子：例如一次失败可先降低相关记忆的残差价值，累计多次反馈后再调整哪些特征差异应被核函数放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
记忆越相关越应该保留吗，TokenWorth 面对的资源限制是什么？
Remembering Has a Price: Learning Memory Worth under Resource Constraints
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：Agent 的记忆容量、交互次数和生成长度都有限，一条看似相关的长经验也可能挤掉更有用的信息。TokenWorth 把保留与使用记忆看成价值分配问题，关注实际任务帮助与资源竞争，而不是单纯让库越来越大或只追相似度最高。
教学例子：例如长指南重复当前已知步骤，另一条短记录写关键权限限制，后者即使用词不太像当前问题，也可能更值得占一个名额。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
SPOD为什么按完整action原始概率保护成功选择，而不能逐token比较后屏蔽整个成功episode？
Beyond the Teacher: Understanding and Preserving Distillation Overshoot in Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：保护条件针对成功episode中教师更不支持的具体decision，完整action概率包含其token共同作用。逐词开关或整段屏蔽会改变保护对象。受保护处取消蒸馏并加软概率floor，其他decision仍学习；软floor不能阻止共享参数从别处间接侵蚀该动作。
教学例子：一个成功工具调用的某些词教师更喜欢、另一些更不喜欢，逐词投票可能与整条调用概率比较给出相反结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
SPOD gate比较的是温度采样概率还是原始整action概率？
Beyond the Teacher: Understanding and Preserving Distillation Overshoot in Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：用温度和动作约束前原始概率，含原生结束token，逐token logp求和。gate更新前重算、微分时固定，按action、state、episode分层平均，不把长轨迹自动加权。
教学例子：例如把每词平均概率当整action概率，会改变长短动作的保护判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
SPOD软floor与屏蔽整个成功episode有什么区别？
Beyond the Teacher: Understanding and Preserving Distillation Overshoot in Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：保护粒度是完整action，其他decision仍正常蒸馏；floor只是惩罚概率低于门槛，不是硬保证。共享参数上的其他状态更新仍可影响受保护行为。
教学例子：例如一个成功episode里某步值得保留，不表示其他所有步骤都不能学习教师。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
SPOD里的一个decision是一枚词元，还是一次可能含多个词元的action？
Beyond the Teacher: Understanding and Preserving Distillation Overshoot in Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：保护对象是某个状态下的完整action，包括多个词元及原生结束符；不是单枚词元，也不是整个episode。成功标签在episode级给出，保护判断却定位到其中具体decision。先分清这三个层级，才能避免把成功轨迹全部当成不再学习。
教学例子：一次工具调用包含工具名、参数和结束符，可组成一个action；同一成功episode中还可能有别的action。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
T-MUON为何先把相关矩阵组成三阶张量，而不是直接展平后做普通Muon？
T-MUON: Tensorizing Muon via t-SVD for Large Language Model Pre-training
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：它在第三轴的变换域中分别求polar，再逆变换回各矩阵，使结构相关矩阵能够在该轴上耦合。矩阵如何分组与选择什么变换是独立设计，任意展平会丢掉这层定义。还原后的形状缩放依据原矩阵，零秩切片不能因任意零空间基产生虚假更新。
教学例子：把相邻层或Q/K/V作为第三轴的几片，先在该轴混合再分别正交化，与把所有数拼成一张长矩阵正交化，约束和结果都不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
T-MUON 的 fan 比例应该按 head 切片还是原权重矩阵计算？
T-MUON: Tensorizing Muon via t-SVD for Large Language Model Pre-training
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：文档还原后使用原始矩阵fan_out/fan_in缩放，不能改成拆出的head形状。零秩切片还应返回零更新，避免薄SVD任意零空间基产生虚假方向；当前精确SVD不等于生产polar内核速度。
教学例子：一张矩阵拆成多个head处理后，缩放仍需回到原矩阵的维度口径。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
T-MUON 的分组方式与变换方式，为什么应作为两条独立消融轴？
T-MUON: Tensorizing Muon via t-SVD for Large Language Model Pre-training
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：分组决定哪些矩阵一起处理，变换决定这些切片如何混合；同一组可用不同M，不同组也可用同一类变换。把二者同时换掉，就难判断更新差异来自哪一项。
教学例子：QKV-stack配DCT与head-stack配DFT同时不同，不能只归因为DFT。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
T-MUON 为什么把结构相关矩阵放进第三个张量轴？
T-MUON: Tensorizing Muon via t-SVD for Large Language Model Pre-training
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：它希望联合利用层、QKV或head之间的结构关系，在第三轴变换后逐切片求polar，再逆变换还原矩阵更新。相关矩阵的分组与所选变换都是方法的一部分。
教学例子：将Q/K/V作为相关切片组织，比把三个矩阵当作毫无关系的独立对象多了一种耦合。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么记忆刷新不应该顺便把虚拟队列和全局轮数清零？
MemPrice: Online Memory Allocation via Adaptive Pricing for Long-Horizon Agents
问答新增：2026-10-27 · Hong Kong University of Science and Technology
展开答案与例子
答案：队列承载累计资源压力，轮数决定动态价格的尺度，刷新只是从外部归档重新提取表示。若一起清零，系统会忘记过去长期超额占用，突然把细节重新定价得过便宜；硬容量仍须每轮满足，平均占用目标也不能替代这个即时约束。
教学例子：例如连续多轮上下文接近满额后，刷新摘要不应让价格突然归零，否则系统又会保留一大批昂贵原文并重复拥塞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
MemPrice 怎样把每项记忆的多种表示装进一个硬 token 预算？
MemPrice: Online Memory Allocation via Adaptive Pricing for Long-Horizon Agents
问答新增：2026-10-27 · Hong Kong University of Science and Technology
展开答案与例子
答案：对每项记忆枚举原文、摘要、抽象、关键词和删除等候选，使用 tokenizer 测量大小，再以每项最多选一种的多重选择背包联合分配。单轮总量必须不超过硬预算 B；长期平均占用目标只影响价格，不能允许当前窗口超限。归档刷新也不是从已删除文本里凭空恢复细节。
教学例子：教学例：预算只剩百 token，两条记忆的原文各占八十，算法可分别选摘要；不能把二者各自最优的原文直接相加。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
动态价格与固定相关性 Top-K 相比，如何反映长期容量压力？
MemPrice: Online Memory Allocation via Adaptive Pricing for Long-Horizon Agents
问答新增：2026-10-27 · Hong Kong University of Science and Technology
展开答案与例子
答案：Top-K 只按当前排名，动态价格由持续占用的虚拟队列形成，历史高占用会提高保留细节的代价。硬容量控制单轮上限，平均占用目标控制长期压力，二者不能混为同一阈值；该机制也不保证所有状态路径全局最优。
教学例子：例如连续多轮都把窗口塞满，价格会逐渐上升，推动降保真；即使当前某条仍相关，也可能不值得保留长原文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
MemPrice 的五级表示为什么是联合分配问题？
MemPrice: Online Memory Allocation via Adaptive Pricing for Long-Horizon Agents
问答新增：2026-10-27 · Hong Kong University of Science and Technology
展开答案与例子
答案：每项记忆可选择原文、摘要、抽象、关键词或删除，不同表示占用和效用不同，并共同竞争硬 token 容量。逐条独立选最有用版本可能超预算，因此需要在每项只能选一版的条件下联合优化；已删细节在当前窗口也不能凭空恢复。
教学例子：例如一条记忆保留原文会挤掉另外两条摘要，最优决策要比较整组信息，而非各条都独立选择最高保真。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
三层局部注意力接一层全局注意力，为什么不同于把整个模型窗口都缩短？
Muse Glimmer 30B: An On-Device Agentic Model
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：局部层限制多数层的读写范围以节省成本，全局层仍能在更长范围交换信息，因此模型并非每层都永久看不到远处内容。GQA 又减少 KV 头数，针对另一部分缓存成本；这些结构取舍不等于已经复现整套蒸馏、后训练和端侧运行效果。
教学例子：例如远处的标题可在全局层影响当前段落，而相邻句子的加工由局部层承担；全部改成短窗口会失去这条长程通路。
依据：背景与主要改动、核心公式与结构；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
52 层的注意力和 RoPE 配置能按一个统一全局模板实现吗？
Muse Glimmer 30B: An On-Device Agentic Model
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：不能。配置是 [Local,Local,Local,Global] 重复十三次，32 个 query 头对应 2 个 KV 头；局部层使用 RoPE，全局层不再施加 RoPE。视觉分支另用 2×2 压缩把 1024 patch 变成 256 token，单层演示不等于完整 29.6B 模型。
教学例子：例如把所有层都加 RoPE，或把三局部一全局误作交替局部全局，都会改变论文结构，即使总层数仍是五十二。
依据：核心公式与结构、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
Muse Glimmer预训练末段改用CE，与继续拟合截断的教师logits，监督信息有何区别？
Muse Glimmer 30B: An On-Device Agentic Model
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：教师logit蒸馏利用教师预测，但top-k截断会丢失尾部信息；末段CE直接使用目标token监督，原文将切换与这类截断偏差联系。两者不是同一标签接口，也不能因为模型曾经蒸馏，就把整个训练都称为只拟合教师分布。
教学例子：目标token不在某次保存的教师top-k里时，截断logits未完整保留其分布信息，CE仍能直接使用该目标标签。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
Muse Glimmer 为什么同时强调模型权重内存和 KV、视觉、drafter 空间？
Muse Glimmer 30B: An On-Device Agentic Model
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：端侧可用内存要容纳整个推理过程，而不只是语言权重。长 Agent 上下文会增加 KV cache，图像编码器与投机头也有占用，因此量化语言模型后小于某个体积不等于系统已适合 32GB 设备；必须按实际输入与部署配置联合核算。
教学例子：例如语言权重低于二十 GB，仍可能因长轨迹 KV 和视觉前向的临时张量超过设备剩余空间。
依据：背景与主要改动、核心公式与结构；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么答案错误时仍可能保留检索程序监督，却屏蔽答案 span？
Learning to Program Retrievals: Composing Search Primitives via Reinforcement Learning
问答新增：2026-10-27 · KAIST AI / Meta Superintelligence Labs
展开答案与例子
答案：程序可通过语法与执行核验，说明检索组合本身值得学习，最终答案错误不必把全部结构监督一并丢掉。反之，保留错误答案会教坏生成行为；程序或续写 actor 也不能看到 verifier 的 gold，环境观察不应被当成策略自己生成的训练 token。
教学例子：例如程序正确融合两路召回并去重，回答器却抄错日期，可保留检索步骤训练而遮掉错误日期的答案监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 RPL 的受限程序怎样控制召回规模、融合和最终输出？
Learning to Program Retrievals: Composing Search Primitives via Reinforcement Learning
问答新增：2026-10-27 · KAIST AI / Meta Superintelligence Labs
展开答案与例子
答案：程序最多使用四个不同 query，召回与重排宽度取规定阶梯，多路召回要实际融合，并限制显式打印的文档数量。同 ID 异内容统一拒绝，重排不能注入召回外文档。本地只解释数据类和注入 SDK，文档数预算也不等于原文 token 限制或任意 Python 执行能力。
教学例子：教学例：召回二十条再打印三条是合法的计算与观察分离；若重排偷偷补入一条未召回文档，就破坏了证据来源合同。
依据：核心公式、本地复现、成本与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
结构变异保留原 query 与重新让模型生成全新查询有什么区别？
Learning to Program Retrievals: Composing Search Primitives via Reinforcement Learning
问答新增：2026-10-27 · KAIST AI / Meta Superintelligence Labs
展开答案与例子
答案：保留策略已有 query，把探索集中在召回模态、宽度、融合和重排结构，便于区分程序组织的作用；全新 query 同时改变语义与控制流。局部变异可能探索受限，但不能用 gold 直接编出正确文档作为所谓变异结果。
教学例子：例如原查询不变，把召回从三扩到五可检验宽度是否补证据；若同时换成答案关键词，就混入另一种改进。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
可编程检索为什么只把显式打印的文档交回模型？
Learning to Program Retrievals: Composing Search Primitives via Reinforcement Learning
问答新增：2026-10-27 · KAIST AI / Meta Superintelligence Labs
展开答案与例子
答案：召回、融合、去重和重排可在程序内处理较大候选池，但模型上下文只接收最终明确输出。这样把检索计算与观察预算解耦；若把所有中间召回暗中拼回上下文，就绕过了程序选择和预算，不能声称相同检索策略。
教学例子：例如稠密召回五十篇、重排后打印三篇，模型只应看到三篇，而不是同时读取隐藏的其余四十七篇。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
真实实验反馈为什么不能由计算代理高分替代，也不能跨轮直接算成固定测试提升？
Aptamers as a sandbox for lab-in-the-loop agentic molecular discovery
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：计算评分可能与现实测量不一致，闭环的价值就在于新测量能够否定预测并保留失败证据。不同轮次改变候选和策略，命中比例还受所选分布影响，不是同一测试集上的可比机器学习分数；这里评价研究编排，不据此推出具体实验操作建议。
教学例子：例如一轮专挑代理认为最优的候选、下一轮转向探索，二者命中比例差异可能来自选择范围，不能直接称模型泛化提高。
依据：背景与主要改动、核心机制与评测；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地为何不以模拟测量或预测分数替代物理终点？
Aptamers as a sandbox for lab-in-the-loop agentic molecular discovery
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：真实实验是否定计算代理的定义性环节，替换后会消除论文核心难点。本地只收录研究编排与成本，没有模型、GPU receipt、能力指标或 Evolve 集成；专业实验室与多天反馈不由一个数值 fixture 代表，也不提供实验操作流程。
教学例子：例如随机生成一个“测量通过”标签可测消息接口，却不能证明候选在真实物理实验有效，更不能算完成实验闭环。
依据：核心机制与评测、本地复现与成本决策；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
新增真实测量与反复重新评价已有实验记录，分别增加什么信息？
Aptamers as a sandbox for lab-in-the-loop agentic molecular discovery
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：重新评价已有记录可改进解释或候选选择，却没有产生新的物理观察；新增测量能检验尚未验证的候选，可能揭示模型遗漏。二者都可参与研究，但不能把再计算说成独立实验，也不能用模拟代理替代实验终点。跨轮比较还需保留候选和测量条件变化。
教学例子：教学例：对十个旧结果重新排序，仍只有十次已发生测量；真正测试第十一个候选，才增加一个新的外部反馈。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
适配体设计为什么需要反复连接计算提案与真实实验反馈？
Aptamers as a sandbox for lab-in-the-loop agentic molecular discovery
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：计算模型只能按已有数据估计候选性质，实际分子表现仍可能受未建模因素影响。该工作研究用真实测量检验提案并支持下一轮设计，使实验而非预测分数成为关键反馈。不同轮候选和筛选条件会变化，不能将闭环进展自动解读为固定测试集能力提升。
教学例子：教学例：模型偏好的候选在实际测量中表现一般，下一轮应利用这个反例；重新调高预测分数并不会改变真实测量结果。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
TreeOPSD为什么把树回传信用变成有界Bernoulli教师，而不无限重复原奖励梯度？
Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：终局信用给出改善方向，却不自动告诉多次更新何时停止。冻结有界目标把方向变成有限距离，学生相对旧策略的变化达到目标后梯度消失，超过后会拉回。树中共享turn须去重，分支权重来自完整actor span行为似然，不能任意改为平均token分数。
教学例子：同一批成功轨迹训练很多轮时，有限目标可在“学够了”后停下；单一固定正优势则可能一直推高同一选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
TreeOPSD的Bernoulli分布是完整下一词教师吗？
Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：不是，它描述已采样turn相对旧策略的二点后验。树权重用完整actor span似然，叶奖样本标准差，观察不进分母；不能用任意clip来代替有界目标推导。
教学例子：例如两个Bernoulli类别不是词表里两个token，而是相对turn变化的抽象表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
有界Bernoulli教师与一直沿同一优势方向更新有什么区别？
Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：冻结后验给有限目标，当前相对旧策略变化达到目标时梯度为零，超过后反向。普通固定优势重复优化可能持续推进，二者对多次更新的停止含义不同。
教学例子：例如把某动作推到足够程度后应停，而不是同一批重复训练越推越远。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
TreeOPSD为什么将共享前缀整理成树？
Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：相同历史下不同续写揭示动作后果，叶奖励可沿行为似然回传成局部信用。共享turn只计一次，避免同一前缀因分枝多被重复放大。
教学例子：例如两条路线前三步相同，分叉后成败不同，树可保留这一局部比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
TAR为什么只重放相对基础策略被压制的正确轨迹，而不是固定模仿整个记忆库？
Preserving Reasoning Diversity in Reinforcement Learning with Verifiable Rewards via Adaptive Replay
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：基础策略实际采样并经训练验证器筛出的正确轨迹用于保存多样解法。当前策略若未压低某条轨迹，其门控可以为零；若发生压制，再把损失集中到被压低的词元。轨迹门与词元权重都停止梯度，避免优化器通过改变门控取巧，测试答案不参与建库。
教学例子：例如旧策略的代数解法逐渐采不到时才补学其中受压步骤；仍常见的图解轨迹无需重复强制模仿，也不能手编答案冒充旧采样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
TAR能仅对活跃门的轨迹平均loss吗？
Preserving Reasoning Diversity in Reinforcement Learning with Verifiable Rewards via Adaptive Replay
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：不能，按全部bank轨迹平均，零gate也在分母；门与token权重都detach，半精度内部需稳定计算。只除活跃数会随激活比例额外放大回放。
教学例子：例如只一条被压制时，改活跃分母会让它比规定全bank均值强很多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
TAR自适应重放与固定archive反复SFT有什么差别？
Preserving Reasoning Diversity in Reinforcement Learning with Verifiable Rewards via Adaptive Replay
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：只有相对base被压制时才开轨迹门，并聚焦受压词元，避免已掌握部分持续限制新适应。固定回放始终提供监督，不具这种按当前压制变化的选择。
教学例子：例如某旧解法仍常见时可不额外回放，后来下降再补。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
TAR为什么先从base实际采到正确记忆？
Preserving Reasoning Diversity in Reinforcement Learning with Verifiable Rewards via Adaptive Replay
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：目标是保住基座已有但后训练压制的模式，必须真实生成并经训练verifier通过，再选分散原型；手写标准解无法证明原来可达，没正确候选就不建bank。
教学例子：例如基座从未采出的解法，不能被包装成被遗忘的旧能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
SimOPD师生隐状态维数不同，为什么仍能做关系蒸馏，不必先投到同一坐标系？
SimOPD: Relational Knowledge Transfer for On-Policy Distillation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：两边各自在自身空间计算当前回答与配对历史回答的相似度，再匹配以相同历史身份为索引的分布，比较对象不是跨模型向量本身。历史bank和教师都冻结并同步FIFO维护；只有一个历史点时分布恒定，不能提供有效关系监督。
教学例子：两位老师使用不同坐标描述回答，但都能说它更接近历史答案甲而非乙；学生学习这种关系排序，无需坐标逐项相等。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
SimOPD何时入队以及为什么单元素bank不能更新？
SimOPD: Relational Knowledge Transfer for On-Policy Distillation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：优化后入队的是优化前提取的冻结成对表示，两侧FIFO同步；首批只暖启动。单元素分布恒为一点，没有关系信息，应拒绝这种更新，只当前学生表示可微。
教学例子：例如教师bank第二项与学生bank第一项错位，会把不同回答关系硬对齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
SimOPD关系蒸馏与hidden-state MSE有什么不同？
SimOPD: Relational Knowledge Transfer for On-Policy Distillation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：MSE要求对应向量可比较，关系蒸馏保留回答之间几何结构而不强迫坐标。它也不同于词表概率蒸馏，监督对象是历史回答的相似分布。
教学例子：例如两张地图可旋转却保留城市距离，直接坐标差大但关系仍一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
SimOPD为什么能让师生隐藏维数不同？
SimOPD: Relational Knowledge Transfer for On-Policy Distillation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：它不直接相减跨模型向量，而在各自空间计算当前回答与同序历史回答的相似分布，再匹配分布关系。共享的是回答身份，不要求表示坐标相同。
教学例子：例如一个模型用百维、另一个用更高维，只需各自比较相同历史回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
MultiAgent-OPD为什么用简单团队训练教师，却从原基础checkpoint重新训练层级学生？
MultiAgent-OPD: End-to-End Training of Hierarchical Multi-Agent Systems with On-Policy Distillation
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：先训练的Searcher–Answerer提供任务相关局部指导，第二阶段重新起步可区分教师知识与层级架构学习。Leader、Searcher和Answerer虽然共享参数，仍接收各自角色信号；Searcher教师读其真实子任务与检索历史，不是把全局gold答案交给所有角色。
教学例子：团队最终答错可能因分工，也可能因检索摘要差；只把最终奖励均匀撒给所有角色，会丢掉局部学习信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
MultiAgent角色共享参数时，loss mask仍需分开吗？
MultiAgent-OPD: End-to-End Training of Hierarchical Multi-Agent Systems with On-Policy Distillation
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：需要，各角色输出对应不同优势和KL设置；Searcher局部log比不等于因果贡献，工具观察mask。搜索活动计的是有检索的环境步，不是原始调用总数。
教学例子：例如一轮并行多个搜索调用，不应无上限地堆高Leader活动奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
阶段二为何从相同base重新开始，而不直接续训阶段一模型？
MultiAgent-OPD: End-to-End Training of Hierarchical Multi-Agent Systems with On-Policy Distillation
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：重新初始化隔离教师训练产物与层级学生学习，避免把阶段一权重收益混成层级蒸馏收益。共享base不代表教师和学生在阶段二都继续更新。
教学例子：例如先造一个会教搜索的模型，再从原起点训练团队，而非让现成教师直接变团队。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
MultiAgent-OPD为什么先训练简单Searcher–Answerer教师？
MultiAgent-OPD: End-to-End Training of Hierarchical Multi-Agent Systems with On-Policy Distillation
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：团队终局奖难评价搜索细节，任务训练教师先获得相关局部指导，再冻结监督层级团队的Searcher。Leader与Answerer仍用各自结果信号，不把所有角色统一打分。
教学例子：例如搜索总结是否有用，不能只靠最终答案一位对错粗略判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
MGE-PO为什么使用生成时缓存的token熵，而不在更新后重算当前策略熵来分配信用？
MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning
问答新增：2026-10-27 · 论文未列机构（不据邮箱域名推断）
展开答案与例子
答案：信用要描述采样该回答时的不确定性，更新后重算会把策略变化混入原轨迹评价。方法结合正确性与高低熵四象限修正优势，并另有课程和KL权重。截断响应直接修正为零，也不意味着批内重新中心化后最终优势必为零，几个步骤不能混为一项。
教学例子：同一回答更新后变得更确定，不能倒过来说它采样时就毫不犹豫；信用依据应固定在原生成分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
截断响应直接修正为零，为什么最终advantage仍可能不为零？
MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning
问答新增：2026-10-27 · 论文未列机构（不据邮箱域名推断）
展开答案与例子
答案：门控只令其直接增量为零，随后批内重新中心化会统一移动所有优势。课程还使用滞后题目EMA，不能依据未来生成选择当前题；生成熵需从采样策略缓存。
教学例子：例如其他回答获得正修正，批均值变化后，未修正那条也会相对均值移动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
MGE-PO四象限与只奖励低熵回答有何区别？
MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning
问答新增：2026-10-27 · 论文未列机构（不据邮箱域名推断）
展开答案与例子
答案：修正同时结合成功或失败与高低熵，避免把自信直接当正确。简单低熵奖励会鼓励自信错误；四象限仍依赖可验证正确性，不适用于偷看评测答案。
教学例子：例如低熵错误与低熵正确虽然都确定，奖励方向不应相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
MGE-PO的“成功/失败”和“高熵/低熵”是同一个标签吗？
MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning
问答新增：2026-10-27 · 论文未列机构（不据邮箱域名推断）
展开答案与例子
答案：不是。成功由可验证结果决定，熵描述生成策略在词元选择上的不确定程度。四种组合都可能存在，不能把低熵直接当作正确，也不能把高熵直接当作失败。先把结果与生成状态分成两轴，才能理解为何要进行四象限信用修正。
教学例子：模型可能很确定地算错，也可能犹豫后算对；两条轨迹的正确性和不确定性应分别记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
GR-OPD为什么在组中心化后还保留一部分均值压力？
GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：纯相对中心化会抹掉教师对整组回答共同的偏好，只剩组内谁更好。保留适量均值项，使整体偏离教师的压力仍存在，再将序列信用广播到动作位置。折扣、标准化和裁剪会改变实际目标，不能直接继承未处理理论估计器的梯度保证。
教学例子：同题所有回答都明显不被教师支持，但彼此差异很小；只中心化可能几乎不更新，均值项保留共同纠偏方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
GR-OPD训练是全局token均值还是先每响应平均？
GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：按每条响应有效actor词元平均，再跨回答等权平均，先做反馈裁剪和折扣归一。教师、旧策略、信用固定；理论裸和性质不能直接推广到实用裁剪重复更新。
教学例子：例如长回答不能仅因词元多就在这个目标里自动获得更大总权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
保留组均值压力与纯中心化有什么区别？
GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：纯中心化只保留同题回答差异，可能抹去教师对整组的整体方向；额外均值项保留部分共同压力。其系数可设零，不同配置不能混为同一实验。
教学例子：例如全组都偏离教师时，纯相对排名仍只区分彼此，不表达整体差距。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
GR-OPD为什么先把token反馈聚成序列分数？
GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：教师局部自信不一定说明整段推理可学，先形成折扣序列分数再同题比较，把模仿信号转成响应相对信用，降低逐词盲目跟随的风险。
教学例子：例如教师喜欢某几个格式词，不应仅据它们就认定整条错误路线更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
全局补偿分支为什么连 sink 块也池化，而不是只处理被稀疏分支漏掉的块？
Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers
问答新增：2026-10-27 · Xi'an Jiaotong University
展开答案与例子
答案：补偿分支提供低分辨率的全局背景，其定义覆盖全部 token；稀疏分支则保留选中关系的精细计算。两者按各自归一化量融合，不是把遗漏部分简单相加。若擅自排除 sink，就改变了补偿分布，离线校准得到的静态支持也不能在测试题上重新挑选。
教学例子：例如稀疏分支精读中心区域，全局分支仍粗读整张图包括中心；它补的是全局上下文，不是把剩余区域拼成第二张图。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
校准 block mass 能否先平均 Q/K 再做 softmax 近似？
Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers
问答新增：2026-10-27 · Xi'an Jiaotong University
展开答案与例子
答案：不能。应先计算 token 级 dense 概率，再按 query block 平均、key block 求和，保证每行质量和为一。softmax 非线性使平均 Q/K 后的结果不同；本地 Python gather 仅作正确性验证，不能用 mask 稀疏比例换算真实 kernel 加速。
教学例子：例如两个 query 分别关注左右两端，平均 query 可能关注中间；先平均再 softmax 会丢失两端的真实概率质量。
依据：核心公式、本地复现、成本判断与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
Sink-Sparse只把稀疏mask设成全支持，就一定恢复dense attention吗？
Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers
问答新增：2026-10-27 · Xi'an Jiaotong University
展开答案与例子
答案：不一定，最终输出还混合全局补偿分支，池化后的分布可能不同于原dense结果。全支持且gap为1时，两分支都可退化为同一dense计算，是应检验的充分退化情形；一般设置只追求近似，不能把归一化融合当成严格等价证明。
教学例子：稀疏分支已经读取全部token，但补偿分支仍按多token均值池化时，混合结果不必与只运行dense分支相同。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
静态 sink mask 是从新提示在线挑出的高分块吗？
Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers
问答新增：2026-10-27 · Xi'an Jiaotong University
展开答案与例子
答案：不是。它由独立离线校准的 dense 注意力概率，先聚合精确 block mass，再逐行取达到质量阈值的最短前缀；新输入复用该 mask。静态性降低在线选择开销，也依赖模式能跨提示和 seed 稳定，不能测试时重新挑 mask 后仍称离线复用。
教学例子：例如校准时某 query block 总关注两个区域，部署固定读取它们；新提示出现另一高分区域时，不会偷偷重选静态 mask。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
依据下一段相机轨迹淘汰平面，为什么不等于读取未来真实视频？
Persistent Planar Memory for Video World Models
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：相机轨迹可以是生成任务已给定的控制条件，它说明之后将朝哪里看，并不提供那里的真实图像。平面池据此管理将被更好观测替换的几何，后续视频仍需模型生成；只有把未知未来观测或真值几何提前送入记忆，才构成另一种信息泄漏。
教学例子：例如用户预先指定镜头绕桌子一圈，系统可据轨迹安排记忆；它仍不知道桌子背面的真实纹理，不能当成已经看到。
依据：背景与主要改动、核心公式与流程；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
几何 LoRA 是在每个视频去噪步都开启吗？
Persistent Planar Memory for Video World Models
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：不是。视频去噪使用 Stage1 冻结骨干并关闭几何 LoRA，视频生成完成后额外开启一次几何前向提取平面。两阶段训练还有深度、法线、光栅化与平滑目标，前千步不启用光栅化损失；当前本地仅资料收录，没有执行世界模型。
教学例子：例如生成二十五帧 chunk 的多个去噪步不逐步更新平面；结束后一次几何提取再合并 pool，流程不同于每步联训几何。
依据：核心公式与流程、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
持久平面池与仅保留近期帧作为生成条件有什么差别？
Persistent Planar Memory for Video World Models
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：近期帧记忆容易在长时间离开某区域后忘记场景，世界坐标 pool 可在相机回访时继续提供几何条件。它还需遮挡投票、质量去重及淘汰维护，不能把不断追加平面当完整机制；已知未来相机轨迹也不等于读取未来真实视频。
教学例子：例如镜头绕房间一圈后回到起点，旧墙面可仍在 pool 中；淘汰决策可知道下一段相机位置，却不知道未来真实像素。
依据：背景与主要改动、核心公式与流程；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
长视频生成为什么在镜头回到旧位置时，容易忘记原来的场景布局？
Persistent Planar Memory for Video World Models
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：只条件化少量近期帧会丢掉更早看过的几何，保存全部像素或点云又成本很高。PPMem 研究用紧凑、可光栅化的平面场景记忆接续视频 chunk，使回访有可用空间依据。平面是近似表示，遮挡和错误几何仍需维护，不能从持久存储直接推断生成完全一致。
教学例子：教学例：镜头先离开书桌再转回，书架不应无故换位置；近期帧看不到书架时，持久场景记忆可提供几何条件。
依据：背景与主要改动、核心公式与流程；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
JEV葡语检索为什么用每文档独立二元概率重排，而不把全部文档塞入同一Choice竞争？
Jev-as-a-Judge for Brazilian Portuguese Information Retrieval: Relevance Assessment and Reranking
问答新增：2026-10-27 · Câmara dos Deputados
展开答案与例子
答案：独立提问衡量各文档是否直接回答查询，收齐分数后才能跨批排序；同一Choice给出的则是候选内竞争份额，加入文档会改变分母。离散相关等级标注又是另一任务，需保留原标签顺序。该重排不混BM25分数，也没有训练校准模型，评测不能删掉零相关查询。
教学例子：例如两篇文档都直接回答问题，可各自取得较高二元概率；在二选一分布里它们必须分享总概率，不能把两种数值当成同一含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
葡语重排中缺失一篇文档分数能否默认为零？
Jev-as-a-Judge for Brazilian Portuguese Information Retrieval: Relevance Assessment and Reranking
问答新增：2026-10-27 · Câmara dos Deputados
展开答案与例子
答案：不能。须收齐同查询全部预期分数并核对身份，遗漏、重复或非有限值应拒绝该查询。静默填零会把接口错误混成相关性判断，并改变排名。
教学例子：例如分批请求漏回第二批时，不能直接把那批文档排到底并继续算指标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
独立Noul概率与把BM25分数相加有何区别？
Jev-as-a-Judge for Brazilian Portuguese Information Retrieval: Relevance Assessment and Reranking
问答新增：2026-10-27 · Câmara dos Deputados
展开答案与例子
答案：研究的重排直接使用独立回答概率，并未把BM25分数作为混合项。额外融合会形成另一方法，应独立验证，不能把它的结果回写成原协议。
教学例子：例如首阶段用BM25召回可以，最终排序分若再加BM25，就改了规定的重排函数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
葡语JEV研究中的相关性标注与重排是同一个输出吗？
Jev-as-a-Judge for Brazilian Portuguese Information Retrieval: Relevance Assessment and Reranking
问答新增：2026-10-27 · Câmara dos Deputados
展开答案与例子
答案：不是。前者给文档有序相关等级，后者以每文档是否直接回答查询的独立概率排序。两种输出对应不同评测口径，不能拿类别份额充当独立相关概率。
教学例子：例如给一篇文档标高度相关，与将一组文档排先后，需要不同结果表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
BMuon的通道预算为什么要跨全部MLP共享，还同时作用于输入行和输出列？
BMuon: Budgeting Muon's Spectral Geometry for Structured Compressibility
问答新增：2026-10-27 · Inria
展开答案与例子
答案：一个隐藏通道由输入矩阵的一行和输出矩阵的一列共同定义；只改变一侧不完整。BMuon让所有MLP通道竞争同一总分配预算，并在两侧的Muon更新几何中使用该分配，使不同层之间也能重新分配可压缩性。它是在训练更新中塑造结构，不是额外前向gate或事后各层独立剪枝。
教学例子：总共只留100份通道预算时，两层不必各拿50；更有贡献的一层可拿更多，但每个通道的入边和出边都应按同一分配一起处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
BMuon 完成预算 MM 更新后，能沿用旧分配的 polar 更新吗？
BMuon: Budgeting Muon's Spectral Geometry for Structured Compressibility
问答新增：2026-10-27 · Inria
展开答案与例子
答案：不能。旧分配用于计算MM分数，新分配求出后必须重算双边polar更新；跨全部块共用一个预算乘子。缺失配对一侧梯度也不能静默继续，否则破坏输入行/输出列耦合。
教学例子：通道预算从0.2改到0.8后，参数方向需反映新权重，而非仍用旧μ算出的方向。
依据：核心公式、实现与运行；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
全局通道预算 BMuon，与每层各保留相同比例有什么不同？
BMuon: Budgeting Muon's Spectral Geometry for Structured Compressibility
问答新增：2026-10-27 · Inria
展开答案与例子
答案：全局约束允许不同MLP块竞争同一预算，总和为K；逐层固定比例提前限制了每层分配。两者即使最终通道总数相同，也可能把资源放在不同层。
教学例子：一层可得到较多通道、另一层较少，而不是每层机械地裁掉50%。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
BMuon 希望优化器学出哪种更容易剪枝的结构？
BMuon: Budgeting Muon's Spectral Geometry for Structured Compressibility
问答新增：2026-10-27 · Inria
展开答案与例子
答案：它针对MLP隐藏通道，改变成对输入行与输出列的更新几何，使所有块在同一个通道预算下分配资源。它不是前向额外加gate，也不是训练后随意按幅度删权重。
教学例子：一个隐藏通道的输入行与输出列是一对，需要一起考虑其保留价值。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么用隐藏下游包验证群体改进，而不只运行 Agent 自己维护的微基准？
World of SWECraft: Agent Collaboration at Scale via Simulated Software Worlds
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：群体可能优化已见基准的特例，却破坏真实依赖者。冻结版本在不可见下游安装与检查，能检验公共产物的兼容性和收益；失败任务必须按既定 strict 或 carry 规则处理，不能删掉后再平均，指令计数收益也不能冒充墙钟加速。
教学例子：例如库把某函数针对自测输入特化，微基准很快却令下游解析器失败；隐藏依赖检查会暴露这种局部优化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
strict 与 carry 在正确性失败轮的速度聚合如何不同？
World of SWECraft: Agent Collaboration at Scale via Simulated Software Worlds
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：strict 将失败包的任务速度比记为一，carry 沿用最近一次通过时的速度比；两者都保留全部任务分母，再取几何平均。指令计数收益不是墙钟加速，本地没有运行协作环境，仅公式实现也不能称复现 55K 会话研究。
教学例子：例如某轮优化导致测试失败，不能删掉该包只平均成功项；carry 可以保留其前次有效表现，而非采用失败轮更快数值。
依据：核心公式、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
持久多会话协作与单条无限长群聊有什么区别？
World of SWECraft: Agent Collaboration at Scale via Simulated Software Worlds
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：Agent 通过仓库、issue、PR、发布及持久记忆交接工作，会话权限与预算可控，信息不必都堆进同一对话。共享工件可跨会话保留，但也有协调、所有权和版本成本，不能把更多 Agent 或更大模型自动等同更高群体产出。
教学例子：例如一名维护者发布新版后另一依赖库更新适配，协作通过版本工件发生，不要求所有历史聊天每轮同时可见。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
World of SWEcraft 为什么把软件任务扩展成多个维护者共同演进的包生态？
World of SWECraft: Agent Collaboration at Scale via Simulated Software Worlds
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：单个 Agent 修一个已给定 issue，不能完整反映跨项目依赖与多人维护的长期影响。World of SWEcraft 让维护者持续改变各自软件包，改动会影响下游使用者，因而需要兼顾本地进展和协作交付。群体活动多不代表生态更好，应由实际下游功能与资源结果检验。
教学例子：教学例：一个包升级函数签名后，自己的测试通过，下游两个包却无法导入；这类跨维护者后果正是单 issue 测试不易覆盖的。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
API tape 重放成功，为什么不能当作所有输入的程序等价证明或候选接纳门？
SCOPE: Selective Certification of Program Edits for Embodied Heuristic Learning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：重放只检查记录实例在给定状态、返回和异常下是否一致，未见输入仍未知。它用于选择值得真实环境诊断的差异，不决定成功候选必须回滚；原生环境成功才更新 accepted program，重放分歧也只是证据差异，不能直接记成环境失败。
教学例子：例如旧案例的返回顺序与新程序不同，可触发重点复测；若新程序已在真实环境完成当前任务，不能仅因旧 tape 不兼容就擅自拒绝。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
SCOPE 重放时只比较 API 名称和返回值，足以恢复有状态执行吗？
SCOPE: Selective Certification of Program Edits for Embodied Heuristic Learning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：还要匹配请求及前状态，并恢复后状态突变、异常与共享引用，完整消费tape且无额外外部调用。accepted program由原生环境成功更新，不能私自把replay改成接纳/回滚门。
教学例子：两个对象共享同一列表，重放若复制成两个独立列表，即使当前返回值相同也改变后续行为。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
SCOPE 的重放分歧，与真实环境执行失败是同一种结论吗？
SCOPE: Selective Certification of Program Edits for Embodied Heuristic Learning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不是。分歧说明候选与记录见证不匹配或不可用，是后续搜索证据；真实环境失败需要实际执行。未知不能当失败，重放也不是对所有输入的程序等价证明。
教学例子：新程序多查询了一次API，可能导致tape分歧，但尚不能据此断定环境任务失败。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
SCOPE 为什么保存成功执行的有状态 API tape？
SCOPE: Selective Certification of Program Edits for Embodied Heuristic Learning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：修改程序后重新跑所有旧场景很贵，完整tape保留请求、前后公共状态及返回/异常，可在同一记录实例上重放候选，帮助发现需要进一步真实诊断的分歧。
教学例子：一个旧成功场景可先用完整API交互证据检查，而不立即重新启动机器人环境。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Waypoint-OPD为什么用同次RL中间checkpoint作一致性门，而不把它作为另一个蒸馏目标？
Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation
问答新增：2026-10-27 · Alibaba Cloud Computing
展开答案与例子
答案：起点到终点的相同位移可能来自持续同向改进，也可能中途反转，waypoint用来辨认这两种历史。early与late位移在学生候选权重下中心化后比较方向，只缩放endpoint信用。中间模型不是额外要模仿的答案，低范数回退和冻结门控也属于定义。
教学例子：两个教师最终都提高同一词概率，一个一路提高，另一个先降后升；中间检查点能区分路径，但不必要求学生停在中间状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Waypoint低范数时为什么gate回退为一而非零？
Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation
问答新增：2026-10-27 · Alibaba Cloud Computing
展开答案与例子
答案：缺少方向证据不等于存在冲突，规定范数很小时回退一；还需学生top-k权重中心化、有效前缀batch缩放。support、教师和优势冻结，候选不必被采样也可受梯度。
教学例子：例如早段几乎不变，cosine无法稳定定义，不应因此自动删除全部endpoint信用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
正cosine一致性与只看endpoint幅度有何不同？
Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation
问答新增：2026-10-27 · Alibaba Cloud Computing
展开答案与例子
答案：幅度大可能来自反复摇摆，一致性关注中心化早晚位移是否同向。它只提供训练路径线索，不保证方向正确，也不能用不同run的任意checkpoint拼成时序证据。
教学例子：例如两段位移反向会降低gate，即使最终仍离初始很远。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Waypoint-OPD为什么需要同一教师RL中的中途checkpoint？
Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation
问答新增：2026-10-27 · Alibaba Cloud Computing
展开答案与例子
答案：初末变化无法分辨过程是否反转，waypoint提供早晚方向一致性证据，调节endpoint信用；它本身不是另一独立模仿目标。
教学例子：例如先偏向A后来又转向B，与一路稳定转向B，终点差可以相似。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
逐token软选教师时，为什么平均教师概率与平均logits不是一回事？
Compatibility Matters: A Framework for Token-Level Teacher Selection in On-Policy Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：概率算术混合表示在教师分布之间分配权重，logits或log-prob平均再归一则形成另一种组合，尤其在意见冲突和尾部差异时不同。路由依据还需区分置信、分布距离与对齐表征；强教师并非每个前缀都合适，启发式选择没有普遍更优保证。
教学例子：数学专家和代码专家各自确信不同续写，各取部分概率质量与取两者共同支持的几何组合，会给学生不同目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
软路由混合概率还是平均logits，τ为零怎样处理？
Compatibility Matters: A Framework for Token-Level Teacher Selection in On-Policy Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：按教师概率算术混合，平均logits会变几何式目标；τ零明确硬argmax而不做除零。路由和目标冻结，本地是sampled-token版，未实现Top-K KL版本。
教学例子：例如两教师各支持不同模式，概率平均与logit平均会给不同质量分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
置信、Hellinger距离与隐藏距离路由各假设什么？
Compatibility Matters: A Framework for Token-Level Teacher Selection in On-Policy Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：置信偏好教师确定，分布距离偏好与学生兼容，隐藏距离要求特征空间已对齐；三者测量不同。尤其隐藏维数不同不能直接相减，低距离也不等于高正确率。
教学例子：例如一个很自信但离学生能力太远的教师，可能被不同规则赋不同权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
逐token选教师为什么优于固定整段教师这一假设有吸引力？
Compatibility Matters: A Framework for Token-Level Teacher Selection in On-Policy Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：同一回答可能涉及不同专长，且强教师与学生距离也可不同，按学生实际前缀选能更有针对性。吸引力是机制动机，不保证每个路由启发式都更优。
教学例子：例如代码片段与数学解释可能需要不同专家指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
TF-OPD为什么收集每个教师自己生成答案时的输入二阶矩，而不随便用一份公共协方差？
Training-Free On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：闭式融合要匹配教师在自身实际访问输入上的输出，二阶矩定义了哪些方向的误差重要。换成任意公共统计会改变最小二乘目标；自然终止与循环过滤、token归一也影响支持。无训练指不做梯度蒸馏，并不意味着不需要生成、回读和线性求解成本。
教学例子：两个专家使用不同领域的输入方向，统一协方差可能忽略其中一个领域；各自真实轨迹统计才能反映这种支持差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
TF-OPD的Gram应由谁生成的哪些响应估计？
Training-Free On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：各教师回读自己生成且通过终止循环筛选的响应，按token归一。求解用FP64线性方程而非显式逆，hook需清理；任意随机协方差不代表真实教师统计。
教学例子：例如拿学生生成文本测教师Gram，已经改变原本的访问分布条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
相同Gram时闭式融合与task vector求和有何差别？
Training-Free On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：相同统计下应退化成加权平均更新，直接求和会放大幅度。正交输入支持时又可恢复各自功能，说明融合依赖统计而非固定一种加法。
教学例子：例如两个相同专家不应合成两倍任务变化，合理退化要保持平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
TF-OPD无训练融合为何仍需教师自生成数据？
Training-Free On-Policy Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：闭式线性融合依赖各教师实际访问输入的二阶矩，数据提供应匹配哪些输出的统计，而不是对所有权重任意平均。无梯度训练不等于无生成与校准成本。
教学例子：例如两个专家在不同输入子空间工作，统计能反映各自常用方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
TAG选出anchor后为什么丢弃探针并从原基线重训，辅助奖励又何时生效？
Multi-Reward Hacking: From Aggregation-Induced Drift to Trust-Anchored Defense
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：独立探针用于比较各奖励引起的分布漂移，选出最稳定的锚点，并非继续拿探针权重联合训练。重新从共同基线出发才能隔离选择机制；anchor不满足时辅助奖励不能单独给信用。探针轨迹须由探针自身采样，不能把KL方向悄悄换掉。
教学例子：简短回答很容易拿到辅助分，但答错时应被锚点门控挡住；不能靠越来越短，让总奖励上升却失去正确性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
TAG漂移为什么必须在探针自己的采样轨迹上估？
Multi-Reward Hacking: From Aggregation-Induced Drift to Trust-Anchored Defense
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：逆KL的期望分布是探针，改用基线采样会改变方向；按全部生成词元池化，不是先各响应平均。有限样本估计可负，不能为选举方便截成零。
教学例子：例如长短探针响应的词元应按规定共同计数，而非每条强行同权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TAG选漂移最小探针与人工指定正确性anchor有什么区别？
Multi-Reward Hacking: From Aggregation-Induced Drift to Trust-Anchored Defense
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：方法从同一基线分别探测各奖励，以探针到基线的逆KL漂移选择anchor，再丢弃探针重新训练。人工指定省去此选择过程，是不同配置，不能假称执行了探针选举。
教学例子：例如最容易刷高的奖励可能导致大漂移，选择依据不是它得分升得最快。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
TAG为什么先选可信anchor再联合多奖励训练？
Multi-Reward Hacking: From Aggregation-Induced Drift to Trust-Anchored Defense
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：辅助目标可能容易投机，让总分上涨却破坏主任务。anchor为联合奖励设前提，只有锚点满足时辅助信用才生效；它不是单纯把辅助系数调小。
教学例子：例如短而错误不能仅凭简洁拿到正向辅助信用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
STOPD按截断位置的逆概率加权，为什么还不能用本批随机词元数直接归一化？
Does On-Policy Distillation Need to Complete Every Rollout?
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：预先随机截断使后面词元更少被观测，精确纳入概率的倒数可校正梯度和。但随机分子再除以同批随机分母，并不自动保持无偏。方法使用前批的加权计数作当前归一量，权重和分母不参与微分；结论也不是每次优化器更新都等于完整生成。
教学例子：例如后段步骤只有部分截断计划能保留，应增加其权重；但不能因此宣称一次短生成的平均损失必定与完整长回答相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
STOPD最后不足整块的位置如何算权重与normalizer？
Does On-Policy Distillation Need to Complete Every Rollout?
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：按精确覆盖概率处理短尾块，不能假定所有块等宽；使用前批加权计数作当前normalizer。计划分begin、loss、finish防复用，不能拿当前随机计数替代。
教学例子：例如最大长度不是块宽整数倍时，尾部位置仍需正确纳入概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
逆纳入概率保证梯度和无偏，等于每次Adam更新相同吗？
Does On-Policy Distillation Need to Complete Every Rollout?
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：不等于。随机和的期望可匹配完整和，但归一和非线性优化器还有额外状态。不能把无偏性直接扩大到每批参数更新或训练结果完全一样。
教学例子：例如两次短采样平均接近全和，不代表每次自适应步长都与完整批一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
STOPD为什么在生成前随机选cutoff？
Does On-Policy Distillation Need to Complete Every Rollout?
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：预先独立抽取可明确每个位置被保留的概率，并实际节省后续生成；生成完再截只能省监督且可能引入选择偏差。自然EOS仍是有效词元。
教学例子：例如先决定最多走到某块末尾，而不是看完答案再挑最有利长度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SIF为什么比较排序后的certainty窗口，而不把平均熵或高概率token当正确标签？
Learning to Reason with Selective Internal Feedback
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：平均确定性可能随错误自信一起上升，SIF使用均匀分布到策略的KL构成certainty profile，在合格同题回答间做窗口和peer两级比较。它不是token熵或采样词概率；不合格响应和同奖励组被过滤，policy与KL还必须使用同一选择mask。
教学例子：一条回答平均很自信，但只有少数位置贡献极端值；比较多个排序窗口，可与另一条分布较均匀的回答区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SIF不合资格响应是否也要关闭KL项？
Learning to Reason with Selective Internal Feedback
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：需要，policy与KL共用选择mask；组归一仍保留原响应因子，不偷偷改成仅合格响应数。窗口资格、严格比较与样本标准差也需按协议实现，不能把tie算获胜。
教学例子：例如关闭策略损失却保留参考KL，仍会更新本应过滤的响应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
SIF的KL(U||π)与负熵为何不是同一个确定性量？
Learning to Reason with Selective Internal Feedback
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：前者平均全词表对数概率，负熵按策略概率加权，方向不同，对低概率区域敏感性也不同。用采样词概率替代同样改变指标，不能仅说都是自信分数。
教学例子：例如罕见词的概率趋零，对均匀到策略KL与策略加权熵的影响不一样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SIF为什么不把平均self-certainty直接当正确标签？
Learning to Reason with Selective Internal Feedback
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：错误信心也能升高，方法比较同题多回答的排序确定性窗口，再以两级投票形成相对奖励。它利用分布形状与相对关系，仍不获得独立正确性真值。
教学例子：例如整段都很自信的错误答案，不应只因平均值高就被宣布正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
SRD没有验证过的peer答案，为什么只接收多个peer同号的最小残差，而不多数投票选一整份解？
Learning from Unverified Peers via Shared Residual Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：整份错误答案仍可能含有可复用局部信号，同题peer相对跨题control的变化用于分离题目相关影响。只有同号部分取保守幅度，避免单个peer强推目标；学生仍只看自身前缀。共享残差不是正确性证明，也不能把target自己放回peer上下文制造自我支持。
教学例子：几份未验证推导都弱支持同一中间词，但对结论意见冲突；可以保留保守共同部分，而不宣布票最多的整份解正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
SRD逐坐标cap为什么允许surrogate为负？
Learning from Unverified Peers via Shared Residual Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：截的是带符号单词表坐标贡献，不是总KL；负局部项可存在。中心化权重用q0而非control，target自己不可进入peer，全部教师和目标冻结。
教学例子：例如把负坐标裁成零会改变目标，而不是仅改善数值稳定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
minmod保守残差与平均peer logits有什么差别？
Learning from Unverified Peers via Shared Residual Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：只有所有peer同号才保留最小幅度，否则归零，平均可让强意见覆盖冲突。它减少冒进但不证明共同信号正确，同源peer仍可能共享偏差。
教学例子：例如两人正向一人负向时，保守门控不让多数高幅度直接压过异议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
SRD为何不用peer多数票挑一个正确答案？
Learning from Unverified Peers via Shared Residual Distillation
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：无验证反馈时peer可能全错，仍可包含共同有用局部信息。比较同题peer与跨题control的残差，只接收同向最小幅度，避免把整条未验答案封为正确示范。
教学例子：例如多条失败推理共享一个合理中间转换，可只吸收保守局部变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
PRM4RL为什么把进度奖励写成折扣势函数差，时间截断又为何不能当真实终止？
Progress Reward Model for Reinforcement Learning via Large Language Models
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：势函数差让相邻状态的进度贡献沿轨迹望远镜相消，剩下起点和终点项。真实终止需要正确吸收边界处理，才能避免终点势值额外改变目标；时间预算截断后任务可能仍继续，不能自动将势函数置零。子任务编码与奖励塑形也是两个独立接口。
教学例子：机器人接近目标时因计时结束，不能假装任务已经真正终止；若把此处势值清零，可能凭空给出错误的进度惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
PRM4RL为什么区分terminated与时间截断？
Progress Reward Model for Reinforcement Learning via Large Language Models
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：真实终止可按吸收边界置终点势为零，时间截断仍可能有后继价值，不能一律归零。未传明确终止时应按公式计算，不暗改边界；生成函数还需审阅合法性。
教学例子：例如时间预算到但任务可继续，与物理任务完成或失败，是不同终止语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
势函数塑形与直接奖励当前进度数值有什么差别？
Progress Reward Model for Reinforcement Learning via Large Language Models
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：差分奖励看相邻状态变化，折扣和可望远镜相消；直接每步给高势值会鼓励停留。有限回合的边界条件仍关键，不能只因写了差分就自动保证策略不变。
教学例子：例如停在高进度状态不继续完成任务，直接累计分可能奖励拖延。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
PRM4RL为什么同时提供子任务语义和进度势函数？
Progress Reward Model for Reinforcement Learning via Large Language Models
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：子任务语义增强状态，告诉低层策略当前阶段；势函数差提供稠密进度奖励，缓解只有成功终局的稀疏反馈。二者分别改变输入与奖励，规划可预先生成。
教学例子：例如机器人知道正在抓取，同时从离目标更近的状态变化获得进度信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OPRD的局部提醒为什么只作用于对应观察的下一轮，不能永久留在教师上下文？
OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：局部提醒描述某个观察触发的短期约束，过期后继续保留会影响无关后续决策。全局提醒与局部提醒作用域不同，教师重评同一学生前缀而非另生成答案；部署学生不带提醒。成功自模仿与失败蒸馏也须分别归一，不能把两类轨迹混成一种标签。
教学例子：某次编译输出提示先修依赖，提醒针对紧接着的动作；之后依赖已解决，就不应在每轮都继续把它当未完成约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
提醒OPRD Top-100支持如何选，教师何时刷新？
OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：以双方logp逐项最大值选同一支持并各自归一，不是分别top100。教师在训练规定进度刷新，其余冻结；每轨迹先平均，成功失败分支再分别平均。
教学例子：例如两边支持集合不同，逐坐标KL就不再比较同一事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
全局提醒与观测后的局部提醒有效范围有何不同？
OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：全局持续生效，局部只作用该观测后的下一轮，之后移除。永久保留局部信息会改变教师条件，也可能把后续不相关步骤误导成同一约束。
教学例子：例如一次报错的修复提示只应影响下一次尝试，不应永远挂在所有轮次上。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
提醒OPRD为何让学生先生成无提醒轨迹？
OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：部署时没有提醒，学生需在该条件下采样；失败后教师读训练提醒重评分相同前缀，把约束内化。成功轨迹另走自模仿，而非教师重写新答案。
教学例子：例如忘记测试约束的代码动作，由训练教师提醒评分，学生推理仍只读原任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
OpCredit比较同一操作时，为什么还要匹配访问集合、剩余预算和决策阶段？
OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：同一活动实体不等于同一可决策状态，过去访问和剩余资源会改变操作价值。BOC复用匹配上下文的分支结果并按轨迹去重，FTC另用训练专属答案邻域衡量局部前沿改善。答案信息只参与训练信用，不能进入actor输入，工具观察也不承担策略损失。
教学例子：都站在同一知识节点，一个轨迹已查过邻居、另一个还没查；再次扩展的价值不同，不能只按节点名混组比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
OpCredit匹配分支为什么不能只看活动实体？
OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：还需同题、访问集合、剩余预算和阶段，才能让分支机会相近；支持集每轨迹只计一次。FTC取局部前沿最好机会，不是全图平均距离，信用及参考均停止梯度。
教学例子：例如到同一节点但已经耗尽预算，与刚到节点的后续成功机会不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
BOC分支比较与FTC答案邻域进度各依赖什么？
OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：BOC复用匹配状态下其他轨迹结果，FTC用训练专属答案邻域评价局部前沿。后者可使用训练标签计算信用，但actor采样时不可见，两者也不能当同一奖励。
教学例子：例如知道哪个邻居更接近训练答案，只用于事后信用，不放进搜索请求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
OpCredit为什么把知识图谱搜索信用分到具体操作？
OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：轨迹成功可能绕路，失败也可能包含有用探索。分支结果信用与局部前沿进退分别评价操作，再对齐推理和执行token，而不是把工具观察当策略输出训练。
教学例子：例如一次扩展发现关键实体，即使最终答错，也可能有正向过程价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
MRTPO逐个删除奖励信息块重放响应，为什么比较的是全词表JS而非采样token概率差？
Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：单个已采样词的变化可能漏掉其他候选之间的重分配，全词表差异更完整地表示某类奖励信息影响哪些位置。相关性权重在响应内保均值，正负信用都按相同规则分配，并限制重分配幅度。verifier信息只供训练重放，不能泄漏到学生原始采样。
教学例子：删除SQL格式反馈后，模型可能把概率从逗号转到括号，采样出的词概率恰好不变；只看该词会漏掉真实分布变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
MRTPO相关性全零时为什么回退权重一而非全零？
Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：无信息或全零差异时无法定位，均匀权重保留原奖励总信用；每响应均值为一，再做二阶矩限制和batch归一。直接置零会删除该奖励，而非重分配。
教学例子：例如格式块空白时，不应因不能定位就让整项格式优势消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
MRTPO信息留一与直接看采样token概率差有何区别？
Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：规定使用同一冻结策略的全词表JS距离，捕捉整份条件分布变化；单个采样词只是局部值。相关性仍非因果正确性证明，奖励信息不能进入学生原始采样。
教学例子：例如被采到的词概率不变，其他候选大幅重排仍可能使JS非零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
MRTPO为什么不把每维奖励均匀广播整条响应？
Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：格式、可执行性和结果可能依赖不同位置，均摊会把信用分给无关词元。删去一块奖励信息后分布变化，可作为该奖励与各位置关联的线索。
教学例子：例如SQL语法错误和数值结果错误，可能指向不同关键token。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
KnowGPO为什么按动作前的知识集合分组，不能按动作后状态分组？
KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：要比较从相同已知条件出发的不同动作，前态才提供共同起点；用后态分组会把动作带来的信息增益提前作为分组条件。训练verifier将事实条件单调累积，再把过程与终局优势结合，只广播到生成token，不能把隐藏条件清单交给actor。
教学例子：两次搜索从相同证据出发，一次补到关键事实、一次没有；按结果知识分组会先把它们拆开，反而无法比较动作收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
KnowGPO的answer步骤和工具观察怎样处理loss？
KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：answer不进过程分组，但仍接收混合中的终局项；优势只广播到生成推理与动作token。训练verifier信息和工具观察不可作为actor标签，singleton过程优势为零。
教学例子：例如搜索返回正文是环境给的，不应被当模型生成文本计算策略梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
知识状态分组与按动作后结果分组为何不同？
KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：过程信用要比较从同起点做不同动作的收益，按后状态分组会把获得不同新知识的动作拆开。原文歧义以算法前态为准，不可用后态图省事。
教学例子：例如一个动作找到新事实、另一个没找到，恰应在相同前态下比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
KnowGPO为什么按已知事实集合分组？
KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：不同网页和query可能获得相同知识，按表面观察会拆散可比步骤。验证原子条件后用单调集合表示知识状态，让同知识起点动作比较新增事实。
教学例子：例如两条搜索路径措辞不同，但已掌握同一人物与年份，可进入同类前态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
EliteReplay为什么按实际实现的approach存cell，并先平衡问题再平衡cell回放？
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：请求一种解法不代表模型真按该路线生成，按请求标签存档会伪造多样性。实际descriptor决定cell，每格只保留最短已验证解；回放先平衡问题，避免档案大的题占过多训练权重。质量多样性档案因此不同于普通IID成功样本缓存。
教学例子：要求用几何法，模型却用了代数法，应归入实际代数cell；否则同一种解法会被多个请求标签包装成多样策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
EliteReplay为什么先平衡问题再平衡occupied cells？
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：否则档案大的题会自动占更多回放。每条响应长度平均，固定档案和GRPO按规定混合，padding在指数运算前清理，不能用测试答案建档或挑解。
教学例子：例如一道题有很多已占格，不能因此比另一题获得十倍训练抽样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
MAP-Elites最短cell替换与全局只留最短答案有何不同？
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：在每个实际描述符格内选短解，保留跨策略多样性；全局最短可能删掉其他方法。请求的approach未必实际实现，必须按实际cell存档。
教学例子：例如提示要求归纳法却生成枚举法，应按枚举结构记录，而非信任请求标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
EliteReplay为什么给每问题建立质量–多样性档案？
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：只提高正确率可能压缩解法覆盖，按approach和结构cell保存最短验证解，维持不同正确策略。档案不是把任意IID样本丢入普通回放池。
教学例子：例如代数法和几何法分别存格，避免只留下最常见那一路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
DIVERGE训练为何按想法生成顺序计差异，不能照评测那样重排后再算？
Training Reasoning Models to Generate Diverse Scientific Ideas
问答新增：2026-10-27 · New York University
展开答案与例子
答案：训练中每个新想法看到已有前驱，最近前驱距离对应实际生成过程；事后重排会改变哪个想法先出现及其信用。评测的折扣重排指标与训练奖励是不同定义，不能互换。质量比较与语义距离还依赖独立judge，字符串不同并不证明科学创新。
教学例子：先提出方法甲，再提出甲的改写，后者应因重复少得差异信用；不能重排成一个看起来更丰富的顺序来改写训练奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
DIVERGE长度惩罚应统计哪些字段？
Training Reasoning Models to Generate Diverse Scientific Ideas
问答新增：2026-10-27 · New York University
展开答案与例子
答案：只统计problem_gap、core_claim与method的token，不含inspiration或think，且需相应tokenizer。schema失败奖励为零且不调用judge，不能用字符数静默代替词元数。
教学例子：例如引用灵感写很长，不应被算入规定三字段的长度项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
训练集合奖励与评测Creative Utility能直接互用吗？
Training Reasoning Models to Generate Diverse Scientific Ideas
问答新增：2026-10-27 · New York University
展开答案与例子
答案：训练按生成顺序计算最近前驱距离，不重排；评测允许重排并带折扣及归一化。贪心评测只是最大CU的下界，不能把它写成严格最优或训练目标。
教学例子：例如将最强想法挪到第一可改变评测值，却不是原生成顺序下的奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
DIVERGE为什么一次生成整组想法而不是独立抽样后去重？
Training Reasoning Models to Generate Diverse Scientific Ideas
问答新增：2026-10-27 · New York University
展开答案与例子
答案：后续想法可看已生成内容，模型学习主动寻找不同方向，组奖励结合质量与相互差异。字符串不重复不足以说明研究创新，语义判断仍依赖评价器。
教学例子：例如第二个方案针对第一个的覆盖空缺，而非换几个同义词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
CleanRM为什么同时匹配语义与恢复偏好，校正损失为负时能截成零吗？
CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：只匹配偏好比例会把语义不同的样本错误对齐，联合最优传输同时利用表示距离和恢复偏好来估计双向噪声。随后固定估计器校正风险，带符号损失可以合法为负；截断会改变期望，不能再沿用无偏解释，而噪声率估错也会破坏保证。
教学例子：两类问题都有一半赞同标签，但一类经常被误标。仅对齐标签比例看不出差别，需要结合问题表示识别噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
CleanRM的恢复标签或校正损失越出常见范围时应直接裁剪吗？
CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：不能。恢复偏好可能超出零到一，校正风险也是可为负的带符号量；强行裁剪会改变去偏目标。还需保证两噪声率之和小于一，并在奖励模型更新时冻结估计器。
教学例子：例如一次校正得到负损失，只要公式条件成立，就不能为让曲线好看而改成零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
CleanRM把噪声估计器冻结后训练RM，与两者一起追着当前损失更新有何区别？
CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：冻结后，奖励模型优化的是由一套既定噪声率定义的校正风险；若估计器同时随RM损失变化，校正系数也会移动，RM可能通过改变噪声解释降低损失。联合训练属于另一个优化问题，不能直接继承固定噪声估计下的风险校正解释。
教学例子：先估某类标签翻转率再训练RM；不能因为RM暂时分错，就把这条样本重新解释成更高噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
CleanRM为什么区分两种偏好翻转噪声，而不只估一个总体错误率？
CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：真实正偏好被标成负例，与真实负偏好被标成正例，可能由不同原因产生。分开估计两种条件噪声率，才能对观察标签对应的风险分别校正；总体错误率会掩盖这种不对称。
教学例子：例如标注者偏爱长回答，正确短答被误拒与错误长答被误选的频率可以不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
CCE-OPD为什么两份教师视图必须保持同一学生response prefix，学生分布又不能在候选上重归一？
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：固定前缀使差异主要来自题目条件遮蔽，而非另一条推理轨迹。辅助教师目标在其候选支持上归一，但学生保持完整词表softmax，才能保留支持集之外的概率梯度。合法条件与熵门控只控制附加项，不通过时仍保留原OPD，不是整段跳过。
教学例子：只遮掉一个有效前提再看教师下一词变化；若同时重写了学生前文，就无法把变化归因于这个前提。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
CCE熵在哪个分布上计算，学生是否在support重归一？
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：熵在构建top并集前的完整教师词表上算；辅助目标在support归一，学生仍保留全词表softmax，以保留外部梯度。分母是全部有效响应位置而非通过gate数。
教学例子：例如只在候选内重算学生，会隐藏候选外质量并改变辅助损失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
CCE辅助门控关闭时会把整处OPD也删掉吗？
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：不会，原sampled PPO-OPD始终保留，只不加辅助FKL。合法条件和熵门共同限定额外指导，区别于把所有低熵位置彻底停止学习。
教学例子：例如不够高熵的格式词仍接受基础蒸馏，而非完全从loss消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
CCE为什么用遮蔽有效前提的题面形成教师对照？
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：教师可能顺着学生错误前缀而忽略题目条件，匹配题面对照提取条件敏感方向，外推辅助目标。学生始终从完整题面生成，不是训练它解被破坏的问题。
教学例子：例如删除一个关键数量条件后教师分布变化，可揭示哪些token依赖该前提。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
SoftCache 的步长控制为什么不只是“这一层缓存刷新还是复用”？
SoftCache: Adaptive Step Size Caching for Diffusion Transformers
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：普通缓存沿固定时间节点选择是否重算，SoftCache 还依据陈旧度余量改变前进距离，并重新安排剩余节点。因此少算一次不应之后又访问被跳过的节点。残差外推需要新鲜锚点支撑，在变化太快或早期受限区域不能无条件继续扩大步长。
教学例子：例如原计划经过十个去噪节点，可靠缓存允许跨过中间两个节点；后续网格也要重排，不能绕一圈再把它们算回来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
只有一个新鲜残差锚点时，能否使用两点线性外推公式？
SoftCache: Adaptive Step Size Caching for Diffusion Transformers
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：不能。两点外推需要两个不同时间的新鲜残差；只有一个时保持常数。早期 t<0.1 或 probe 相对变化超过 0.18 时禁止跳步，步长还需截到终点；每个新样本必须创建独立缓存，不能沿用上一样本状态。
教学例子：例如第一轮刚得到一个残差，没有前一锚点可计算斜率；硬套除以时间差的公式会制造无定义或错误的外推。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
probe 的相对变化与残差外推，分别用于决定是否复用还是近似复用值？
SoftCache: Adaptive Step Size Caching for Diffusion Transformers
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：便宜 probe 的相对变化被累计为陈旧度，用于估计剩余 headroom 并控制刷新与步长；两次新鲜残差则提供时间趋势，外推出当前所需计算。前者是调度信号，后者是近似值，不能互换。只有一个锚点时也没有两点趋势可用，不能凭空套用线性外推。
教学例子：教学例：probe 告诉系统这段变化尚小，但不直接给出当前残差；残差要由最近两次真实计算估计，二者需要不同记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
扩散模型采样为什么值得研究“少算哪些网络前向”，而不只缩小模型？
SoftCache: Adaptive Step Size Caching for Diffusion Transformers
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：扩散采样会沿时间反复调用同一网络，相邻状态可能有可复用计算，但无条件跳过也会积累误差。SoftCache 研究利用计算变化信号自适应安排缓存和采样进度，在保留原模型的同时减少重复工作。缓存可靠性只是一种控制依据，不能直接当成生成质量或答案正确率。
教学例子：教学例：相邻去噪时刻变化很小，可尝试复用旧结果；遇到快速变化区域就需要新计算，不能对整段过程都采用相同跳过比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
共享循环块为什么能减少存储层数，却不保证减少执行深度？
Retrofitting Recurrent Vision-Language Models from Pretrained Backbones
问答新增：2026-10-27 · University of Tübingen
展开答案与例子
答案：同一核心块重复执行多次只保存一份参数，但总计算仍包含每次循环。剪层还会破坏原有语言能力和图文接口，所以需要先恢复文本、再对齐 projector、再做指令恢复；参数变少和推理步数变少是两个不同目标，不能混报为同一种加速。
教学例子：例如五层核心循环三次相当于执行十五次块计算，却只存五层核心权重；循环次数越多，存储优势未必变成延迟优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
冻结教师和循环间 KV sharing 在本地实现中各是什么状态？
Retrofitting Recurrent Vision-Language Models from Pretrained Backbones
问答新增：2026-10-27 · University of Tübingen
展开答案与例子
答案：教师需保留完整未剪模型的独立冻结副本并停止梯度；学生各阶段只更新规定参数。本地核对共享核心调用和手工展开等价，但未实现循环间 KV sharing 的增量推理，因此不能把结构循环已执行说成缓存复用或真实模型吞吐已验证。
教学例子：例如三次 core 调用都指向同一模块可检查参数共享；它并不说明三轮生成已正确共享同一份 KV cache。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
剪枝后直接循环与分阶段恢复相比，后者为何需要单独 projector 对齐？
Retrofitting Recurrent Vision-Language Models from Pretrained Backbones
问答新增：2026-10-27 · University of Tübingen
展开答案与例子
答案：层手术会同时影响语言处理与图文接口。分阶段先恢复文本，再仅对齐视觉 projector，最后恢复整体指令行为，可分别处理这些破坏；直接循环不保证保留原能力。projector 阶段不加入 KD，与前后两个蒸馏恢复阶段有明确区别。
教学例子：例如文字续写先恢复正常后，再让图像投影适应循环骨干，避免一开始将语言损伤和视觉失配混在同一训练信号里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
RR-VLM的prelude、循环核心与coda各在流程的什么位置？
Retrofitting Recurrent Vision-Language Models from Pretrained Backbones
问答新增：2026-10-27 · University of Tübingen
展开答案与例子
答案：prelude先把输入变成上下文h，循环核心结合h与上轮状态反复更新s，coda再读取最终循环状态得到输出。它们是前段、共享中段和后段的职责划分，不是三份独立模型投票；h与动态状态也不能混为同一个每轮随意覆盖的变量。
教学例子：先得到固定上下文h，核心连续更新s₁、s₂，最后由coda读s₂；不需要每轮重新从输入创建一份prelude模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
RoPERelay压紧稀疏KV坐标时，为什么只重旋转K而不对V做同样旋转？
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：选择后的键仍带原位置相位，需要先逆去旧旋转再施加紧凑新坐标；值只同步排序，不承载该键位置旋转。各头长度不同时还需共享右端锚点，并同步问题和后续生成位置。它修复坐标而不重选证据，缩放旋转的逆也不能误写为单位旋转转置。
教学例子：例如保留历史第十和第一百个位置后，将它们搬到连续槽位，K要重建相位，V只搬位置；问题也要从新锚点开始，不能沿旧编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
异长 head 的 continuation anchor 为什么取共同 M，而不是各自保留数？
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：文档M是各层/head最大保留数，各head右端点对齐，问题从M起，答案输入从M+Q继续。各自独立起点会让共享问题/生成坐标不一致；scaled RoPE逆变换也不能误当单位旋转。
教学例子：保留8项与4项的两头都在共同位置8接问题，短的一头先按右端对齐安放4项。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
RoPERelay 的位置重建，与重新 prefill 选中文本有什么区别？
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：位置重建直接对既有K执行逆旋转再重旋转，V仅同步排列，不重新运行历史文本主干。重新prefill会重新计算整条表示；两者不能仅因最后都得到KV就当同一成本路径。
教学例子：已有K可按新相位变换，而不是把三个片段拼成文本再从第一层算一遍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
RoPERelay 在固定稀疏 KV 之后，还想修正什么问题？
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：被选中的K仍带原始稀疏坐标相位。方法不再选择内容，而是按时间排序、压紧保留坐标，并让问题和生成位置与新锚点一致，构造可继续解码的位置体系。
教学例子：保留位置0、100、500后，需明确它们的新坐标以及后续问题从哪里开始。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
RoleQ为什么给reader按输出单元放scale，却给writer按输入单元放scale？
RoleQ: Role-Aligned Scales for Converting Language Models to Ternary
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：reader各输出单元读取信息，writer各输入单元向残差流写入贡献，功能方向不同，统一按矩阵行量化会混合这些单元。三值单向量解对所声明轴的未加权目标可精确求得，但不等于整模型量化全局最优；完整流程还需旋转、误差补偿及蒸馏。
教学例子：例如输出投影的一列代表某输入特征写向多个残差维度，应作为功能向量处理；不能仅因权重存储为行就机械逐行给scale。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
RoleQ 报告 ternary 存储时，为什么还要实际 pack/unpack 并计算 scales？
RoleQ: Role-Aligned Scales for Converting Language Models to Ternary
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：三值理论位宽不等于真实格式字节。文档每byte打包5个trit，还需算scale和padding；全零向量应输出零scale/零码。只统计非零权重数不能证明存储节省。
教学例子：77个权重的打包尾部与每功能单元scale都要计入，而不是简单乘log₂3。
依据：核心公式、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
RoleQ 的精确单向量三值解，与固定阈值三值化有什么证据差别？
RoleQ: Role-Aligned Scales for Converting Language Models to Ternary
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：精确solver遍历按绝对值排序的全部非空前缀，寻找未加权向量目标最优support与scale；固定阈值只试一种选择。这个局部精确性也不能外推为整个量化模型全局最优。
教学例子：固定0.7倍均值阈值漏掉的support，前缀全搜索仍会纳入比较。
依据：核心公式、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
RoleQ 为什么按 reader/writer 功能，而不按矩阵存储行列统一分 scale？
RoleQ: Role-Aligned Scales for Converting Language Models to Ternary
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：不同权重在残差流里承担读取或写入角色，功能单元的轴不总与同一存储轴对应。方法按角色选择独立量化向量，避免把不同写入单元混在同一尺度里。
教学例子：MLP输入的输出单元，与MLP输出的输入单元分别对应各自隐藏功能通道。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
远程KV命中为什么有时比直接重新prefill更慢？
When the KV Cache Is Slower Than the GPU: Scaling Remote KV Tiers for Context-Parallel Prefill
问答新增：2026-10-27 · Multiverse Computing
展开答案与例子
答案：加载需要固定请求开销与随KV体积增长的传输时间，重算则由模型预填充吞吐决定。只有带宽与长度越过盈亏平衡，命中才划算；分片实例和异步加载还要避免队首阻塞。缓存命中率不是延迟收益，本地仅文献收录，没有远程系统适配器或GPU结果。
教学例子：例如一个很短前缀的KV虽已缓存，但远程连接等待超过本地重算时间；把命中次数提高，并不能保证用户首词延迟下降。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
为什么原报告采用 PCP rank 独立远程实例和异步加载？
When the KV Cache Is Slower Than the GPU: Scaling Remote KV Tiers for Context-Parallel Prefill
问答新增：2026-10-27 · Multiverse Computing
展开答案与例子
答案：它把MLA缓存按PCP rank分片，并用独立实例及异步加载减少队首阻塞。真实验证需要相应多节点服务和负载；当前单A100/A30仅做成本审查，没有用单机fixture冒充分布式收益。
教学例子：一个rank的大请求不应让另一个rank可立即加载的小请求一起排队等待。
依据：背景与主要改动、成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
带固定开销 T0 时，B>sR 是否就保证任意长度加载都更快？
When the KV Cache Is Slower Than the GPU: Scaling Remote KV Tiers for Context-Parallel Prefill
问答新增：2026-10-27 · Multiverse Computing
展开答案与例子
答案：不能。B>sR只提供渐近带宽优势，有限长度仍要支付T0；应比较T0+sn/B与n/R。文本越短，固定开销越可能主导，不能只凭带宽阈值宣布所有请求受益。
教学例子：即使远程每token传输较快，首包固定延迟仍可能让短请求输给重算。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
远程 KV tier 为什么先分析加载与重新 prefill 的盈亏平衡？
When the KV Cache Is Slower Than the GPU: Scaling Remote KV Tiers for Context-Parallel Prefill
问答新增：2026-10-27 · Multiverse Computing
展开答案与例子
答案：缓存命中仍需固定请求开销与数据传输，GPU重算速度也可能很高。先估计两条路径的耗时，才能判断何种长度和带宽下值得加载，而不是只追求命中率。
教学例子：一个很短prefix从远程取回，可能比在GPU重新算出KV更慢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
核心机制
Prism-1为什么既隔离选项注意力，又让各选项从相同位置编号开始？
Prism-1: Position- and Rival-Independent Scoring for System One Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：每个选项分数只能依赖共享状态、问题和自身，隔离注意力避免读取其他选项，相同起始位置则排除顺序带来的位置差异。最后统一softmax允许分母变化，却应保留旧选项相对赔率。该假设不适合必须跨选项比较的以上皆非，也不防共享状态中的注入。
教学例子：例如新增第三个工具可成为赢家，也会降低旧工具的份额，但不应仅因插入位置就让原来两个工具交换排名；同位置与隔离共同约束读出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
实现细节
Prism-1的选项block可以看到其他选项或沿用不同起点吗？
Prism-1: Position- and Rival-Independent Scoring for System One Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：不能。每块可读共享上下文并在块内因果注意，但不能读其他选项，各块从同一位置编号开始。否则独立分数假设不成立；共享上下文注入也仍不受此隔离保护。
教学例子：例如插入一个更长选项若推迟后面块的位置，就会引入本该消除的位置差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
方法对比
Prism-1的独立选项假设，与“以上皆非”这类候选为什么不相容？
Prism-1: Position- and Rival-Independent Scoring for System One Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：独立分数只看共享状态、问题和该选项自身；“以上皆非”的正确含义却取决于其他选项是否成立，需要跨选项信息。这样的任务不能直接要求相同Luce约束。它说明结构假设的适用边界，不是模型多加训练即可消除的普通误差。
教学例子：把一个正确答案加入候选后，“以上皆非”应变错；若该项根本不能读取其他候选，就无法表达这层依赖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
基础理解
Prism-1加入第三个选项后，要求旧两项概率数值完全不变吗？
Prism-1: Position- and Rival-Independent Scoring for System One Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：不要求。新增项会加入softmax分母，旧项份额可以同时下降；要求保持的是旧两项之间的相对赔率与排序。新项也可以成为赢家。这是候选选择的一种一致性约束，不能误读成模型必须无视所有新增选项。
教学例子：甲乙原为2比1，加入丙后可变成0.4和0.2；份额变了，但甲乙仍为2比1。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Novelty Patching离线使用匹配长度作标签，线上为什么只查前两个byte？
Patch where the text is new: a compression view of where byte-level models should spend compute
问答新增：2026-10-27 · Independent Researcher, Chile
展开答案与例子
答案：较长的近期重复匹配用于训练新颖度目标，在线则用由历史前缀字节索引的统计表预测边界。它把昂贵或涉及待处理片段的标签构造与部署决策分开；低计数情况还要按规则回退。不能把离线可计算的真实匹配长度直接当作推理时已知的未来信息。
教学例子：训练时可回看一段字节是否复用了近期模板；生成时尚不知道后面的完整片段，只能由已生成的前两个字节查统计预期，决定是否开启新patch。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
两字节组合出现太少时，Novelty Patching 怎样避免不可靠估计？
Patch where the text is new: a compression view of where byte-level models should spend compute
问答新增：2026-10-27 · Independent Researcher, Chile
展开答案与例子
答案：文档按计数阈值回退：不足20次先用一字节均值，再用全局均值；阈值τ也只在训练字节校准。文档边界应重置历史，不能把前一文档末尾当成新文档前缀。
教学例子：一个两字节键只出现一次时，不应让这次偶然匹配独自决定线上边界。
依据：核心公式、数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Novelty Patching 的两字节表，与在线重新计算未来匹配长度有什么根本区别？
Patch where the text is new: a compression view of where byte-level models should spend compute
问答新增：2026-10-27 · Independent Researcher, Chile
展开答案与例子
答案：未来匹配标签只能离线从训练文本构造；在线表只使用已生成的前两字节及冻结阈值。直接在线查看当前位置之后的匹配长度，会把不可见未来用进边界决策。
教学例子：生成下一字节前不能先查看后16字节是否曾在历史中出现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Novelty Patching 为什么用近期重复程度来决定 byte patch？
Patch where the text is new: a compression view of where byte-level models should spend compute
问答新增：2026-10-27 · Independent Researcher, Chile
展开答案与例子
答案：byte模型通过patch减少全局调用。方法把近期可匹配长度视作重复性信号，尝试用便宜的两字节表预测新颖程度，替代每步依赖纯熵边界。
教学例子：刚出现过的连续片段较容易复用，新的片段可能需要更细的边界。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
Muon同样步数下更低loss，为什么仍不足以宣布同算力或同调参成本更优？
When Does Muon Actually Win? A Paired Data-, Time-, and Tuning-Budget Benchmark
问答新增：2026-10-27 · 论文未列一作机构
展开答案与例子
答案：每步耗时、数据吞吐和调参开销可能不同。配对基准固定初始化、数据顺序与候选池，分别按已处理数据、实际训练时间和冻结调参预算比较；参数只在开发阶段选择，测试冻结后读取。相同步数只是一个横轴，不能代替另外两种成本口径。
教学例子：A每步进步更大但耗时翻倍，100步更好不代表十分钟内更好；若又为时间指标单独重挑A的最佳配置，就混入了额外调参优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
做配对 bootstrap 时，为什么两种优化器必须抽同一组 seed 索引？
When Does Muon Actually Win? A Paired Data-, Time-, and Tuning-Budget Benchmark
问答新增：2026-10-27 · 论文未列一作机构
展开答案与例子
答案：配对比较依赖同seed的初始化和数据顺序对应，错配会破坏相关结构。AUC还必须在共同测量域积分，配置先按开发validation冻结，不能为时间口径重新挑最优配置。
教学例子：抽到seed42时，两种优化器都取seed42的轨迹，而非另一边随机取seed44。
依据：核心公式、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
冻结候选池的随机访问 regret，为什么不是前瞻自适应 HPO 的成绩？
When Does Muon Actually Win? A Paired Data-, Time-, and Tuning-Budget Benchmark
问答新增：2026-10-27 · 论文未列一作机构
展开答案与例子
答案：它在预先固定的候选集合上分析随机访问顺序，衡量有限候选预算的损失；自适应HPO会依据前面结果产生或选择新候选。两者的决策信息与时间成本不同。
教学例子：随机翻看既有23个配置，与运行中根据反馈提出第24个配置，不是同一种搜索。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Muon paired-budget 为什么把数据、训练时间和调参成本分开报告？
When Does Muon Actually Win? A Paired Data-, Time-, and Tuning-Budget Benchmark
问答新增：2026-10-27 · 论文未列一作机构
展开答案与例子
答案：每步质量、每秒质量与找到好参数的难度是不同问题。同一优化器可能在等数据下更好、等时间下更差，协议因此分别对齐这些预算，不把一种优势外推到所有口径。
教学例子：处理同样token更低loss，但每步慢很多，固定一小时内未必更优。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
MJev-Spatial为什么复用最终注意力的Q/K读候选，而不另接一个普通分类头？
MJev-Spatial: System One Spatial Intelligence via Native Attention Matching
问答新增：2026-10-27 · 未注明（论文未列一作机构；公开发布主体为 MindLab）
展开答案与例子
答案：决策标记提供查询，候选结束标记提供键，利用骨干原生注意力投影形成候选分数；这使选项、分桶数值与区域选择共享一种读出方式。位置编码和分组查询映射不能随意省略。连续点还需逐级选区并从原图裁剪，候选分类本身不直接保证空间精度。
教学例子：例如先从九个大区域选一个，再从原图裁出该区域继续细分；若总在上次缩放图上再裁剪，坐标和细节协议就改变了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
多阶段空间任务的损失为什么先在同一原问题内平均？
MJev-Spatial: System One Spatial Intelligence via Native Attention Matching
问答新增：2026-10-27 · 未注明（论文未列一作机构；公开发布主体为 MindLab）
展开答案与例子
答案：否则细化阶段多的问题会比单阶段问题贡献更多训练权重。先对各阶段交叉熵平均，再按原问题平均，才能保持规定的问题级权重。
教学例子：例如定位做三次选择，不能就默认让它比一次选择的题重要三倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
MJev-Spatial把计数分两级读出，与用一个类别表示每个整数有什么不同？
MJev-Spatial: System One Spatial Intelligence via Native Attention Matching
问答新增：2026-10-27 · 未注明（论文未列一作机构；公开发布主体为 MindLab）
展开答案与例子
答案：分级读出用两个较小候选集合组合出计数，原协议是32a₁+a₂，覆盖0到1023；一个大分类头则直接为每个整数设类别。前者复用了有限候选接口，但前一级错误会影响最终数值，不能仅凭输出空间相同认定两者训练等价。
教学例子：教学用a₁=2、a₂=3表示67；这两个阶段必须按各自位值组合，不能把它们当两个独立计数相加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
MJev-Spatial如何用分类表达二维点？
MJev-Spatial: System One Spatial Intelligence via Native Attention Matching
问答新增：2026-10-27 · 未注明（论文未列一作机构；公开发布主体为 MindLab）
展开答案与例子
答案：把图像划为候选区域，逐级选择更细区域来定位；计数等连续量也可通过分桶或多级读出表示。因此输出仍是类型化选择，而不是自由解析坐标文本。
教学例子：例如先选右上大格，再在该区域的九宫格继续细化，逐步确定目标位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
MirrorMoE用镜像概率选专家，最终输出也要用这份混合概率加权吗？
Rethinking Routing Exploration in Modern Mixture-of-Experts
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：不应把选择与输出权重混为一谈。方法把原路由与反向logit产生的镜像概率混合，用于探索选择；被选路由专家的输出仍按原概率加权，并随训练逐步退出镜像探索。负载统计也区分实际派发和原概率。改成用混合概率输出或随意重归一化会改变论文机制。
教学例子：某专家原概率较小，镜像选择让它偶尔被执行；这不代表它的输出权重也突然变大。获得训练曝光和主导最终输出是两件事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
MirrorMoE 的负载项应统计混合概率 p，还是原概率 ξ 与实际派发频率？
Rethinking Routing Exploration in Modern Mixture-of-Experts
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：文档使用实际选中频率与原正向概率ξ，不用混合概率p替代。输出也按原概率聚合且Z=1，不对选中权重重归一化；这三处需分别核对，不能把选择分布一路复用。
教学例子：镜像分布改变某专家是否入选，但它入选后的聚合权重仍来自ξ。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
MirrorMoE 的镜像选择，与往 router logits 随便加噪声有什么不同？
Rethinking Routing Exploration in Modern Mixture-of-Experts
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：镜像分布由原logits取负后的softmax构造，与正向分布按退火系数混合；它有明确的选择规则和恢复普通路由的终点。任意噪声不保证相同分布或退火行为。
教学例子：ρ降到0时，选专家应恢复原正向top-k，而不是继续受随机扰动影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
MirrorMoE 为什么希望边界外专家在训练早期也被选择？
Rethinking Routing Exploration in Modern Mixture-of-Experts
问答新增：2026-10-27 · ETH Zurich
展开答案与例子
答案：共享专家占较多输出、细粒度专家组合增多时，普通路由可能难以充分区分组合。镜像选择暂时抑制部分原高分专家，让其它组合获得机会，再随训练退火回普通路由。
教学例子：早期不总让同几个高分专家包办，使替代组合有被实际训练的机会。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
LCT压缩指数时，罕见符号或stream超预算为什么也不能丢掉？
LCT: Losslessly Compressed Tensors with GPU friendly execution for Training
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：目标是逐bit可还原，因此罕见指数使用escape加原始符号，流预算耗尽后的剩余项进入原始指数尾。sign与fraction部分单独保留，固定码表避免反复学习编码。它是在可压缩部分和回退路径之间组织存储，而不是通过舍弃低概率值变成有损量化。
教学例子：常见指数用短码，遇到罕见指数先写escape再写原8位；即使压缩流满了，余下指数仍原样保存，不能为了达到目标大小就把它们改成零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
LCT 的 round-trip 为什么要比较原始 bits，而不只比较浮点数值？
LCT: Losslessly Compressed Tensors with GPU friendly execution for Training
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：有符号零、subnormal、Inf及NaN payload都属于无损格式应保留的信息，普通数值比较可能遗漏或不适用。还需测试全部指数、不同中心和预算溢出路径。
教学例子：+0与-0数值比较相等，但其符号位不同，逐bit验收才能发现丢失。
依据：核心公式、数据协议与运行；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
LCT 的专用有界指数编码，与直接用 zlib 压缩张量有什么区别？
LCT: Losslessly Compressed Tensors with GPU friendly execution for Training
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：LCT定义固定码表、最大码长、escape和stream预算及原始overflow尾，适合反复编码的格式约束；通用压缩不会自动实现同样的数据布局。任何方案都需把码表与metadata计入总字节。
教学例子：payload变小，但加上独立码表和索引后总大小仍可能膨胀。
依据：背景与主要改动、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
LCT 为什么把浮点指数与 sign/mantissa 分开存储？
LCT: Losslessly Compressed Tensors with GPU friendly execution for Training
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：指数分布常更集中，适合重复编码；sign/fraction位则保持原样。LCT用固定概率模型产生有界短码，再处理运行时中心变化，以无损还原为约束，而非丢掉低频位。
教学例子：很多数值共享相近指数时，可压缩指数部分，同时不改动原来的小数位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
LangDiT为什么只detach似然shortcut中的显式码本，而不把带噪输入整体detach？
Designing Transformers for Continuous Diffusion Language Models
问答新增：2026-10-27 · Dots Studio, Xiaohongshu
展开答案与例子
答案：显式shortcut与输入构造共享码本，切断前者可控制该路径的梯度，码本仍应通过带噪输入路径学习；整体detach会错误阻断这条训练关系。训练期自条件用熵衰减不可靠反馈，推理却使用未加权后验均值，不能把训练门控直接搬到采样器。
教学例子：例如同一张词向量表既生成带噪输入又参与快捷打分，只冻结快捷乘法的一侧；把输入也冻结，会让本来应学习的码本通路消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
LangDiT 校准 aψ 为什么既要初始化为1，又限制到[0.5,2]？
Designing Transformers for Continuous Diffusion Language Models
问答新增：2026-10-27 · Dots Studio, Xiaohongshu
展开答案与例子
答案：初始化为1保留初始shortcut尺度，有界指数校准避免无约束放大或缩小；文档还保留前5000步warmup。实现应检查实际范围与梯度路径，不能换成无界任意系数后称相同配置。
教学例子：校准网络输出很大时仍须被clip限制，而不是令shortcut压过整个词表head。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
LangDiT 的训练 entropy gate，与推理后验均值应使用同样权重吗？
Designing Transformers for Continuous Diffusion Language Models
问答新增：2026-10-27 · Dots Studio, Xiaohongshu
展开答案与例子
答案：文档训练bootstrap按置信度衰减并stop-gradient，推理使用未加权后验均值pC，不额外bootstrap。训练启发式不是更优后验估计保证，不能直接移到推理阶段。
教学例子：训练时低置信反馈被减弱，不代表推理时也把同样的概率质量再次打折。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
LangDiT 为什么在连续 noisy embedding 之外增加 likelihood shortcut？
Designing Transformers for Continuous Diffusion Language Models
问答新增：2026-10-27 · Dots Studio, Xiaohongshu
展开答案与例子
答案：它用码本与带噪状态的关系补充词表后验，并配合噪声条件backbone和有界校准。离散恢复不只依赖一个普通输出head，梯度路由与训练自条件也需对应具体分支。
教学例子：噪声较低时，当前状态接近哪些词的码本向量，可作为恢复token的一条额外线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
LAMP 为什么在类别分数空间混合多层预测，而不先把各层特征拼起来？
LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
问答新增：2026-10-27 · Taizhou Institute of Science and Technology, Nanjing University of Science and Technology
展开答案与例子
答案：各层特征的维度与相似性结构不一致，强行统一会引入额外投影假设。LAMP 让每个分支根据支持集拟合相对 CLIP 先验的残差，再在共同的类别分数空间加权；若文本原型变化，残差也需同步更新，否则适配的是过时的错误方向。
教学例子：例如浅层分支擅长纹理、深层擅长语义，二者都先给猫犬打分，再混合两份分数而非生硬拼接向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
LAMP-F 更新文本原型时，为什么 cached response 要随之修正？
LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
问答新增：2026-10-27 · Taizhou Institute of Science and Technology, Nanjing University of Science and Technology
展开答案与例子
答案：原型更新同时影响 query 的先验分数与 support 的残差。缓存的线性响应刻画核解对原型变化的影响，可精确更新结果而不重新完整求解；只改 query 先验、沿用旧支持残差会遗漏一项。核统计与混合权重在该阶段保持冻结。
教学例子：例如文本原型向猫图方向移动，支持猫图的先验也上升，其待补残差应减小；若只提高查询分数就会重复补偿。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
LAMP用support bank校准区域核，与把待评query一起放进均值统计有何区别？
LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
问答新增：2026-10-27 · Taizhou Institute of Science and Technology, Nanjing University of Science and Technology
展开答案与例子
答案：校准中的m(x)和b都以支持集为统计基准，query只按这套固定基准计算核值。把待评query或测试批混入统计，会让同一查询的结果依赖同时评估哪些样本，改变原合同；它也不能借此读取测试标签选择混合权重。
教学例子：固定支持集后单独评甲与批量评甲乙，甲应沿用同一校准基准；不能因为乙加入而重定义支持集均值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
LAMP 所拟合的标签残差是相对什么计算的？
LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
问答新增：2026-10-27 · Taizhou Institute of Science and Technology, Nanjing University of Science and Technology
展开答案与例子
答案：残差是支持集真实类别标签减去原始 CLIP 文本原型给出的类别分数。各层核预测器学习纠正这个已有先验，而非从零重复学习全部类别；因此先验原型改变后，支持集残差也应随之改变，否则修正项与被修正对象不再一致。
教学例子：例如某支持图的真实类别向量为猫，但 CLIP 给猫的分数偏低，核分支学习的是补足这一差额，而非再训练图像编码器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
CUDA代码转成HIP后能运行，为什么还不能认为跨硬件性能已经迁移？
Architecting for Hardware Diversity: Meta's End-to-End Co-Design for High-Performance AI Training on AMD GPUs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：接口兼容只解决能否执行；计算单元、内存层次、tile形状与并行策略会改变实际瓶颈。该研究联合模型、内存、并行与内核选型，并用分析模型估计计算、访存和尾部空转。硬件常数与最佳配置依设备而变，不能把一张卡的选型结果直接搬到另一张卡当作已测加速。
教学例子：同一个GEMM tile在一类设备上充分占满计算单元，换设备后却可能受共享内存或尾部工作量限制；成功编译并不会自动修复这种布局不匹配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
只有一张 A100/A30，能等价复跑报告的 MI350X/B200 生产系统吗？
Architecting for Hardware Diversity: Meta's End-to-End Co-Design for High-Performance AI Training on AMD GPUs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：不能。文档原配置依赖相应集群和私有工作负载，本轮仅收录和成本审查，明确不复现。若实现某个公开算子，应重新规定该算子的硬件与验收，不把它当完整生产系统。
教学例子：在A100上跑一个小GEMM，不足以验证另一硬件集群的端到端训练吞吐。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
分析模型预测的 tile 周期，与真实端到端吞吐包含的信息相同吗？
Architecting for Hardware Diversity: Meta's End-to-End Co-Design for High-Performance AI Training on AMD GPUs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：分析模型估算计算、分层访存、流水线和尾部空转；端到端测量还取决于实际系统与工作负载。硬件常数不能跨设备照搬，局部tile最优也不自动等于整个训练最优。
教学例子：某tile的矩阵乘更快，可能仍被同步或其它阶段耗时抵消。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Meta/AMD 硬件多样性报告为什么被归为系统协同设计？
Architecting for Hardware Diversity: Meta's End-to-End Co-Design for High-Performance AI Training on AMD GPUs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：它以推荐训练为案例同时调整模型、并行、内存策略、GEMM配置和内核移植，并非只提出一个新的推荐网络。性能来自整条系统链路的匹配，而非CUDA转成HIP这一件事。
教学例子：算子可以编译，并不说明其tile、访存和并行布局适合目标设备。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
使用视频生成器做四维感知时，为什么不必执行完整多步去噪？
Gen4P: Video Generators are 4D Perceivers
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：Gen4P 利用预训练 DiT 内部的运动与几何表示，而不是要求它重新生成视频。干净视频潜变量经过一次规定条件的编码，查询再读出轨迹或深度；冻结几何适配与新任务 LoRA 承担不同职责。少一次生成过程并不意味着感知任务无需监督或解码器。
教学例子：例如输入现有视频后查询某点三秒后的三维位置，读取一次场景表示即可训练预测头，不需要先生成另一段完整视频。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
连续时间查询与 DiT 输入条件有哪些容易混淆的细节？
Gen4P: Video Generators are 4D Perceivers
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：时间查询用起终点 embedding 按 t/(T-1) 连续插值，DiT 则读取干净 z0，使用最终 scheduler 时间条件和空文本条件。不能把查询时间当作扩散加噪时刻，也不能改成迭代去噪。当前只有资料收录，无本地 adapter 或 4D 能力验证。
教学例子：例如查询视频中间时刻使用两个时间端点的插值，并不是给该帧加一半噪声再让生成器恢复。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
冻结 depth-LoRA 与训练 4D-LoRA 的分工，为什么不同于全参数微调？
Gen4P: Video Generators are 4D Perceivers
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：基础 DiT 和深度 LoRA 保持冻结，新增 4D-LoRA、查询与输出解码器承担感知任务适配，分别保留生成和深度先验。全参数微调会允许更广泛改变这些表示；双 LoRA 也并非每项指标必然改善，原文保留了深度结果下降的例子。
教学例子：例如新任务需要追踪点的时间轨迹，可更新 4D 适配而不改已有深度更新，但仍要检查是否改善实际深度与追踪。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
Gen4P 为什么尝试把视频生成模型的知识用于三维和四维感知？
Gen4P: Video Generators are 4D Perceivers
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：视频生成预训练需要理解外观、运动和部分几何结构，这些先验可能帮助估计深度、轨迹和相机，而不必只服务像素生成。Gen4P 从干净视频提取场景表示，再按查询输出所需属性。利用生成器不等于必须生成整段视频，感知预测仍需对应几何真值或任务验证。
教学例子：教学例：输入一段移动镜头视频，用户需要的是某点的三维轨迹而非一段新视频；模型应把已有运动先验转为可查询感知结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
FPoT部署用1.5近似平方根2，为什么校准阶段也要使用这份实际网格？
Fractional Power-of-Two Quantization for Efficient and Effective Multiplier-Free LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：若先按精确半指数网格量化，部署再换近似系数，会引入校准未优化的额外误差。FPoT让尺度与相位选择适配真实移位加法网格，奇指数项由移位与加法实现。整数右移还有舍入细节，不能把它与实数乘1.5处处视为精确相同；激活与KV格式也有独立约定。
教学例子：一个权重被精确网格选到平方根2倍尺度，执行时却变成1.5倍；如果校准早知道会用1.5，就可重新选择尺度或码点，减少这次后置替换造成的偏差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
FPoT 非零幅值码 m 为什么必须先减1再提取奇偶和移位？
Fractional Power-of-Two Quantization for Efficient and Effective Multiplier-Free LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：零码单独保留，非零码定义m=e+1；执行端需恢复e=m-1。漏掉这一步会整体改变指数和奇偶分支；奇数有符号整数的右移还含舍入，不能无条件等同实数乘1.5。
教学例子：幅值码1对应e=0，应表示基本档，而不是直接按奇指数档执行。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
FPoT 的权重网格，与其激活和 KV 量化使用同一种格式吗？
Fractional Power-of-Two Quantization for Efficient and Effective Multiplier-Free LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：不是。文档权重采用半八度网格，激活与KV仍用uniform INT；不同对象的格式和执行代价需分别记录。不能把整个模型都标成FPoT网格后跳过激活处理。
教学例子：权重可用移位加法表达，但输入激活的整数缩放仍有自己的规则。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
FPoT 为什么在 power-of-two 网格之间再插入半八度？
Fractional Power-of-Two Quantization for Efficient and Effective Multiplier-Free LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：纯2的幂网格较粗；半指数间隔提高4-bit权重的取值密度，同时以奇指数1.5近似支持移位加法。它在误差与硬件执行之间折中，而非采用任意浮点网格。
教学例子：在1与2之间增加近似1.5这一档，可比只在1和2中选择更细。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么分段蒸馏必须让各教师评价同一批学生 tokens？
EgoP²C: Internalizing Plan-Perceive-Compose for Spatial Reasoning in Egocentric Video
问答新增：2026-10-27 · Arizona State University
展开答案与例子
答案：学生实际生成的交互决定了它访问的前缀，各角色教师在这些前缀上评分，才能分别指出规划、感知或直接回答的偏差。若改成模仿教师另写的一条答案，就丢失在策略监督；共享视频 KV 还不能混入角色私有历史，以免破坏信息隔离。
教学例子：例如学生先提出一个视角问题，再给出空间判断；规划教师评前段、感知教师评相关片段，二者都评学生真正走过的文本。
依据：背景与主要改动、核心公式与信息边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
角色长度归一化的分母为何必须覆盖整条轨迹？
EgoP²C: Internalizing Plan-Perceive-Compose for Spatial Reasoning in Egocentric Video
问答新增：2026-10-27 · Arizona State University
展开答案与例子
答案：同角色可出现多个片段，分母是该轨迹中该角色所有监督 token 总数，而非每段各平均一次。否则拆成更多短片段就会获得更大角色权重。教师与旧学生 logp 停止梯度，私有 decoder KV 不跨角色复用，本地随机教师诊断不等于空间推理能力。
教学例子：例如 PC 总共十个 token，拆成两段各五个后总权重应不变；若每段独立平均，拆段会把 PC 贡献翻倍。
依据：核心公式与信息边界、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
PC、V 与通用 G 专家的参数，是否都采用相同的训练边界？
EgoP²C: Internalizing Plan-Perceive-Compose for Spatial Reasoning in Egocentric Video
问答新增：2026-10-27 · Arizona State University
展开答案与例子
答案：角色专家从基础 FFN 复制初始化，但 G 的 FFN 始终冻结，G 的 attention residual 到 MOPD 阶段才训练；PC、V 则承担规划与感知的可训练角色路径。不同参数边界维护通用直接回答能力与专门化分工，不能把它简化成三份全参数模型一起更新。
教学例子：教学例：给 G 保留原 FFN 不是完全禁止它的一切适配；attention residual 后续可训练，而底层复制初始化也不等于所有角色共享更新。
依据：背景与主要改动、核心公式与信息边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
第一视角视频空间推理为什么需要同时改进提问规划和感知回答？
EgoP²C: Internalizing Plan-Perceive-Compose for Spatial Reasoning in Egocentric Video
问答新增：2026-10-27 · Arizona State University
展开答案与例子
答案：复杂问题往往要先决定看哪里、问什么，再可靠读取局部证据，规划与感知任何一侧出错都会传给后续组合。EgoP²C 研究让这些角色能共同改进，同时保持各自信息范围。角色分离用于控制训练和交互，不代表感知结果天然可信，最终空间结论仍需验证。
教学例子：教学例：问抽屉相对门的位置，规划者先选视角和子问题，感知者读具体位置；若读错左右，组合推理再流畅也会出错。
依据：背景与主要改动、核心公式与信息边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
DropKV为什么不只按attention权重低就淘汰，还要考虑value与当前输出的差？
DropKV: Decoupling Residual-Output Perturbation for Near-Optimal KV-Cache Eviction
问答新增：2026-10-27 · University at Albany, SUNY
展开答案与例子
答案：删除一项会同时移除它的value贡献并重新归一化其他权重，影响取决于p除以一减p，以及当前聚合输出与该value的差。高权重项若内容与输出接近，未必造成最大扰动；低权重但value特殊也可能重要。方法据单项扰动近似累计决策，近似保证有条件。
教学例子：两个token权重同为0.1，一个value几乎等于当前输出，另一个携带截然不同的信息；删去后者的输出变化可以大得多，权重本身分辨不出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
DropKV 的 p_j 舍入成1时，直接在分母加 epsilon 可以保留原公式吗？
DropKV: Decoupling Residual-Output Perturbation for Near-Optimal KV-Cache Eviction
问答新增：2026-10-27 · University at Albany, SUNY
展开答案与例子
答案：不可以宣称等价。p_j/(1-p_j)此时奇异，本地明确拒绝，避免用ε悄悄改变定义。还需核对近期窗口无穷保护、MaxPool以及GQA到物理KV head的评分均值口径。
教学例子：分母真实为0时用任意ε得到的有限值，只是另一项近似，不是精确单项移除结果。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
精确单项移除公式，能直接保证同时删多项的全局最优吗？
DropKV: Decoupling Residual-Output Perturbation for Near-Optimal KV-Cache Eviction
问答新增：2026-10-27 · University at Albany, SUNY
展开答案与例子
答案：不能。单项扰动是相对当前完整分布计算，多项同时删除会重新归一化并相互作用。文档将组合驱逐近似为逐项评分，理论近似保证也有条件，不可无条件外推。
教学例子：两个可互相补偿的value，单删各自影响小，同时删除却可能改变输出很多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
DropKV 为什么把淘汰问题转换成输出扰动评分？
DropKV: Decoupling Residual-Output Perturbation for Near-Optimal KV-Cache Eviction
问答新增：2026-10-27 · University at Albany, SUNY
展开答案与例子
答案：某项attention权重大小不足以说明删除它后输出怎样改变，还取决于value与当前输出的差。方法估算逐项移除扰动，并跨观察query累计，作为有限预算驱逐依据。
教学例子：一个权重不小的value若与当前输出很接近，删除影响仍可能较小。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
BitSparse为什么可以无损减少激活存储，却不需要额外重跑一次前向？
BitSparse: Compact Activation Storage for ReLU Feed-Forward Networks
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：ReLU家族激活已有精确零，方法只保存非零值、每位置一bit的mask与分块前缀，反向时重建原激活。它利用结构性零而非降低非零值精度，也不靠重新计算补回丢掉的信息。能否节省空间取决于零比例和元数据成本，不能只看到用了bitmask就忽略仍需保存的正值。
教学例子：8个激活中6个为零，可保存8位mask加2个原精度数值；反向按mask把两个数放回原位，不必再次执行生成这些激活的网络。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
为什么 BitSparse 的 mask 不能用每元素一字节 bool 冒充？
BitSparse: Compact Activation Storage for ReLU Feed-Forward Networks
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：文档格式是每位置1 bit，另存tile prefix与正值；bool每元素1 byte会改变空间口径。还需核对padding、零符号和反向公式，例如ReLU²的输入梯度含2H因子。
教学例子：32个位置的bitmask应约4字节，而非32字节布尔数组。
依据：核心公式、数据协议与运行；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
BitSparse 的无损打包，与 activation checkpointing 或低比特量化有什么区别？
BitSparse: Compact Activation Storage for ReLU Feed-Forward Networks
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：checkpointing通常以额外前向重算换存储，量化以数值误差换位宽；BitSparse利用精确零的稀疏性压紧数值并重建。实际节省取决于稀疏度及mask/prefix开销，不等于总训练显存同幅下降。
教学例子：稀疏率很低时，额外索引开销可能抵消一部分压紧收益。
依据：背景与主要改动、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
BitSparse 为什么适合 ReLU 家族产生的大量精确零？
BitSparse: Compact Activation Storage for ReLU Feed-Forward Networks
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：精确零不必逐项保存数值，只需用bitmask记录位置、压紧保存正值，再用tile前缀定位。反向可无损重建需要的激活，不依赖把非零数值近似量化。
教学例子：十个位置只有两个正值时，保存两个值及其位置，而非十份浮点数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
视觉编码器权重被冻结时，反复循环为什么仍可能改变模型看到的内容？
AdaLoop: Thinking with the Vision Encoder
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：冻结权重不等于冻结视觉状态。每轮把更新后的状态送回共享块，并由问题向量调制计算，因此同一组参数可以围绕问题逐步重新组织表示。深度监督约束不同循环的答案，停止规则只能比较已产生预测，不能偷偷依赖正确答案。
教学例子：例如同一幅图先问物体种类、再问遮挡关系，问题调制可让循环关注不同信息；这并非每轮都换一个新编码器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
答案稳定停止能否用 gold 答案判定当前循环已足够？
AdaLoop: Thinking with the Vision Encoder
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：不能。部署停止只比较连续预测答案是否稳定，不能读 gold。训练则对多个深度分别监督，权重为正且总和为一；本地 C 接口还要求外部提供并 detach 草稿 embeddings 和固定 separator，不具备自动生成草稿的完整语言模型。
教学例子：例如连续两轮都预测“三个”可触发稳定规则，即使真值是“四个”；稳定不是正确性的 oracle。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
视觉循环与让语言模型多写几段思考，在计算位置上有何不同？
AdaLoop: Thinking with the Vision Encoder
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：语言思考主要沿文本序列继续推理，视觉 AdaLoop 则把额外计算放在问题条件化的视觉编码路径，并共享块权重。它让视觉状态随问题更新，但是否优于更多语言 token 需匹配训练与预算比较，不能仅凭循环次数推断视觉推理提高。
教学例子：例如数遮挡物体时可再次处理视觉状态，而不是只在原有一次编码结果上继续生成文字；两者消耗的计算位置不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
视觉AdaLoop中，同一张图遇到不同问题，还应使用完全相同的问题调制信号吗？
AdaLoop: Thinking with the Vision Encoder
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：不应。问题池化向量用于生成视觉块的调制量，使图像表示的处理方向与当前问题有关。图片相同不代表取证需求相同；循环只是增加处理机会，能否找到所需细节还需评测，不能把不同问题共享图像误读成所有视觉计算也必须相同。
教学例子：同图问“有几个杯子”与“杯子上写什么”，关注点不同，可产生不同问题条件，而不是机械复用同一调制向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么工具 trie 用 turn 内完整调用前缀，而不是只看上一把工具？
TRACER: Trajectory-Aware Tool Retrieval for LLM Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：同一个上一工具可能出现在不同工作流，完整前缀保留路径身份，下一工具候选才对应真实训练转移。上下文相似度补充当前意图，学习的权重与温度决定如何融合；未知前缀要回退目录检索，不能强行把未见路径套到最相似的旧分支。
教学例子：例如“搜索→下载”与“认证→下载”后续可能分别需要解析与权限检查，只看最后一个下载工具会混淆两种路线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
crossfit 为什么必须排除目标 trajectory 整折，而不只遮当前标签？
TRACER: Trajectory-Aware Tool Retrieval for LLM Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：同一轨迹其他步骤会影响 trie 和边上下文均值，只遮标签仍可泄露该轨迹结构。每步信号需由不含整折的索引产生，standardizer 也只拟合训练折；本地合成向量 head 真训练不等于真实工具任务的选择能力。
教学例子：例如目标工具未直接进 loss 输入，但若其转移已在全索引里计数，仍会让训练样本看见自己的答案路径。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
经验频率与上下文先验为什么要用可学习权重而非固定相加？
TRACER: Trajectory-Aware Tool Retrieval for LLM Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：高频工具不一定适合当前语境，语义相近转移也可能样本稀少。两个线性 head 按五维状态特征决定混合权重和温度，温度影响置信 gate 而不改变排序；学习仍依赖校准和训练覆盖，不是从频率直接得到成功概率。
教学例子：例如某前缀常接工具甲，但当前上下文更像过去接乙的状态，模型可减弱经验频率权重来避免机械复制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
大型工具目录为什么会让 Agent 花很多上下文，却仍选不到正确的下一步？
TRACER: Trajectory-Aware Tool Retrieval for LLM Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：把所有工具说明常驻上下文会带来输入成本，静态 Top-K 又可能遗漏当前流程接下来需要的接口。TRACER 关注从已发生的调用经验与当前上下文中预测可用工具子集，让工具发现适应执行进程。预测只是候选支持，不能替代参数验证或真实调用成功。
教学例子：教学例：完成身份查询后更可能需要读取账户记录，而不是再看整套上千工具目录；若用户转而取消任务，当前上下文也应改变推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么把失败记作“首个未满足义务”，不等于已经完成因果归因？
ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets
问答新增：2026-10-27 · University of Osaka
展开答案与例子
答案：义务顺序提供一致标签，但后面还可能有其他失败，首个检查项未通过并不能证明它是唯一根因。固定请求事实再操纵目录、菜单、工作流和返回状态才能研究压力影响；真值辅助 routed menu 属诊断条件，不能被当无需 oracle 的部署能力。
教学例子：例如工具没检索到先标可用性失败，参数逻辑也许同样错误；修复第一项后才可能暴露第二项，标签顺序不是因果证明。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
目录压力 ITT 中，未检索到工具或基础设施失败的请求能从分母删除吗？
ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets
问答新增：2026-10-27 · University of Osaka
展开答案与例子
答案：不能。计划分母应保留这些失败，否则只在可用请求上算选择率会虚高。还需区分首个未满足义务标签和另列的终止原因，二者都不能自动充当因果归因。
教学例子：100次计划只有80次取得候选菜单，应在完整100次口径里报告结果。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
原协议真值辅助的 routed menu，与无需 oracle 的生产路由器有什么差别？
ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets
问答新增：2026-10-27 · University of Osaka
展开答案与例子
答案：真值辅助缩窄菜单属于受控评测条件，不证明实际系统能自动找到同样菜单。它可用来定位瓶颈，但不能当成已经实现的无oracle能力方案。
教学例子：预先知道正确工具再只展示它，与部署时从大目录自主检索正确工具不同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
ToolBottleneckBench 为什么控制工具目录、菜单、工作流与返回编码？
ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets
问答新增：2026-10-27 · University of Osaka
展开答案与例子
答案：工具Agent失败可能来自系统接口与预算交互，而非单纯模型能力。固定任务事实和决策后分别操纵R/V/W/D，才能更清楚观察哪类压力与结果相关。
教学例子：模型相同，但可见菜单更长可能增加选择成本，不能直接归因于模型推理变差。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
TB-GAE 为什么按交互 turn 衰减，而不是按 observation 文本长度衰减？
Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine
问答新增：2026-10-27 · Tencent Hy Frontier / National University of Singapore
展开答案与例子
答案：工具输出长度并不对应额外决策时间，若把长 observation 当很多递推节点，早期动作的信用会被无意义地过度衰减。方法仅在生成 token 上递推，同 turn 不衰减、跨 turn 才用折扣；分块续接还需 value 和 advantage，计算切块不是环境终止。
教学例子：例如两次执行结果相同，一份日志十行、一份千行，不应仅因冗长日志就把之前动作的奖励信用压低更多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
分 chunk 计算 GAE 时，为什么只传 value bootstrap 不够？
Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine
问答新增：2026-10-27 · Tencent Hy Frontier / National University of Singapore
展开答案与例子
答案：计算分块不是环境终止，需同时传下一 value 与下一 advantage 才保留尾部 trace，终末奖励只发一次。observation 不作为递推节点；本地只有数值算子，无 actor/critic、RSR 或真实终端训练，unit-clock 等价也不证明 TB-GAE 已在线部署。
教学例子：例如在第十一个生成 token 切块后把尾部 advantage 清零，会丢失后续奖励向前传播，即使 value 接对也不等价。
依据：核心公式、本地复现、代码映射、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
SPR 与单纯部分得分 FDR 为什么有不同排序边界？
Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine
问答新增：2026-10-27 · Tencent Hy Frontier / National University of Singapore
展开答案与例子
答案：FDR 按 family divisor 缩放部分分且无固定上界，失败高部分分可超成功；SPR 加严格成功并将部分分压到一以内，确保失败低于严格成功。这个排序性质不是策略梯度方差或势函数不变证明，也不能将原文整套训练收益归给此公式。
教学例子：例如未完成任务部分分很高，FDR 可能超过一；SPR 仍把它放在任何严格成功的最低分之下。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
终端 Agent 的长任务为什么给强化学习带来比单轮回答更难的反馈问题？
Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine
问答新增：2026-10-27 · Tencent Hy Frontier / National University of Singapore
展开答案与例子
答案：终端任务包含命令、长观察和多轮状态变化，成功往往到最后才确定，早期动作贡献难分配；失败也可能离完成只差一步。Terminal RSI 研究在这种交互结构中组织奖励和优势，支持持续训练。部分进展不等于完成，观察文本长度也不能直接代表真实交互时间。
教学例子：教学例：Agent 已修好代码却未运行最后测试，终局只有失败会掩盖此前有效动作；训练需要利用进度，同时保持完成标准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
SSR 为什么在无词法命中时返回空池，而不声称找到了语义相近 Agent？
SSR: Structural Signal Retriever for Scalable Agent Discovery in LLM-Orchestrated Multi-Agent Systems
问答新增：2026-10-27 · State University of Campinas
展开答案与例子
答案：它的 structural 信号来自明确字段中的词与相邻词组，IDF 得分不包含未匹配语义。倒排索引只省去零分候选的枚举，保持同一词法正分排序；无命中就应暴露信息不足，不能把任意回退结果包装成这套机制提供的语义理解。
教学例子：例如注册卡只写“invoice”，查询用一个没有共享词的表达可能返回空池；系统应知道是词法覆盖不足，而非假装已理解同义关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
重复词、64 信号上限与 empty_pool 有哪些实现要求？
SSR: Structural Signal Retriever for Scalable Agent Discovery in LLM-Orchestrated Multi-Agent Systems
问答新增：2026-10-27 · State University of Campinas
展开答案与例子
答案：信号二元去重，词频只影响超限时 unigram 截断，不能重复加权；再按固定规则补 bigram。无命中返回空池，不调用 provider 造答案；API 失败与非法索引保留为失败，当前本地无真实 LLM，不能把接口 fixture 当编排成功率。
教学例子：例如 card 把“search”重复十次不会获得十倍分，查询完全无词法命中时也不能静默切成全目录语义检索。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
倒排 SSR 与穷举同一 IDF 分数为什么可以保持正分排序一致？
SSR: Structural Signal Retriever for Scalable Agent Discovery in LLM-Orchestrated Multi-Agent Systems
问答新增：2026-10-27 · State University of Campinas
展开答案与例子
答案：所有 IDF 为正，倒排并集恰好收集与查询至少共享一信号的 card，零分项被排除；候选仍按相同分数、匹配数和 ID 打平排序。因此加速来自省去零交集打分，不是换了语义目标；无命中应返回空池。
教学例子：例如一千张 card 只有十张共享查询词，只对这十张打分仍与全量扫描的正分结果相同，不需要伪造后备选项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
SSR 为什么要先解决大目录里“该找哪个 Agent”的发现问题？
SSR: Structural Signal Retriever for Scalable Agent Discovery in LLM-Orchestrated Multi-Agent Systems
问答新增：2026-10-27 · State University of Campinas
展开答案与例子
答案：多个 Agent 各有能力描述，若每次全部送入模型会增加选择成本。SSR 用公开描述中的离散词信号构造倒排检索，先形成候选池再交给后续决策。它提供可解释的字面匹配，不能理解没有共同信号的改写，因此无命中时应承认空池，而非伪称语义召回。
教学例子：教学例：任务含“发票”，能力描述也出现该信号时可建立候选；目录只写另一种无重叠术语时，SSR 可能确实找不到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
工具名能预测标签，为什么还不能断言 guard 使用了这个捷径？
Shortcut Sensitivity in Agent-Safety Evaluations
问答新增：2026-10-27 · Kontext
展开答案与例子
答案：第一层只说明数据构造存在相关线索，第二层检查 guard 决策相关性，第三层保持其余条件只改线索，才更接近行为依赖证据。配对效应还需控制随机不一致与安慰剂，不能把相关性、无符号翻转率和有符号效应混成同一结论。
教学例子：例如危险样本常用某工具名，只训练名字查表能高分；要证明 guard 走捷径，还需改名不改行为并观察其决策是否改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
等 interaction 权重的 F1，为什么不能先算各 interaction 的 F1 再平均？
Shortcut Sensitivity in Agent-Safety Evaluations
问答新增：2026-10-27 · Kontext
展开答案与例子
答案：文档先给每步1/n_g权重，累加加权TP/TN/FP/FN再算F1；F1是非线性比值，平均各组F1是另一口径。配对signed effect也不能替换成unsigned flip-rate。
教学例子：长交互不能仅因步骤多就在混淆矩阵里占更多总权重。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
线索能预测标签、关联 guard 决策、配对干预效应，三者可直接互相推出吗？
Shortcut Sensitivity in Agent-Safety Evaluations
问答新增：2026-10-27 · Kontext
展开答案与例子
答案：不能。前两项提示进一步测试目标，配对干预还需只改变线索而保持风险构念，并控制随机guard和格式安慰剂。相关性不足以断言模型实际使用了捷径。
教学例子：一个工具名与unsafe相关，但删掉名字后guard决策不变，证据仍不足以说它靠该名字判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
Shortcut Sensitivity 为什么先检查评测输入里的构造线索？
Shortcut Sensitivity in Agent-Safety Evaluations
问答新增：2026-10-27 · Kontext
展开答案与例子
答案：工具名、长度、来源标记和重复交互可能带来可预测标签的捷径，使高分未必体现真正风险判断。研究分开审计标签可预测性、guard关联及构念保持的配对干预。
教学例子：某工具名总出现在unsafe样本里，模型可能仅靠名字取得好成绩。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么交换选项位置后要重开独立会话，并按 case 而非两次回答重采样？
SciPIvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents
问答新增：2026-10-27 · University of Maryland, College Park / The Chinese University of Hong Kong（PDF上标已核）
展开答案与例子
答案：位置交换用于检查选择是否稳定，独立会话避免第一次回答污染第二次；两种顺序仍来自同一项目决策，不能当成两个独立样本。被测模型只能看纠偏前状态，后续记录可用于构建参考，却不能作为输入，更不能暴露哪项来自人类或原 LLM。
教学例子：例如同一计划甲乙分别放 A/B 和 B/A，若在同一会话里连问，模型可能记住先前选择而非重新判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
SciPIvot 的原 questions 文件为什么不能直接挂给被测 Agent？
SciPIvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents
问答新增：2026-10-27 · University of Maryland, College Park / The Chinese University of Hong Kong（PDF上标已核）
展开答案与例子
答案：官方源含references，可信ingestion需按allowlist导出仅id与两个选项，grader私有参考另存。模型会话彼此独立，不能读取仓库或未来记录绕过options-only边界。
教学例子：把完整questions.json作为上下文，即使提示“不看reference”也未实现数据隔离。
依据：背景与主要改动、已发布数据与来源；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
交换 options 顺序，与把同 case 的两次回答当两个独立样本有什么区别？
SciPIvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents
问答新增：2026-10-27 · University of Maryland, College Park / The Chinese University of Hong Kong（PDF上标已核）
展开答案与例子
答案：双顺序用于测并抵消位置偏好，但两次仍属于同一case，需先形成case分数再按case重采样。独立计数会夸大样本量并低估相关性。
教学例子：一个case的AB与BA两次判断，不等于两个不同研究决策案例。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
SciPIvot 让模型判断的是研究纠偏选择，还是项目最终能否成功？
SciPIvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents
问答新增：2026-10-27 · University of Maryland, College Park / The Chinese University of Hong Kong（PDF上标已核）
展开答案与例子
答案：它用纠偏前项目状态和两个后续方案，评价哪一个更适当；reference来自后续人类纠偏，但被测模型不能看到未来轨迹或方案来源身份。它不是最终项目成功预测。
教学例子：选择眼下更合理的下一步，并不保证六个月后的整个研究项目一定成功。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
比较候选时为什么必须都从同一个冻结父代出发？
RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：若第一个候选的修改混入第二个，无法把收益归因到所选 Model、Harness 或 Artifacts 干预。统一父代和任务批提供配对基线，仅有效且严格提升者接受，失败后仍从原父代再试；技能可来自训练经验，报告集分数不能反向泄漏给维护过程。
教学例子：例如先改 prompt 后又换模型，应分别对同一父配置评估，不能把第二次累计收益全算给模型替换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
可信 callback 的 CPU 控制器是否能说明完整 RSIFlow 已集成 Evolve？
RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：不能。当前 callback 与结构证据验证父代保护、paired 接纳、失败保存和训练报告隔离，没有内置 LLM、任意程序执行或六 benchmark 训练。声明修改作用域与数值 fixture 高分不能替代真实候选执行及晋级评估，进程内接口也不是恶意代码沙箱。
教学例子：例如 scalar proposer 改一个数值并涨分，只证明控制器分支可达，不代表真实模型参数或 harness 已按论文更新。
依据：核心公式、本地复现、代码映射、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
Model、Harness 与 Artifacts 干预，各改变后续执行的哪一层？
RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：Model 干预针对模型，Harness 改变执行组织，Artifacts 作用于交付物；它们的作用域和可继承状态不同。比较时要明确候选到底改了什么，不能把一次文件修正宣传为策略普遍学会，也不能让越界改动混入既定分支。当前本地是可信 callback 与技能记忆变体。
教学例子：教学例：修一份输出报告只改变该产物；修改每次都执行的检查流程，才可能影响下一任务，但仍须验证其迁移效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
自动研究失败时，RSIFlow 为什么先判断瓶颈来自哪一类对象？
RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：效果不足可能来自模型本身、执行流程，也可能只是当前产物存在缺陷，固定只改提示或一律重训会错配资源。RSIFlow 用执行证据选择干预对象，让改进与失败原因相联系。诊断和候选都需要实际验证，不能把选择了某个分支当成该类瓶颈已被解决。
教学例子：教学例：结果文件格式错可修产物，工具流程总是漏验证可改 harness；二者并不都需要重新训练模型权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
相关记忆已经检索出来，为什么主动助理还需要独立的干预 gate？
MemoProAgent: Toward Memory-Driven Proactive Assistance
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：相关性只说明话题相近，不说明现在值得打断用户。gate 判断证据是否构成合适干预，生成器再结合当前画面与已说过的话选择发言或静默；时机和次数都是目标的一部分，迟到或重复提醒不能因为内容正确就算完美成功。
教学例子：例如记得用户对坚果过敏，但只有看到相关食品且尚未提醒时才有介入理由；反复播放同一句警告会造成错误触发。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
PPR 检索和语义 gate 能否用同一个 open-loop 标志代替？
MemoProAgent: Toward Memory-Driven Proactive Assistance
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：不能。PPR 是基于实体关联的实际重启随机游走，gate 判断这些证据是否值得干预，二者功能不同。训练只优化生成器 token，工具注入证据不参与策略梯度；本地 fixture 不等于授权长期视频数据上的官方评测，不能用标志直接给出应说答案。
教学例子：例如图上找到“杯子—饮水习惯”关系后，gate 仍应判断用户是否刚喝过水；检索关系本身不提供发言许可。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
Perfect 与“曾经说对一次”的 Hit 为什么衡量不同能力？
MemoProAgent: Toward Memory-Driven Proactive Assistance
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：Perfect 要求内容正确、处于触发窗口且只说一次，Hit 不能排除提前、迟到或重复打断。静默负片段的任何发言还属于假触发；因此只提高召回可能损害用户体验，不能用内容命中替代完整时机与次数评价。
教学例子：例如先提前提醒、稍后窗口内又提醒一次，可能命中内容，却因重复和时机问题不能算一次完美干预。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
没有用户主动提问时，MemoProAgent 的任务为什么比普通问答多了一步判断？
MemoProAgent: Toward Memory-Driven Proactive Assistance
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：普通问答已有明确请求，主动助理还要决定此刻是否值得打断、提醒什么以及是否已经说过。论文把长期经历与当前视觉情境结合，目标是适时帮助而非尽量多发消息；说对一件事但时机不对或反复提醒，也可能构成失败。
教学例子：例如用户正准备出门时提醒带钥匙可能有用，已经拿好后连续说三次同一句话，就不是更好的帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么违规奖励对同一政策重复命中递减，却仍保留原始 yield 统计？
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：递减训练奖励防止 auditor 靠反复触发同一漏洞刷分，鼓励覆盖更多政策；原始 yield 则描述实际命中事件，可超过每百 episode 一百次。两种统计对象不同，去重覆盖和事件总量应分列，局部奖励实现也不等于完成整套审计 RL。
教学例子：例如一段对话连续三次触发同一违规，训练可依次少奖或不奖，但事件日志仍应记录三次，不能为去重而丢原始证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
PROBE 重复命中衰减需要在哪里重置 policy 计数？
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：文档n_i是本episode已有命中数，首次权重1、第二次1/2、之后0；新episode应重新计。统计原始yield时又不能沿用此衰减删除命中，无命中和unsupported政策仍留在分母。
教学例子：上一episode已命中两次，不应让下一episode该policy的第一次命中奖励变成0。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
原始 violation yield、episode-policy 去重 yield 与 coverage，为何不能互换？
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：原始yield可重复计同一政策跨turn命中，可能超过每百episode的100；去重yield去掉episode内政策重复，coverage分母是声明政策全集。它们分别描述命中量与范围，不是同一个成功概率。
教学例子：一个episode三次命中同一policy，原始命中3、去重命中1，覆盖仍只增加一种政策。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
PROBE 为什么把任务完成与遵守业务政策分开审计？
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：最终状态或有害文本检查可能漏掉多轮工具流程中的违规。auditor与冻结target交互，私有verifier从完整trace检查政策，观察可信客户行为、流程进展与覆盖，而非只看回答语气。
教学例子：任务结果看似完成，过程中仍可能缺少规定确认或出现未请求状态变化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么 memory provider 的签名没变，也不能直接认定补丁兼容旧记忆？
MemScope: Evolving Agent Memory Architectures through Localized Code Repair
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences / University of Chinese Academy of Sciences
展开答案与例子
答案：签名只约束调用形状，内部可能改变字段含义、读取方式或写入语义。MemScope 结合原始轨迹、运行时记忆与代码定位问题，用有界事务修改并运行针对真实格式的 probe；失败需保留原代码和记忆，证据不足时也应允许不打补丁。
教学例子：例如读取函数参数仍叫 memory，但补丁把时间字段从秒改成天，旧记录就可能被误解；仅通过语法检查看不出这种退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
replaceOnce 为什么要求唯一命中，证据不足时为什么允许 no-patch？
MemScope: Evolving Agent Memory Architectures through Localized Code Repair
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences / University of Chinese Academy of Sciences
展开答案与例子
答案：局部修补必须知道改的是哪一处逻辑，多处相同文本若随意替换，可能误改其他行为。replaceOnce 只接受唯一目标，并受接口身份、语法和改动预算等合同约束；定位或 probe 证据不足时应不提交补丁。通过这些工程检查只说明有界修补合法，不证明语义收益。
教学例子：教学例：两处代码都含相同读字段语句，补丁只提供这段文本就无法区分目标，应返回不修，而不是默认改第一处。
依据：核心公式、本地复现、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
原位局部补丁与重新生成整个记忆 provider 有何取舍？
MemScope: Evolving Agent Memory Architectures through Localized Code Repair
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences / University of Chinese Academy of Sciences
展开答案与例子
答案：局部修改保留 provider identity 和既有记忆兼容性，减少整套重写带来的格式漂移；但保留接口不保证语义不变，仍需实际 probe。整体重写更自由，却可能让旧记忆无法解释，两者不能只按代码行数比较有效性。
教学例子：例如只修检索阈值可继续使用已有记录；重写成另一种 schema 若没有迁移，旧记录可能被静默忽略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
MemScope 为什么联合看原始轨迹、运行时记忆和 provider 代码？
MemScope: Evolving Agent Memory Architectures through Localized Code Repair
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences / University of Chinese Academy of Sciences
展开答案与例子
答案：同一任务失败可能来自写入、检索或使用环节，仅看总分无法定位。原始轨迹说明实际行为，运行时记忆说明保存内容，代码说明处理规则，三者结合才有机会做有界修复；证据不足可返回 no-patch，不要求每轮强行改代码。
教学例子：例如事实已写入却没被检索，与根本没写入需要改不同位置；只看“回答错了”无法区分这两种故障。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
builder 尚未看到评测问题，为什么不能按已知问题把层级文件系统专门整理成答案索引？
Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：目标是预先组织可复用工作区，固定 answerer 后续面对未知查询导航。提前看题会把整理变成针对答案的检索捷径，失去跨问题价值；来源回退还要保留原文，Delete 不得删除原始语料，一般成本公式也不能冒称主训练实际用了非零成本 shaping。
教学例子：例如先按公司和日期整理资料可供多种问题使用；若提前知道要问某数字并只把它写在首页，评测就不再检验通用整理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
Librarian 删除一个合成节点后，怎样保留原文可追溯性？
Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：Delete只归档合成节点，保留raw docs和历史来源，并提升子节点；cold load还需验证hash、层级和磁盘内容。本地落实文件系统合同与冻结结果复算，没有训练learned builder。
教学例子：删掉一个摘要目录，原始文件及被合并子目录的来源仍应可以找到。
依据：文件系统合同与代码映射；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
Librarian 的一般成本效用，与论文主训练实际奖励相同吗？
Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不同。一般式包含构建、token和读取惩罚，但主训练这些成本系数实际为0、gamma为1，并每8个builder turns探测answerability变化及终止正确性。不能把可定义的成本项写成已用的训练shaping。
教学例子：公式里出现token成本，不代表该次训练因多读一个文件就被扣分。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
Librarian 为什么在不知道具体后续问题时先整理工作区？
Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：同一语料会被多次查询，提前建立层级文件与原文来源可复用跨文档整理成本。builder只能看语料，后续由固定answerer导航，不能依据测试问题预先写入答案。
教学例子：先整理一个项目的资料目录，再回答多位用户的问题，而非看到题目才为它定制目录。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
强模型接管后，为什么还要用未执行的 Shadow 动作继续监督？
LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents
问答新增：2026-10-27 · Simular
展开答案与例子
答案：升级解决弱模型可能失败的问题，却不保证强模型之后不偏离。弱模型的影子表示提供低成本参照，定期判断是否需要强模型重新审视策略，但不实际执行影子动作；距离分数只是与失败参考更近的指标，不是已校准失败概率或测试固定接管配额。
教学例子：例如强模型接管后准备点击删除，弱模型影子建议先检查权限，系统可触发复核，却不能把两套动作都同时执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
运行 gate 为什么用每任务最大分，Shadow 又在哪些步触发？
LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents
问答新增：2026-10-27 · Simular
展开答案与例子
答案：运行风险校准以 reference 每任务最大 action 分为单位，所有同任务观察留同一 OOF 折；按 step 分位数会改变整体升级率。handoff 后从第一个 strong step 起每三步探测，即一、四、七，最多六次干预、两次改变强动作后停止。
教学例子：例如在第三区间才开始探测会错过第一步风险；把同一任务不同步拆进训练和验证也会泄露任务特征。
依据：核心公式、本地复现、代码映射、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
参考距离分数与校准后的失败概率为什么不能等同？
LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents
问答新增：2026-10-27 · Simular
展开答案与例子
答案：分数比较弱表示到 Pass/Fail 均值的 Mahalanobis 距离，高分只说明相对更近失败类。分布漂移、协方差和表示结构会影响阈值，目标路由比例也不是 test 硬配额；应按 reference 校准，不能将数值直接解释为百分之几会失败。
教学例子：例如分数二不代表失败概率二成，换一个表示尺度或任务分布后同分值也可能对应不同风险。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
LEASH 为什么研究让弱模型工作、在风险较高时再交给强模型？
LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents
问答新增：2026-10-27 · Simular
展开答案与例子
答案：一直调用强模型成本较高，始终依赖弱模型又可能在关键状态失败。LEASH 研究由弱模型先执行，并用风险信号决定何时接管，试图在任务结果与调用资源之间折中。接管并非免费，风险分数也不是天然校准的概率，效果需要按实际完整任务核算。
教学例子：教学例：小模型能处理常规文件搜索，面对罕见的恢复状态时交给强模型；是否划算，要看接管次数以及最终是否真正交付。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么委派阈值要在 Agent 自己访问的 shadow trajectories 上按决策类型校准？
JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：真实闭环会到达错误后状态，离线干净多选题不覆盖这些输入；工具选择与参数选择的风险和收益也不同。配对比较决策模型与强模型，按任务价值和成本找可靠阈值，不确定或未见类别回退，才能把准确率、费用和延迟放进同一控制问题。
教学例子：例如小模型选对工具却常把参数填错，两类决策应有不同委派条件；不能用一条整体准确率给全部调用统一放行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
未知类别或样本不足时应该强行套用最近阈值吗？
JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不应。默认每 bin 至少二十行，同置信不拆分，尾部不足合并；整类不足、无合格 suffix 或未知类别全部回退强模型。fit 只接校准验证数据，runtime 不含 gold 或强模型答案；本地人工 callback 只验证委派合同。
教学例子：例如只见过三条参数决策不能拟合可靠类别阈值，直接回退比借另一个工具类别的门槛冒充校准更符合合同。
依据：核心公式、本地复现、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
按成本与任务价值选择阈值，与固定 0.7 自信门有什么区别？
JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：效用阈值比较 decision 与 strong 的配对正确性差和节省调用成本，寻找高置信区间都非负的 suffix。固定常量忽略类别、代价和过度自信；阈值拟合也非万能，原文保留校准失败及追加训练无收益的负结果。
教学例子：例如某类错误代价很高，微小节费不足以接受准确率下降；另一类可恢复决策则可能容忍更低委派门槛。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
Jev Agent Harness 为什么不把 Agent 的每次小判断都交给同样昂贵的推理？
JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：工具流程包含大量范围有限的判断，有些适合廉价决策器，有些需要继续推理。该研究关注如何在明确的决策接口中委派并保留回退，让节省调用与错误代价共同决定使用范围。便宜判断器并不自动适合开放任务，必须在它实际遇到的状态上检查可靠性。
教学例子：教学例：是否保留一条候选记录可尝试廉价判断；涉及缺失证据的开放解释则可能仍需主模型，不能因两者都能输出是非就混用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
冻结 reader 和 judge 后再优化 writer，为什么有助于归因记忆写入的收益？
Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing
问答新增：2026-10-27 · Tencent Hunyuan
展开答案与例子
答案：读取器和评分器同时变化会混淆“写得更好”与“读得更强”。固定它们后，逐块探针与事实归因更能定位 writer 的贡献，再用存储增长惩罚防止全部保留；同一块每条 rollout 只投一票，不能把更多调用误当成更多独立证据。
教学例子：例如两版 writer 都交给同一 reader 回答后续问题，差异才更能反映保留了哪些事实，而非一版恰好搭配更强回答模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
同一 chunk 的多次模型调用能否当多张奖励票？
Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing
问答新增：2026-10-27 · Tencent Hunyuan
展开答案与例子
答案：不能。每条 rollout 对同一 chunk 只投一票，再在 chunk 组内标准化优势；按调用次数重复计权会让调用更频繁的轨迹获得额外影响。gold 仅供 judge，不能进入 writer、reader 或检索查询；本地未运行大规模写入 RL。
教学例子：例如一条 rollout 为核对同一块调用五次，另一条只调用一次，两者仍各贡献一票，不能把前者放大五倍。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
逐块探针与最终 outcome 奖励为什么需要同时存在？
Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing
问答新增：2026-10-27 · Tencent Hunyuan
展开答案与例子
答案：最终答案反馈稀疏，逐块探针提供较近的写入质量信号，跨块归因再估计事实贡献；增长惩罚限制一味保存全部内容。局部探针高分不保证跨会话回答正确，最终 outcome 也不能独自解释哪一块写入有用。
教学例子：例如早期块写对了日期，后续块又覆盖成错误日期，局部探针与最终归因需要共同发现这次破坏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么“把会话都存起来”与“为未来问题写好记忆”不是同一种任务？
Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing
问答新增：2026-10-27 · Tencent Hunyuan
展开答案与例子
答案：原始会话很多，未来读取模型只能在有限上下文里寻找答案，写入者需要留下可用事实和联系，同时控制存储增长。Hy-Memory 研究如何训练这个写入策略，而不是仅扩大原文归档；训练效果最终取决于之后能否依据所写内容回答。
教学例子：例如一长段讨论多次改期，未来查询需要最终确认日期及其依据，机械保存所有重复消息未必能形成有效记忆。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
HDA 的残余 G 为什么只能视作泛化改进上界，而不是直接的迁移证据？
Harness-Delta Attribution: Dissecting Gains From Harness Evolution
问答新增：2026-10-27 · Amazon
展开答案与例子
答案：算力匹配减掉额外计算，已检测捷径中和再剥离一部分过拟合，但未发现捷径仍可能留在残余里。控制构造需要任务相关人审，且先确认原收益显著才归因；代数分解保证账目一致，不保证每项已被完整因果识别或适用于新分布。
教学例子：例如去掉已知文件名捷径后仍涨分，也可能还利用隐藏目录顺序；不能把剩下全部提升都宣称是真正通用推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
HDA 展示百分比前，能把负的原始 T、O 或 G 截成零吗？
Harness-Delta Attribution: Dissecting Gains From Harness Evolution
问答新增：2026-10-27 · Amazon
展开答案与例子
答案：原始带符号差值必须保留并满足Delta=T+O+G。展示份额另按规则截断，不能回写原始归因；四臂还必须逐item对齐、成本单位一致并提供人审控制依据。
教学例子：中和某机制反而涨分时，负O是应保存的结果，不应为了饼图好看改成0。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
HDA 中的剩余 G，为什么不能直接叫作已证明的泛化收益？
Harness-Delta Attribution: Dissecting Gains From Harness Evolution
问答新增：2026-10-27 · Amazon
展开答案与例子
答案：G是中和已发现捷径后相对算力匹配baseline的差值，还可能含未识别捷径；因此只是泛化改进上界。O也只覆盖检测且能中和的机制，属于过拟合下界估计。
教学例子：移除一种答案泄漏后仍有收益，并不能排除另一个尚未检查的捷径。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
HDA 为什么先检验 evolved 相对 baseline 的配对收益？
Harness-Delta Attribution: Dissecting Gains From Harness Evolution
问答新增：2026-10-27 · Amazon
展开答案与例子
答案：如果观测增益可能只是噪声，继续分解算力、捷径和剩余项没有可靠起点。方法先做双侧paired bootstrap，显著后才构造算力匹配与捷径中和控制；两个控制均需任务相关人审。
教学例子：同一组任务两次波动了少量分数，不能直接宣布其中多少来自泛化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
Observer 与共享笔记为什么不能替代每个执行 Agent 的真实环境反馈？
A team of Gemini 4 Argon agents beats Minecraft
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：汇总状态适合协调分工，但可能延迟或遗漏局部变化；执行程序仍需以世界实际返回判断成败。程序化动作、持久记录和多会话协作共同支持长程任务，不能仅因聊天中说已完成就推进依赖步骤，也不能把协作案例描述当作本地运行结果。
教学例子：例如一名角色记下“桥已修好”，另一名过桥前仍可能看到桥被破坏；应依据当前观察修正计划，而非盲信旧笔记。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
二十七小时通关记录能否写成 100% 成功率或本地可执行能力？
A team of Gemini 4 Argon agents beats Minecraft
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：不能。一次案例没有独立重复的成功率分母，约二万四千调用属于作者运行成本；本地仅收录资料和成本，没有商业模型调用、游戏执行、GPU 回执或 Evolve 算子。公式化交互记号也不是完成真实 Minecraft 系统。
教学例子：例如一场游戏一次通关只能报告“一次成功案例”，不能列成十次均成功，也不能把原视频当本地运行 receipt。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
四 Agent 协作与一个 Agent 单独长跑，成本和证据怎样比较？
A team of Gemini 4 Argon agents beats Minecraft
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：并行角色可分工探索与程序执行，也增加通信、重复工作和协调成本。原文是一个 Easy 随机世界的长时成功案例，没有多种子对照可支持可靠性或成本优势，不能把通关本身改写为四 Agent 普遍优于单 Agent。
教学例子：例如四人同时采资源可能更快，也可能都去采同一种物品；一次成功未提供足够信息区分协作收益和额外计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
Minecraft 长程通关为什么适合研究团队协作，而不只是单次指令跟随？
A team of Gemini 4 Argon agents beats Minecraft
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：通关涉及探索、资源收集、制作与战斗，多个目标在时间和资源上相互依赖，执行还会不断遇到新状态。该工作研究多 Agent 分工、观察与共享信息如何支撑长期推进。一次完整通关可展示系统能做什么，但不能由单次记录推导成功概率或单独模块的因果收益。
教学例子：教学例：一名角色采矿、另一名收集食物，进展必须协调；若采矿者实际未拿到材料，共享笔记写“已完成”也不能完成制作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
同一 context–goal–budget 为什么只生成一次记忆供所有后续问题复用？
GACC-Bench: Benchmarking Goal-Adaptive Context Compression Ability across Large Language Models
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：压缩时只知高层目标，不知具体问题，复用能检验一份记忆是否保全整组所需证据。若逐题重压缩，压缩器已获得额外查询信息，任务就变了；严格 token 截断、零预算空记忆与不补 padding 也决定 reader 的真实输入，不能只报名义预算。
教学例子：例如目标是了解一次项目决策，后续分别问日期和原因，应读同一份预先压缩记忆，而非每题再偷取原文做定向摘要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
GACC 压缩输出超预算或预算向下取整为零时，应怎样给 reader 输入？
GACC-Bench: Benchmarking Goal-Adaptive Context Compression Ability across Large Language Models
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：按固定tokenizer将输出取前L个token再decode；不重生成、不补齐，L为0就传空memory。缓存还要绑定来源、目标、tokenizer及compressor版本，避免跨配置误用记忆。
教学例子：来源仅3token、保留率0.2时L=0，不能擅自保留1token改善得分。
依据：核心公式、代码映射、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
GACC 的 Micro 高而 Macro 为零，可能是什么情况？
GACC-Bench: Benchmarking Goal-Adaptive Context Compression Ability across Large Language Models
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：Micro按全部问题统计正确比例，Macro要求一个目标下所有问题都正确才计1。每组都漏一道关键题时，逐题正确率仍可较高，整目标完整率却为0；两者不能互换。
教学例子：两个目标各3题都答对2题，Micro是2/3，Macro仍为0。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
GACC-Bench 为什么让一份压缩记忆回答同一目标下的多道问题？
GACC-Bench: Benchmarking Goal-Adaptive Context Compression Ability across Large Language Models
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：压缩时具体后续问题未知，只有高层目标可见；共用一次记忆才能检验整组目标证据是否保留。若每看一道题就重新压缩，就变成面向已知问题的信息提取。
教学例子：为出差目标压缩资料后，应同时能回答交通和住宿问题，而不是每题重做摘要。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么求解器返回可解，还不能证明形式规格忠实表达了题意？
Repairing LLM-Generated Specifications with Deterministic Diagnosis
问答新增：2026-10-27 · University of Oxford
展开答案与例子
答案：求解器只判断写下来的约束，不知道自然语言要求是否被遗漏或偷换。DRAGO 把词表合同、可达性探针与题意对齐分开诊断，修复必须严格减少阻塞且不删除目标来投机；探针耗尽预算只能报未知，不能捏造成已证明无解。
教学例子：例如题目要求同时到达两处，错误规格只写一处也可能可解；删掉困难目标会降低求解难度，却不是正确修复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
修复接纳时只要求阻塞权重不增加够吗？
Repairing LLM-Generated Specifications with Deterministic Diagnosis
问答新增：2026-10-27 · University of Oxford
展开答案与例子
答案：不够。必须严格下降，不新增阻塞轴、不减少目标数，对象数量只朝公开题意靠近，且原先可解规格不得退化为无解或未知；拒绝时保留旧对象并停止。只用非增加条件可能接纳无效改写，删除困难目标则会投机降低诊断。
教学例子：例如旧规格有两项阻塞，新规格仍有两项，只改了措辞不应接纳；删掉一个目标虽降阻塞也应被防退化检查拒绝。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
删除松弛与完整 BFS 都检查可达性，为什么不能互相替代？
Repairing LLM-Generated Specifications with Deterministic Diagnosis
问答新增：2026-10-27 · University of Oxford
展开答案与例子
答案：删除松弛忽略 delete effect，固定点中仍不出现的目标可判不可达；出现则未必能联合实现。完整 BFS 保留删除效果，穷尽状态才证明无解，预算耗尽只能未知。前者较便宜、结论单向，后者更严格却受搜索规模限制。
教学例子：例如拿走钥匙会失去另一个条件，两个目标各自在松弛中可达，却可能无法同时满足；完整状态搜索才看见冲突。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
让 LLM 把自然语言题目写成形式规格时，DRAGO 要防哪类“看似成功”？
Repairing LLM-Generated Specifications with Deterministic Diagnosis
问答新增：2026-10-27 · University of Oxford
展开答案与例子
答案：模型可能生成能解析、能求解，却遗漏要求的规格，后续求解器只会忠实解决这个错误版本。DRAGO 关注自然语言到形式系统的转换可靠性，用可定位诊断约束修复，而不是把拿到一个解当作原题已解决；规格和求解是两个需要分开检查的环节。
教学例子：例如题目要求两人都被安排，规格漏写一人后排班更容易有解，但这个“成功”恰好暴露了形式化阶段的遗漏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
工具超时为什么既不能支持、也不能反驳根因假设？
Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure
问答新增：2026-10-27 · Meta
展开答案与例子
答案：超时说明未取得有效观察，不代表被测服务正常或异常。证据还需匹配事故、目标、时间窗口及当时可获得性，历史相似案例也只是线索；调查计划可在本轮调整，持久工作流发布和缓解执行则是不同权限，不能由一次自动诊断直接越过。
教学例子：例如查询排序服务日志超时，不能据此写“没有排序异常”；应标记未知并换取证方式，也不能用事故后总结倒灌当前证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
事故证据进入 EvidenceLedger 前，需要绑定哪些身份和时间边界？
Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure
问答新增：2026-10-27 · Meta
展开答案与例子
答案：记录需要对应当前事故、目标、调查时间窗口，并区分事件何时发生与证据何时可获得；可获得时间不得晚于本次 as-of。缺少这些约束，其他服务日志或事后总结都可能被误当成当时证据。本地只校验这些来源合同和治理 gate，不据此生成或证明真实根因。
教学例子：教学例：凌晨的异常日志直到早上才汇总，不能用于声称凌晨调查已经掌握它；另一事故的同名报错也不能直接混入。
依据：核心公式、本地复现、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
运行中调查适应与发布持久知识为什么采用不同治理边界？
Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure
问答新增：2026-10-27 · Meta
展开答案与例子
答案：当前调查可根据新证据调整计划，影响范围限本次；共享工作流和知识会影响未来事故，需下一版本、重放验证和 artifact owner 批准。论文不授权自主缓解生产系统，也不能把观测性 MTTR 差异解释为随机因果效果。
教学例子：例如本次临时增加配置查询可以直接用于调查，改写全团队通用排障流程则要经独立验证和 owner 发布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
为什么事故诊断必须记录证据的可获得时间，而不只记录事件时间？
Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure
问答新增：2026-10-27 · Meta
展开答案与例子
答案：事故发生时可能还拿不到后来汇总的日志或事后结论，使用它们会造成前视。Diviner 证据合同要求同事故、目标、窗口且 available time 不晚于 as-of，区分调查时可见材料与最终解释；结构合规仍不证明内容蕴含或真实根因。
教学例子：例如十点发生的错误在十一点才生成汇总报告，十点半调查不能读取该报告，即使报告描述的事件时间是十点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么要从弱强分歧里减去强模型自身分歧？
Disagreement-Guided Weak-to-Strong Routing
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：弱强不同可能因为强模型也不稳定，而非升级能纠正弱模型。用不同采样索引估计强模型自分歧，扣除这部分后更接近调用增益线索；分数可为负，并非成功概率，测试时应只跑弱表示与 probe，决定升级后才付强模型调用成本。
教学例子：例如强模型自己两次答案都相反，弱强分歧很高不一定值得升级；若强模型内部一致而与弱模型不同，信号才更明确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
估计强模型自身分歧时，为什么必须排除同一采样与自身的配对？
Disagreement-Guided Weak-to-Strong Routing
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：应使用K_s(K_s−1)个不同索引有序配对；对角self-pair必然一致，会压低分歧估计。推理阈值只从validation校准，测试分布变化时不承诺精确路由配额。
教学例子：两个强响应只有两个交叉有序对，不能把两个自配对也放入分母。
依据：核心公式、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
校正路由分数与弱强模型的原始分歧概率，有什么值域差异？
Disagreement-Guided Weak-to-Strong Routing
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：原始分歧目标是概率，校正分数是两个probe输出之差，可以为负，不能截到[0,1]。多个弱响应先取response分歧预测的最小值，再减prompt层面的强模型自身分歧。
教学例子：弱强分歧0.2、强模型自身分歧0.5时，校正值可为−0.3。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
弱模型不确定，为什么不等于应当升级强模型？
Disagreement-Guided Weak-to-Strong Routing
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：若强模型在同一问题上也高度分歧，升级可能并无稳定收益。方法用弱强分歧减去强模型自身分歧，学习升级价值；离线比较回答等价性，不需要正确答案标签。
教学例子：两个模型都在多个选项间摇摆，弱模型犹豫本身不足以证明强模型能补救。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
每轮都从同一基座重新训练，为什么对数据研究归因很重要？
AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：这样跨轮变化主要来自数据池、配比与顺序，而非上一轮权重继续学习产生的累积效应。固定训练器和预算后登记干预假设，才能比较预期机制是否出现；不同分析视角提出方案不等于已经执行实验，也不能事后按分数改写原始预测。
教学例子：例如第二轮修复了错误回答数据，应从同一基座重训；若续训第一轮模型，提升还混入更多训练步数的影响。
依据：背景与主要改动、核心公式：固定训练合同的形式化；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
为什么训练前登记假设，去污染后仍需独立外部 holdout？
AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：预先记录改什么、对照、方向和证据防事后改写预测；多轮使用同一评测失败与最优选择仍可能适配评测，即使 n-gram 未直接复制。独立冻结 holdout 才能另检泛化，本地未运行八 H800 和付费研究 campaign，不提供伪训练指标。
教学例子：例如分数涨了但预期机制证据未出现，应承认假设未证实；不能回头把原本预计的方向改成实际结果。
依据：核心公式：固定训练合同的形式化、成本决策与本地状态；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
四分析视角与单 Agent 只调数据比例有什么不同？
AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：数据、失败、训练信号和历史研究提供不同证据，执行子代理回传可追溯工件，Meta Agent 决定干预，不必局限于混合比例。作者六类动作是事后归类而非固定菜单，不能把一个规则选项表冒充开放数据研究。
教学例子：例如失败分析建议修答案、训练信号提示顺序问题，两种提案需按证据比较，而不是每轮只把某类别占比增加百分之五。
依据：背景与主要改动、核心公式：固定训练合同的形式化；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
AutoSFT 为什么把训练数据的选择与组织作为自动研究对象？
AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：同一基座采用不同数据内容、质量与组合，可能学出不同能力，人工反复试配方成本很高。AutoSFT 让研究过程提出并检验数据假设，而不只调整一次训练参数。为了理解数据改动的作用，需要控制训练条件并隔离评测，不能从开发分持续上涨推导最终泛化。
教学例子：教学例：怀疑某类格式错误来自示例不足，可增加对应数据再从相同基座比较；沿用上一轮权重会混入额外训练历史。
依据：背景与主要改动、核心公式：固定训练合同的形式化；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
独立训练服务为什么还需要冻结评测与 checkpoint 谱系？
Athanor: An Agent-Native System for Autonomous Post-Training Research
问答新增：2026-10-27 · ByteDance / Duke University
展开答案与例子
答案：异步实验会产生多个数据、算法和阶段组合，仅看文件名无法确定结果来自哪条训练链。谱系保存可追溯父子关系，冻结评测减少标准随搜索漂移，最终 held-out 则隔离研究者选择；一次开发最高分可能只是噪声，不能立刻称为稳健能力提升。
教学例子：例如某模型经过 SFT、合并再自蒸馏，若不记录父 checkpoint，就难解释哪次改动导致分数变化或复现同一候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
为何搜索中最高开发分不能作为最终正式结果？
Athanor: An Agent-Native System for Autonomous Post-Training Research
问答新增：2026-10-27 · ByteDance / Duke University
展开答案与例子
答案：多次提案在噪声开发集上选最大值会产生选择偏差，正式比较需区分 campaign、提交多 seed 均值和统一解码重测，最终 held-out 不向研究者暴露。本地仅资料与成本审查，无研究自动化、模型运行或 GPU receipt。
教学例子：例如一百次评测中偶然一次最高，不代表该 checkpoint 的期望能力；需冻结选择后在独立协议重新评价。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
禁止外部教师时，自蒸馏与调用更强商业教师有什么区别？
Athanor: An Agent-Native System for Autonomous Post-Training Research
问答新增：2026-10-27 · ByteDance / Duke University
展开答案与例子
答案：自蒸馏使用系统内允许的模型和已有数据，外部教师会引入额外能力、费用与数据来源，违反本研究合同。不能因为研究 Agent 本身由商业模型驱动，就把它的答案偷偷当训练标签；研究控制与受训模型监督来源需要分开。
教学例子：例如商业 Agent 可规划下一轮训练，但若直接把其高质量解答加入数据，就不再是规定的无外部教师设置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
研究 Agent 与异步训练评测服务分开有什么作用？
Athanor: An Agent-Native System for Autonomous Post-Training Research
问答新增：2026-10-27 · ByteDance / Duke University
展开答案与例子
答案：Agent 选择数据、算法和阶段，服务执行训练、去污染、冻结评测并保存 checkpoint 谱系，让提案与真实产物相连。分开也有助限制最终 held-out 可见性；服务返回的开发分仍有噪声，不是研究 Agent 每次猜测的真实性能。
教学例子：例如 Agent 提议自蒸馏后，必须等服务完成并记录新 checkpoint 与评测，不能用提案文字中的“预计更好”替代结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么扰动候选通过 JSON 检查后，还必须独立确认目标不变且仍可求解？
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：结构合法只保证可解析，扰动可能不小心换了任务或删掉必需信息到无法恢复。单目标语义验证保持其他因素、后端与 oracle 不变，才能解释性能差来自交互压力；缺失评分要报告配对覆盖和界限，不能删掉失败对后宣称鲁棒性良好。
教学例子：例如只改工具说明措辞应不改工具真实行为；若同时移除唯一必需工具，失败就混入不可解性，不能当同一扰动效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
计算 AgentPerturb 成对下降时，可以删掉没有评分的请求吗？
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：已评分配对子集可计算C、P和Delta，但必须另报全部请求分母上的覆盖率和未知上下界。缺失记录仍属未知，原生部分奖励也不能为凑统一口径擅自二值化。
教学例子：计划100对仅60对有双侧评分，不能只报这60对的下降而隐去40对缺失。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
AgentPerturb 的语法检查与独立语义 verifier，分别能证明什么？
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：语法合法只说明输入可解析，不能证明任务目标保持、仍可求解。候选还需独立语义verifier确认单目标、目标不变、可解和可执行，再结合原生validator；本地算术verifier不代表任意自然语言等价证明。
教学例子：JSON完全合法，但把“求和”改成“求积”仍改变了目标，不能当稳健性扰动。
依据：背景与主要改动、真实性、gold 隔离与成本；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
AgentPerturb 为什么一次只扰动 U、P、C、T 中一个目标？
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：用户请求、过程规范、历史上下文和工具契约是不同输入面。固定其它输入、后端和成功oracle，才可更清楚观察某类扰动影响；同时修改多个目标会混入额外变化。
教学例子：只改工具说明而保持用户需求与工具实现不变，才接近一次单目标配对。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
CASI为什么冻结检索快照后重组子集，而不把集合奖励平均分给各动作？
CASI: Credit Assignment via Set Intervention for Agentic Retrieval
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：多个改写动作的候选可能互相补充或替代，均分奖励会掩盖这种作用。CASI固定每个动作一次检索的结果，比较它加入不同子集时的边际价值，再用Shapley信用塑形优势。冻结快照避免重复检索噪声污染归因，但这种内部塑形不能额外声称保留原集合目标的同一无偏梯度。
教学例子：改写A与B返回相同商品，C补出新类目；三者平分奖励会高估重复动作。固定结果后移除或加入不同组合，才能看出C的互补贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
CASI 的有界零和优势为什么要联合投影，而不是逐维 clip 后直接使用？
CASI: Credit Assignment via Set Intervention for Agentic Retrieval
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：逐维裁剪会破坏总和为零，动作优势均值不再等于原 rollout 优势。联合投影求一个共享偏移 λ，再裁剪各维，使界限与零和同时成立。保持的是动作算术均值，非按 token 长度加权均值，也不保证塑形保持原目标无偏梯度。
教学例子：三个动作优势二、负一、负一，逐维限到一后总和变负；先求共同偏移再裁剪，才能保留总和为零而又不超过边界。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
CASI 的 Shapley 信用与 Singleton、LOO 在四个以上动作时为何不能一般互推？
CASI: Credit Assignment via Set Intervention for Agentic Retrieval
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：Singleton 只看单动作价值，LOO 只看完整集合删除一个动作的端点；Shapley 平均所有联盟下的边际贡献，中间子集包含高阶协同。端点相同的集合函数仍可在中间联盟不同，因此两种端点不能通常恢复完整信用。加性情形则不需要额外干预。
教学例子：两个 query 单独无效但合起来覆盖需求，第三条可替代其中一条。只看单条或整组移除，可能漏掉这份依赖，需要比较不同联盟。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
CASI 为什么把“动作检索一次”与“子集重新评价”分开？
CASI: Credit Assignment via Set Intervention for Agentic Retrieval
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：重新检索会让动作结果随子集变化，信用差异可能来自后端随机性而非协同关系。先冻结每个动作的候选快照，再重组集合，才能在相同证据上比较边际贡献。子集评价可以反映替代与协同，但仍需明确评价后端的敏感性假设。
教学例子：两条 query 都召回同一商品，移除一条后集合可能不变；若重新检索突然换了商品，就无法分清信用改变来自冗余还是检索波动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
RSHD为什么必须用note生成新replay并验证通过率提高，而不直接蒸馏旧失败回答？
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：note是否有用要由它实际诱导的新行为检验，严格高于原组通过率才接纳。随后均匀选择接纳replay，在同前缀比较有无note的正lift，不只挑成功例。旧失败轨迹没有因此变正确，note也不能含gold；没有有效note时附加项为零。
教学例子：复盘建议听起来合理，但新生成仍全错，就不能把它当有效教师；一次事后解释不等于真的修复了行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
RSHD零lift token是否算入辅助项分母？
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：算入接纳replay的全部有效词元，零lift也计数。无接纳note时附加项严格零，teacher和lift停止梯度；训练note不能从参考答案构造。
教学例子：例如只按正lift数平均会放大稀少权重，偏离原归一协议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
RSHD验证后均匀抽replay与只挑成功replay有什么区别？
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：均匀抽样保留note诱导分布，挑成功会增加结果条件化选择偏差。note通过率已用于门控，不能再暗中只取最优响应，改变训练来源。
教学例子：例如一组新重试有对有错，接纳后不等于允许只复制其中正确那条。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
RSHD为何要求note诱导的新replay确实改善通过率？
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：反思文字看似合理未必能帮助行为，独立新采样把note质量落到可验证结果。只有严格高于原组才接纳，再蒸馏新续写，不把旧失败轨迹重新当示范。
教学例子：例如复盘说要检查单位，但带note重试仍全错，就不因措辞好而收录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
偏好出现循环时，RAP-Walk为什么不直接删除循环或把循环节点判成坏样本？
When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO
问答新增：2026-10-27 · 未确认（已读 arXiv HTML 未列机构）
展开答案与例子
答案：循环可能来自不同视频各擅长不同维度，并不自动说明质量差。方法保留对手身份、边清晰度和循环不一致，构造从输者到赢家的可靠传播，再用平稳信用修正胜率优势。方向、收敛与熵校准都属于机制，不能随意换成普通PageRank。
教学例子：甲胜乙、乙胜丙、丙又胜甲，可能分别在画面、运动和遵循提示上占优；简单删掉三者会丢失有用比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
RAP-Walk不收敛时能自动加入PageRank teleportation吗？
When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO
问答新增：2026-10-27 · 未确认（已读 arXiv HTML 未列机构）
展开答案与例子
答案：不能未声明替换。应按协议报错，转移方向用W_ji，混合后重新组标准化，偏好图与优势停止梯度。偷偷加传送会改变平稳分布及原算法。
教学例子：例如把输到赢方向写反，游走会奖励相反节点，即使矩阵仍能归一化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
可靠随机游走与普通平均胜率有什么差别？
When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO
问答新增：2026-10-27 · 未确认（已读 arXiv HTML 未列机构）
展开答案与例子
答案：从输者流向赢家并结合可靠性得到平稳信用，再与胜率锚点混合；平均胜率没有这条传播结构。方法还限制最低熵，避免信用过度集中。
教学例子：例如击败不同可靠对手在图中传播不同，不只是每次胜利都加同一票。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
RAP-Walk为什么保留偏好对手身份与循环结构？
When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO
问答新增：2026-10-27 · 未确认（已读 arXiv HTML 未列机构）
展开答案与例子
答案：独立胜率会丢失赢了谁及偏好不一致信息，图传播利用边清晰度和循环可靠性修正信用。循环可能来自多维取舍，不能直接判视频差或删除节点。
教学例子：例如A运动好、B画质好、C遵循好，三者循环不必是无用样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ORL为什么要求重放模型自己产生的残差状态，而不只训练固定残差输入？
On-Policy Residual Learning for Diffusion Language Models
问答新增：2026-10-27 · Together AI / University of Illinois Urbana-Champaign
展开答案与例子
答案：扩散模型上一步预测会成为下一步残差上下文，误差也沿这条状态路径传播。固定或理想残差训练可能避开推理时真实遇到的状态；在线采集与精确重放让训练面对自身诱导的分布，再结合熵收缩。该机制不是输出后的简单修补，本地尚无完整训练证据。
教学例子：第一轮预测已偏向错误词，第二轮会在这个偏差上继续更新；只用完美残差做训练，可能从未见过这种纠偏情形。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
本地能否调用ORL adapter复现残差轨迹？
On-Policy Residual Learning for Diffusion Language Models
问答新增：2026-10-27 · Together AI / University of Illinois Urbana-Champaign
展开答案与例子
答案：当前只有文献收录，没有本地adapter、指标或GPU回执。README公式是阅读记号，不能因看见递推式就登记可执行算子，也不能把通用扩散模块称为该训练已实现。
教学例子：例如演化注册表里加一个名字，不会自动产生在线采集和精确重放流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
ORL残差学习与推理后额外平滑输出有何不同？
On-Policy Residual Learning for Diffusion Language Models
问答新增：2026-10-27 · Together AI / University of Illinois Urbana-Champaign
展开答案与例子
答案：后处理只改最后结果，ORL把前一步分布传入后续模型并参与训练，改变状态和学习目标。它还包含精确重放与熵收缩，不能用简单概率平均冒充整个方法。
教学例子：例如把两次结果平均，没有教模型在上次错配状态下继续去噪。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ORL为何要让扩散训练看到自身诱导的残差上下文？
On-Policy Residual Learning for Diffusion Language Models
问答新增：2026-10-27 · Together AI / University of Illinois Urbana-Champaign
展开答案与例子
答案：残差来自前一步模型预测，推理时包含模型自身误差。只训练理想残差会形成状态分布差，在线采集和重放让模型学习实际会遇到的残差状态。
教学例子：例如前一步把某词预测错，下一步需要见过这种带错概率上下文才能学会修复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
IG-OPD为什么用信息增益绝对值分预算，却用有符号增益校正query方向？
Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：一次检索无论显著变好还是变坏都值得关注，所以预算可依变化幅度分配；动作信用则必须区分正负后果，不能把伤害也奖励。两项相加且作用范围不同，答案只供冻结训练探针，不进学生采样；长最终回答也不该仅因token多吞掉短查询预算。
教学例子：一个查询取回误导网页，使答案支持下降，仍需分配足够监督去纠正它，但不能因为变化幅度大就给予正奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
IG-OPD的IQC为何在ITC因子外，λ=0又意味着什么？
Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：动作信用总和应为预热系数乘增益，不能再被回合预算放大；λ为零是等回合预算，不是等词元。最终回答增益显式为零，但仍有基础蒸馏信用。
教学例子：例如短工具调用与长答案即便回合等权，每个token的权重也不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
ITC与IQC分别改变信用的数量还是方向？
Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：ITC按信息增益绝对值分配回合预算，IQC用有符号增益校准动作关键词元。负信息增益也可能获得关注，但方向应受惩罚，不能只用绝对值强化。
教学例子：例如无用检索引起较大置信下降，值得学习但不应被当成好查询。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
IG-OPD为什么等检索结果回来再评价query价值？
Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：教师在搜索前的语言偏好可能不喜欢有效查询，检索后答案置信变化提供是否获得有用信息的线索。它用于训练信用，答案探针不进入学生生成上下文。
教学例子：例如一句生硬查询找到关键证据，价值不能只由其措辞是否像教师决定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GGPO的behavior policy与reference policy为什么不能混为同一个角色？
Gibbs-Gap Policy Optimization for Off-Policy RL with Verifiable Rewards
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：behavior决定固定样本从哪里来，reference决定KL锚定后的Gibbs目标。GGPO根据调整奖励的log-mean-exp与均值差直接优化，不额外套learner/behavior重要性权重。刷新reference改变后续目标，而不是改写过去采样来源；过滤和归一化后的日志也不能直接套原始理论界。
教学例子：旧模型提供一组回答，新模型相对另一个锚点更新；更换锚点并不会让这批旧回答变成由新模型采样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GGPO可选clipping为何不能直接对clamp后的LME反传？
Gibbs-Gap Policy Optimization for Off-Policy RL with Verifiable Rewards
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：该接口先用裁剪的learner/reference比计算冻结系数，再用原序列logp更新。直接穿过clamp会把饱和词元梯度清零，改变规定的替身梯度；全批归一与过滤边界也须保留。
教学例子：例如裁剪只限制用于构造权重的数值，不代表饱和位置从学习图中永久消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GGPO的Gibbs gap与普通learner/behavior重要性加权有什么不同？
Gibbs-Gap Policy Optimization for Off-Policy RL with Verifiable Rewards
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：它用调整奖励的log-mean-exp减均值度量组内偏离，直接求导，不把learner/behavior比再乘进更新。额外重要性权重会改变目标，不应因看见off-policy样本就自行添加。
教学例子：例如数据来自旧策略，并不意味着所有方法的损失都必须再乘同一套比值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GGPO为什么分开behavior与reference两种策略角色？
Gibbs-Gap Policy Optimization for Off-Policy RL with Verifiable Rewards
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：behavior决定采样数据来自哪里，reference定义KL锚点。二者可不同，混为一个会误解目标和刷新行为；周期改变reference是在改变后续优化目标，而非自动重采同一批数据。
教学例子：例如一套冻结策略收集回答，另一套参考决定偏移惩罚，各自有独立职责。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
DrOPD为什么保留所有位置的reverse-KL，只在高分歧位置加forward-KL？
Divergence-Routed On-Policy Distillation for Language Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：reverse-KL在学生已覆盖模式上提供模仿信号，但对学生几乎不给概率的教师模式可能纠正较弱。forward-KL补这类欠覆盖，JS路由限制额外干预范围。它不是把全损失换方向，也不是仅对采样词更新；候选并集、冻结优势与PPO路径共同构成实际机制。
教学例子：教师强烈支持词甲，学生几乎只选乙；仅沿学生常见词模仿可能难以抬起甲，高分歧位置的额外纠正用于补覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
DrOPD第K大JS门槛遇到并列时应强行只取K个吗？
Divergence-Routed On-Policy Distillation for Language Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不应，按阈值全部保留，数量可超过K。K由有效位置数按规定取整，零时不加FKL；师生top-k取去重并集并重归一，教师、路由与优势冻结。
教学例子：例如边界上三位置同分，不能任意删两个以凑固定配额。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
DrOPD路由与整批换成forward KL有什么差别？
Divergence-Routed On-Policy Distillation for Language Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：路由限制额外监督位置，同时保留原RKL；整批替换会改变其他状态的集中与覆盖取舍。候选优势PPO更新也不等于直接求一个静态双KL梯度。
教学例子：例如低分歧格式位置继续原目标，高分歧推理位置才多一份纠正。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
DrOPD为什么在高分歧处额外加forward KL？
Divergence-Routed On-Policy Distillation for Language Models
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：reverse KL梯度含学生概率，学生几乎不支持教师模式时修正会弱；forward KL在这类缺覆盖处仍能推动。所有位置保留RKL，只局部增加纠正。
教学例子：例如教师支持的关键数字被学生几乎忽略，需要额外覆盖信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
物理时间序列只作训练标签，为何还能改善仅输入视频的编码器？
Time-JEPA: Grounding Video World Models with Physical Time Series
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：辅助头把视频表示映射到速度或关节角，误差反向推动编码器保留这些物理信息，部署时可以删除该头。传感器不进入输入，因此评测仍是视频任务；无效帧要保持掩码，归一化统计也只能来自训练集，避免伪造零标签或测试泄漏。
教学例子：例如训练时用同步速度监督视频表示，测试只给运动画面；若把速度数值直接拼进测试输入，就变成不同任务。
依据：背景与主要改动、核心公式与隔离要求；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
tubelet 内某变量完全缺测时，能否补成有效零标签？
Time-JEPA: Grounding Video World Models with Physical Time Series
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：不能。每个变量独立按 valid 帧求均值，空 tubelet 仍无效；归一化均值方差仅在训练集拟合并冻结。物理损失只在有效项上求 SmoothL1，β 为 0.5；不同域还各有 head、统计和权重，不能混成同一无条件标签空间。
教学例子：例如两帧都没测到关节角，填零会把未知误当真实零角度；正确做法是让该变量该 tubelet 不贡献监督。
依据：核心公式与隔离要求、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
辅助物理目标与只做 masked latent prediction 约束什么不同信息？
Time-JEPA: Grounding Video World Models with Physical Time Series
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：masked latent 预测鼓励表征可预测，却未必保留精确物理量；同步物理监督直接推动同一 encoder 保留这些变量。它可能改善物理可读性，但仍受变量覆盖与跨域分布影响，不能将一个域的探针结果推广为所有物理任务或控制能力。
教学例子：例如视频模型能补全道路纹理，却忽略速度微差；训练专用速度目标会直接要求表示区分这类差异。
依据：背景与主要改动、核心公式与隔离要求；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
理解视频里的动作类别，与保留精确速度和关节角，为什么是不同学习要求？
Time-JEPA: Grounding Video World Models with Physical Time Series
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：语义分类可在很多姿态和速度变化下保持不变，控制或物理分析却可能需要这些连续量。Time-JEPA 研究让视频表示在自监督之外保留更细的时间物理信息。目标不是把传感器当作部署捷径，准确连续状态也不能仅由动作标签正确推断，需要针对数值量独立检查。
教学例子：教学例：两段视频都叫“抬手”，但快慢和肘部角度不同；类别判断相同不表示表示里已经保留足够精度供机器人使用。
依据：背景与主要改动、核心公式与隔离要求；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
SMRC/PMRC只存低秩动量，怎样补上子空间外的有效梯度？
Memory-Efficient Subspace Optimization with Residual Correction: From Momentum SGD to Muon
问答新增：2026-10-27 · Nanjing University / Alibaba Token Hub
展开答案与例子
答案：投影内部分由低维动量更新，当前原始梯度的正交残差提供其余方向，不额外持久保存全尺寸残差状态。SMRC对低维动量作EMA，PMRC还改变矩阵方向处理；换基时二者规则也不同。节省动量存储不意味着可以把残差删掉，或把两种方法都简化成同一个投影SGD。
教学例子：主要子空间抓住两个高能方向，但较小的第三方向仍有下降信息；用当前梯度残差补这部分，同时无需为它再保留一整张长期动量矩阵。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
SMRC 刷新基之前，为什么必须先修正参数并重新做 backward？
Memory-Efficient Subspace Optimization with Residual Correction: From Momentum SGD to Muon
问答新增：2026-10-27 · Nanjing University / Alibaba Token Hub
展开答案与例子
答案：文档stage末先修正真实参数、清零动量，下次forward/backward在新参数上产生新梯度后才刷新基。沿用修正前旧梯度会错配状态；本地beta还是新梯度系数，需避免与常见API相反。
教学例子：stage边界后参数已改变，不能拿改变前那次梯度当作新起点的梯度。
依据：核心公式、已实现的组件；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
SMRC 与 PMRC 都存低维动量，为什么仍不是同一个优化器？
Memory-Efficient Subspace Optimization with Residual Correction: From Momentum SGD to Muon
问答新增：2026-10-27 · Nanjing University / Alibaba Token Hub
展开答案与例子
答案：SMRC直接使用EMA动量映回；PMRC对低维动量取矩阵符号。stage边界也不同：SMRC有参数修正，PMRC理论算法没有同样平移，不能以一个投影SGD函数代替两者。
教学例子：相同低维M经过原值映回与msign后映回，通常产生不同更新方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
SMRC/PMRC 为什么不能只保留低秩投影里的梯度？
Memory-Efficient Subspace Optimization with Residual Correction: From Momentum SGD to Muon
问答新增：2026-10-27 · Nanjing University / Alibaba Token Hub
展开答案与例子
答案：主奇异子空间可能被噪声占据，子空间外仍有有效下降方向。方法以低维动量处理投影内部分，每步从真实梯度计算正交残差补回，不持久保存全尺寸残差动量。
教学例子：当前投影关注一个大方向，另一个较小但有用的方向不应因此永远没有更新。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
核心机制
Selective Reasoning为什么区分启动推理、触发读取与接受答案，而不能只写一个置信阈值？
Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：启动门判断推理是否值得，触发器决定何时从自然生成前缀发起答案读取，读取后的归一化熵才决定是否接受并取消后续生成。三者作用在不同状态。预算耗尽的强制返回必须单独标记，不能算阈值成功早停；控制器拟合也不能使用评测金标。
教学例子：例如模型值得推理但暂未到可读状态时继续生成；读取后仍不确定就再推理，直到预算结束也不确定时应标强制返回而非自信停止。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
实现细节
候选数变化时为什么用H除以logK来算certainty？
Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：不同候选数的最大熵不同，归一化后确定度阈值才有可比意义。仍需区分取消生成与预算耗尽，门控的标准化统计及权重在评测前冻结，不能用测试反馈重拟合。
教学例子：例如四选一与十选一原始熵量级不同，直接使用相同原始熵阈值会改变停止标准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
方法对比
按自然生成状态读取与每隔固定词元盲读有何差别？
Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：自然状态触发器尝试在更适合显式答案读取的位置发起查询，间隔控制只限制频率。读取是否可靠还由共享reader与熵判定决定，触发不等于已经有正确答案。
教学例子：例如刚完成一个推导小结时可能比算式写到一半更适合读取，但仍需检查候选分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
基础理解
Selective Reasoning为什么不让所有题都生成同样长的推理？
Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：有些有限候选任务直接读出已足够，另一些需要额外步骤；按预期收益启动推理，并在中间读取答案，可把计算分配给仍需要它的题，而非固定长度。
教学例子：例如简单意图选择直接返回，多步算术才进入推理，并在足够确定时结束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
PN-Mix为什么按真实RoPE通道对的Q/K范数乘积分配精度，而不只看K幅度？
PN-Mix: Pair-Norm Guided Mixed-Precision Key Cache Quantization for Efficient Long-Output LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：注意力误差由查询与键共同决定，只看键大小会忽视查询是否使用该方向。把同一旋转平面的两维整体评分，才能保留RoPE耦合结构；每个共享KV头在预填充阶段选定高精度对并复用，不能读取未来解码状态重选。存储布局相邻也未必是实际旋转配对。
教学例子：例如某键方向很大但查询几乎不用，未必最值得高精度；Llama前后半维配对时，把内存相邻两维当一对会保护错误方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
Llama/SmolLM2 的 RoPE pair 能按相邻两维直接配对吗？
PN-Mix: Pair-Norm Guided Mixed-Precision Key Cache Quantization for Efficient Long-Output LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：文档区分split-half与interleaved布局，Llama前后半维配成旋转对，不能按存储相邻误分。高精度pair mask由prefill确定并跨页复用，不能读取未来decode状态重选。
教学例子：前半维第i项与后半维第i项是一对，不一定是数组里的i与i+1。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
PN-Mix 的 1-bit correction 与 FP16 residual buffer，是同一份误差补偿吗？
PN-Mix: Pair-Norm Guided Mixed-Precision Key Cache Quantization for Efficient Long-Output LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：不是。前者调整1-bit重构bin的数值位置，不另存残差码；后者暂存尚未量化的新token。两者影响不同存储与数值环节，不能合并记账或互相省略。
教学例子：一个已量化组使用修正网格，仍与一批保持原精度的新token并存。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
PN-Mix 为什么给一部分 RoPE 通道对较高精度？
PN-Mix: Pair-Norm Guided Mixed-Precision Key Cache Quantization for Efficient Long-Output LLM Inference
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：不同旋转平面对QK匹配的影响不同。方法用prefill Q/K两侧平均范数乘积判断重要性，按KV head固定高精度pair选择，在缓存位宽与attention误差间做折中。
教学例子：对匹配影响较大的二维旋转对，两维一起分配更高位宽。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
OOB 为什么能让小 batch 使用接近全数据范围的抗坍塌监督？
Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning
问答新增：2026-10-27 · European Molecular Biology Laboratory (EMBL)
展开答案与例子
答案：它把全数据统计与在线优化分开：定期编码训练集并建立每样本锚点，随后小 batch 读取对应固定目标。这样在线更新无需每步重新估计完整分布，但锚点会随模型变化而陈旧，需要刷新；这不同于直接在小 batch 上计算普通方差或协方差损失。
教学例子：例如显存一次只能放八张图，仍可事先用全训练集生成排序分位数目标，再让这八张各自匹配自己的缓存锚点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
锚点刷新的方向、目标和梯度应怎样隔离？
Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning
问答新增：2026-10-27 · European Molecular Biology Laboratory (EMBL)
展开答案与例子
答案：刷新后投影方向和按样本分配的目标固定，detach 后存 CPU，在线损失对 B、视图数 V、方向数 M 归一化，不通过锚点反传到刷新阶段。球面变体另优化单位锚点，不能替换为 Gaussian 目标；稳定索引丢失会把样本配到错误锚点。
教学例子：例如数据加载器打乱顺序后仍需按原样本 ID 查锚点，不能把缓存第一个目标直接给当前 batch 的第一张图。
依据：核心公式、本地复现、复现边界与成本结论；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
Gaussian sorted-quantile 目标与只约束均值零、方差一有何不同？
Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning
问答新增：2026-10-27 · European Molecular Biology Laboratory (EMBL)
展开答案与例子
答案：排序分位数为每个样本沿随机方向分配正态目标，约束投影分布及样本对应；均值方差只约束少数矩，许多不同分布都满足。该目标也不是原始 Epps–Pulley 统计量，配对基线应使用同一分位数口径，避免把损失差异误作范围收益。
教学例子：例如一半样本在负一、一半在正一也可均值零方差一，却不是正态分位数排列；锚点目标会区分两种分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
小 batch 自监督学习为什么可能让图像视图对齐，却仍学不到可区分的表示？
Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning
问答新增：2026-10-27 · European Molecular Biology Laboratory (EMBL)
展开答案与例子
答案：把同一图像的增强视图拉近，只约束一致性，所有样本输出常量也可满足；抗坍塌还需判断整体表示是否足够分散。小 batch 对分布估计容易不足，OOB 研究在显存受限时取得更广统计支持。统计范围更大不自动保证下游能力，仍需匹配目标与独立评估。
教学例子：教学例：一个 batch 的几张图片编码相近，无法判断是样本本就相似还是全模型坍塌；只检查两视图差小，容易漏掉后一种问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Mosaics+为何分别归一化当前任务和相关任务记忆，不能直接混成一个softmax？
Open-world AI: a Tale of Three Requirements
问答新增：2026-10-27 · FAIR, Meta
展开答案与例子
答案：把两类记忆混池后，它们会在同一个分母中竞争；数量很多但无关的旧任务可能稀释当前任务证据。two-stage路径分别求两类记忆的归一化预测，再合并结果，使证据来源保持可分。短期模块负责近期依赖，长期记忆保存预测关联；读取也要跳过不合法的未来位置。
教学例子：当前文档只有3条有用关联，历史库却有1000条其他任务记录。混池可能让后者挤占权重；分开归一化后，当前文档的预测不会仅因旧记录数量增长而被同样稀释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
预测 value 用到 i+1 的信息时，怎样避免当前查询读取未来？
Open-world AI: a Tale of Three Requirements
问答新增：2026-10-27 · FAIR, Meta
展开答案与例子
答案：读取范围限制为i≤t-s且s≥1，因而value涉及的i+1不超过当前可见边界。还需按文档边界拆开两次归一化，并处理空记忆；文档中的独立循环与未来扰动是重要负对照。
教学例子：skip=1时最多读取i=t-1的关联，其预测value可涉及t，但不能读取t+1。
依据：核心公式、结果与独立对照；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
Mosaics+ 的 two-stage 检索，与把当前任务和历史任务放进一个 softmax 池有什么区别？
Open-world AI: a Tale of Three Requirements
问答新增：2026-10-27 · FAIR, Meta
展开答案与例子
答案：two-stage分别归一化当前任务与相关历史任务，再合并估计。单一混池中，历史条数增多会改变当前任务的相对权重，即使新历史并不相关；两个计算并不等价。
教学例子：加入很多旧任务样本，不应仅凭数量就淹没当前文档里少量但关键的关联。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Memory Mosaics+ 为什么强调推理时学习新任务，而不只看 IID 测试？
Open-world AI: a Tale of Three Requirements
问答新增：2026-10-27 · FAIR, Meta
展开答案与例子
答案：固定训练分布上的测试无法充分说明模型怎样利用新出现的任务经验。Mosaics+把近期依赖和长期关联检索结合，使推理过程能从已有上下文中的预测关联组织新任务证据。
教学例子：模型面对一个新的输入输出规则时，可利用刚观察到的关联，而不只重复旧任务统计。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么要从预测状态误差中减去真实表征经同一解码器得到的误差？
One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：解码误差同时混合编码器可读性、解码器不足和预测器偏差。固定同一解码器，先测真实下一表征，再测预测下一表征，差值更接近预测环节新增的影响；它可能为负，不能截零。即便差值小，长程规划成功率仍需独立配对验证。
教学例子：例如解码器本来就把位置估错两格，预测表征又错三格；不能把全部三格都归因预测器，应先扣除真实表征的基础误差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
E_excess 为负时应截成零吗？
One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：不应。它定义为预测表征解码误差减真实表征解码误差，预测表示偶然更适合冻结解码器时差值可为负。两种表示完全相同则差值必须为零；状态归一化方差只由共享训练数据确定，解码器不能用预测 test 表征重新拟合。
教学例子：例如真实表征误差为三、预测为二，差值应为负一；截零会改变定义并掩盖解码器外推现象。
依据：核心公式、本地复现、聚合、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
一步物理预测误差下降与规划成功率提升为什么需要分开测？
One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：规划反复调用模型，误差可能累积、偏向关键动作或改变搜索路径；一步平均误差无法表达这些闭环影响。应在同一 checkpoint、任务和配对种子上实际运行规划，再比较成功率，不能由一个预测指标自动推导行动能力。
教学例子：例如模型在常见静止状态更准，却在碰撞附近稍错，整体一步误差下降仍可能让规划频繁撞墙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
JEPA 的下一步 latent loss 很小，为什么还不足以判断它理解了物理运动？
One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：latent 是编码器自己的坐标，距离小未必对应位置、角度或速度误差小，也未必帮助长程规划。该工作把物理状态解码与真实规划分开检查，并用共享训练尺度组织误差。研究目标是厘清预测指标代表什么，不能从某个内部 loss 的下降直接宣布物理理解或控制成功。
教学例子：教学例：两个预测向量很接近，解码后却可能对应不同物体角度；还需检查物理量误差，以及同任务中实际规划是否成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么新视角图像看起来清晰、相机姿态也正确，仍可能不满足 PCC？
ESC: Escaping 2D Diffusion Ambiguity with Geometric Constraints for Consistent Novel View Synthesis
问答新增：2026-10-27 · FAIR at Meta / Mila - Québec AI Institute / Université de Montréal
展开答案与例子
答案：外观逼真不约束两视角是否描述同一个三维场景。PCC 用深度重投影及可见性检查双向几何差，区分物体消失与凭空出现；遮挡和无效像素必须处理，不能用普通 RGB 差代替。Best-of-N 选优比较的是几何一致性，而非直接选择最漂亮的图片。
教学例子：例如转动镜头后桌上的杯子消失，新图依旧自然清晰；双向深度重投影却会暴露这处不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
重投影计算为什么必须包含 z-buffer 和有效像素 mask？
ESC: Escaping 2D Diffusion Ambiguity with Geometric Constraints for Consistent Novel View Synthesis
问答新增：2026-10-27 · FAIR at Meta / Mila - Québec AI Institute / Université de Montréal
展开答案与例子
答案：多个源点投到同一目标像素时要处理遮挡，负深度、越界或无源深度点也不能当有效误差。PCC 还含阈值、对数压缩、裁剪与覆盖归一化，不是简单绝对深度差。当前未实现或训练 ESC，本地没有可用能力指标。
教学例子：例如墙后物体在目标视角被遮住，不应因缺少可见对应就算作消失；忽略遮挡会把正确几何当成失败。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
PCC Best-of-N 与按 RGB 相似度选最像源图的候选有什么不同？
ESC: Escaping 2D Diffusion Ambiguity with Geometric Constraints for Consistent Novel View Synthesis
问答新增：2026-10-27 · FAIR at Meta / Mila - Québec AI Institute / Université de Montréal
展开答案与例子
答案：新视角本来就应改变像素外观，RGB 相似不能直接代表几何正确。PCC 使用源与目标深度的双向投影、遮挡和有效覆盖判断缺失与幻觉几何，并选择分数最小的候选；它衡量特定几何约束，不保证所有图像质量指标同时最优。
教学例子：例如相机转到桌子另一侧，正确图像与源图像素差很大；重复源图可能 RGB 更近，却不符合目标视角。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
单图生成新视角时，ESC 为什么关心物体是否在三维场景中一致存在？
ESC: Escaping 2D Diffusion Ambiguity with Geometric Constraints for Consistent Novel View Synthesis
问答新增：2026-10-27 · FAIR at Meta / Mila - Québec AI Institute / Université de Montréal
展开答案与例子
答案：图像生成器可能画出清晰、姿态看似正确的画面，却让物体凭空出现或在转视角后消失。ESC 研究把颜色与深度联系起来，用几何一致性检查这些错误。新视角与源图本来就不应逐像素相同，目标是可解释的空间变化，而非单纯追求更相似或更好看的图片。
教学例子：教学例：镜头绕桌移动，杯子位置应随投影变化；若杯子在无遮挡处消失，画面再精致也不符合相同场景的几何关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
EgoJEPA 为什么先学习潜动作，而不把人的手部轨迹直接规则映射成机器人关节？
EgoJEPA: Beyond Retargeting for Dexterous Manipulation from Egocentric Videos
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：人的手与机器人的执行器形态不同，硬映射容易把特定身体结构当成通用动作。方法先用运动差分条件学习与视觉变化相关的潜动作，再联合视觉建模，最后适配目标机器人的动作接口；可迁移的是作用关系，而不是假设两种关节坐标天然等价。
教学例子：例如人的捏取动作和夹爪闭合角度不同，但都能导致杯子被拿起；先学这一状态变化，再适配夹爪的输入输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
未来视觉目标在 JEPA 训练和实际控制时的可见性有什么区别？
EgoJEPA: Beyond Retargeting for Dexterous Manipulation from Egocentric Videos
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：训练时真实未来帧经目标编码器提供停止梯度的表征，用于监督历史和手部差分条件预测；实际控制不能读取尚未发生的未来。当前本地只有方法和成本收录，无 adapter、指标或 GPU 回执，不能把公式说明当作真实机器人链路已实现。
教学例子：例如给定前几帧预测拿起后的物体位置，目标帧只用于训练核对；部署时若直接输入该帧，就已提前泄露未来。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
动作条件 JEPA 与后续视觉—潜动作联合 Flow Matching，分别学习什么关系？
EgoJEPA: Beyond Retargeting for Dexterous Manipulation from Egocentric Videos
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：前一阶段利用手部运动差分预测未来视觉表示，让潜动作与可观察变化建立联系；后续联合建模视觉和潜动作，再通过目标机器人输入输出接口适配控制。它们不是同一个损失换名字，预测未来的表示学习与联合生成承担不同职责，也不能据前者成功推出真实机器人控制已完成。
教学例子：教学例：先学“某类手部变化对应怎样的视觉后果”，再学习视觉与潜动作的联合结构；目标机械臂仍需要自己的控制接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
EgoJEPA 为什么尝试从大量人类第一视角视频学习可迁移的动作经验？
EgoJEPA: Beyond Retargeting for Dexterous Manipulation from Egocentric Videos
问答新增：2026-10-27 · Mohamed bin Zayed University of Artificial Intelligence
展开答案与例子
答案：机器人示范昂贵且不同本体接口各异，人类视频则含丰富的视觉变化与行动关系，却没有直接可用的机器人控制量。EgoJEPA 研究先学习视觉与动作的潜在结构，再适配目标机器人接口。视频中的相关变化不是任意机器人的可执行命令，真实控制仍需适配与环境验证。
教学例子：教学例：人类打开抽屉的视频可提供动作与场景变化经验；换成机械臂后，关节控制仍须通过目标机器人接口学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么保留原话和删减标记，比重新生成一段流畅摘要更透明？
Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
问答新增：2026-10-27 · Hokkaido University
展开答案与例子
答案：原话保留承诺的措辞，删减标记明确告诉模型哪些负载已移出，并提供完整会话的恢复路径。这样压缩不会把推测悄悄改成确定事实；但恢复索引存在不等于模型已经找到证据，历史搜索仍可能需要子代理调用，不能统称零模型成本。
教学例子：例如用户说“暂时不要部署”，生成摘要若漏掉“暂时”会改变意思；保留原句并标出工具日志被移走更容易审计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
Pi 分支与工具 metadata 在压缩中为何不能随正文一起删掉？
Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
问答新增：2026-10-27 · Hokkaido University
展开答案与例子
答案：只应读取选定叶节点的祖先分支，防兄弟轨迹混入；工具配对 ID、名称、错误与退出状态支撑调用语义，即使正文被移出也要保留。启用正文字符 cap 会删除最旧完整块并留恢复标记，此时不能继续宣称全部原话仍在活跃上下文。
教学例子：例如一次工具返回 isError=false 也应保留，不能把 false 当空值删除；否则再次压缩可能丢失这次调用实际成功的状态。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
确定性压缩与模型子代理 context_lookup 的成本为什么不能合并说成零调用？
Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
问答新增：2026-10-27 · Hokkaido University
展开答案与例子
答案：压缩规则本身无需模型，历史搜索与语义定位则由模型子代理完成，是另一条能力与成本链。本地实现精确按 ID 恢复和 hash 校验，没有实现论文模型检索；因此字符数下降只说明视图变化，不能当记忆回答能力或总存储同比下降。
教学例子：例如已知日志 ID 后读回内容可零模型完成，但不知道要找哪条承诺时，语义搜索仍可能需要额外推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长编码会话压缩后，为什么用户的承诺和限制特别容易被遗忘？
Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
问答新增：2026-10-27 · Hokkaido University
展开答案与例子
答案：大量工具日志与讨论争夺上下文，模型摘要可能省略细小却必须遵守的原话，或把原本有条件的要求改成绝对结论。透明压缩把保留与移出明确展示，并给出原始材料恢复路径，目标是让接续工作时知道哪些事实仍可见、哪些需要回查。
教学例子：例如用户说“确认测试后才能提交”，若摘要只写“准备提交”，后续 Agent 就可能把一个附条件承诺误作已获完成授权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
response latency 与 action age 为什么不能混成一个指标？
The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock
问答新增：2026-10-27 · Peking University / Samsung Research
展开答案与例子
答案：前者到模型返回为止，后者还包含排队和应用动作的时间；实况环境持续变化，返回快也可能因应用晚而失效。慢教师只能在尝试之间用反馈练习和改指导，再由独立 validation 决定是否替换，不能在 live test 中偷看未来状态修正动作。
教学例子：例如模型一秒内决定跳跃，命令又排队两秒才执行，此时障碍已移走；动作年龄三秒，比单纯响应一秒更能解释失败。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
validation 打平时是否接纳新指导，本地测到什么？
The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock
问答新增：2026-10-27 · Peking University / Samsung Research
展开答案与例子
答案：不接纳，完整相同 task ID 配对的平均增益须严格大于零，且 feedback、validation、test 分离。时间戳需有限有序；本地只验证计时和数值选择合同，未运行游戏引擎、Jev 或教师，不能把 fixture 的动作年龄差写成游戏进展提升。
教学例子：例如新旧指导各得到同样验证分，不能因新说明更长就替换；也不能看 test 略好后再反向选它。
依据：核心公式、本地复现、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
慢教师在线接管与 TORSI 两次尝试间离线指导有什么区别？
The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock
问答新增：2026-10-27 · Peking University / Samsung Research
展开答案与例子
答案：在线接管会让慢模型直接参与实时控制，可能因延迟失效；TORSI 让慢教师在尝试间分析 feedback 并练习，冻结指导后快学生独立执行。教师不能读 test 来修订，指导只由独立 validation 的严格增益接纳，不应把回放练习当实况执行。
教学例子：例如教师可离线解释某次追踪失败，但下一场 live 仍由学生自己快速选动作，不能暂停世界等教师逐步告诉答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
实时 Agent 为什么可能“想得更好”，却因为响应太慢而做错事？
The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock
问答新增：2026-10-27 · Peking University / Samsung Research
展开答案与例子
答案：任务环境会在推理期间继续变化，基于旧观察生成的动作到执行时可能已经过期。TORSI 研究在实时约束下改进小型执行策略，让高质量指导不必都发生在在线关键路径。离线学习和在线响应要分别核算，静态任务准确率不能代替真实时间环境中的有效行动。
教学例子：教学例：目标在移动，模型花很久算出对旧位置的正确动作，执行时仍会落空；需要同时关注响应速度和信息新鲜度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么“形成一个复合能力”与“允许它进入持久技能库”要分成两步？
Recursive Formation and First-Class Reuse of Compositional Capabilities
问答新增：2026-10-27 · not listed in paper
展开答案与例子
答案：接口相容只说明操作可以组合，不说明组合满足目标行为。独立验证器确认后才准入，持久身份再绑定父操作、类型和组合方式，加载时检查引用与无环性；之后可直接调用，但内部真实计算并未消失，不能把少搜一次说成零成本执行。
教学例子：例如把排序再去重组合成新操作，能连起来并不保证处理空输入正确；验证后才保存，之后才能作为一个候选直接复用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
冷加载时为什么重新检查规范 hash、父引用与无环性？
Recursive Formation and First-Class Reuse of Compositional Capabilities
问答新增：2026-10-27 · not listed in paper
展开答案与例子
答案：持久能力身份由类型、操作和父 ID 的规范 JSON 哈希决定，文件可能损坏或被篡改；父引用完整及无环才能保证递归执行合法。真正持久复用需销毁旧对象再冷加载同一快照比较，本地序列域结果不能推广为通用 Lean 或 LLM 能力。
教学例子：例如文件把父 ID 改为自己，即使名称没变也会产生循环；仅保存内存对象引用无法验证磁盘恢复合同。
依据：核心公式、本地复现、代码映射、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
直接调用已准入复合能力，与每次展开重新搜索，节省的是哪种工作？
Recursive Formation and First-Class Reuse of Compositional Capabilities
问答新增：2026-10-27 · not listed in paper
展开答案与例子
答案：一等复合能力可作为有身份、有类型的操作再次参与组合，后续不必重做它的形成搜索；重新展开则要再次寻找父操作及组合关系。复用节省搜索和装配工作，执行内部子操作的真实计算仍要发生，因此调用次数、形成尝试数和底层执行成本应分别核算。
教学例子：教学例：已学会“先筛选再排序”的组合，下次可直接选它；筛选和排序仍会执行，不能把省去重新拼装说成零计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
一等复合能力与只保存一段形成历史有什么区别？
Recursive Formation and First-Class Reuse of Compositional Capabilities
问答新增：2026-10-27 · not listed in paper
展开答案与例子
答案：一等能力有独立类型、公开调用 ID 和执行语义，可直接作为后续组合的候选；历史记录只说明过去如何拼出它，使用时可能仍需重做搜索。直接复用减少形成工作，但内部递归计算仍真实执行，不是把已知答案缓存成常量。
教学例子：例如“追加 01”可成为普通算子，下一题直接组合这个 ID；它仍对当前输入实际追加两项，不返回上一题结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
公开执行材料为什么不能重命名为 T_full 来复算完整报告差距？
What Coding Agents Leave Unsaid: Measuring Task-State Gaps Between Execution and Reports
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：原完整视图包含部分不公开推理或记忆证据，公开子集缺这些事实，观察者能力和可回答问题范围会改变。同题配对与重要原子权重用于衡量报告遗漏，仍须区分公共与完整条件；按 task/run 聚类也避免把同任务大量探针当独立样本。
教学例子：例如某端口只记录在私有记忆里，公开日志没有；用公开日志观察者答不出，不能说它代表原论文完整执行视图的上限。
依据：背景与主要改动、核心公式与统计单位；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
CTXGAP 的置信区间为什么按 task/run 重采样而不是按探针独立重采样？
What Coding Agents Leave Unsaid: Measuring Task-State Gaps Between Execution and Reports
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：同一任务探针共享执行和报告条件，并非独立样本；需聚类且保持条件配对。类别权重和任务等权汇总也要保留，不能用pooled准确率差替换主任务等权差距。
教学例子：一个任务生成100个相似探针，不能被当作100个独立任务来缩小区间。
依据：核心公式与统计单位；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
CTXGAP 的重要性加权准确率，与把所有探针等权平均有何区别？
What Coding Agents Leave Unsaid: Measuring Task-State Gaps Between Execution and Reports
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：某类别探针越多，不应仅因此压过重要事实更集中的类别。权重以类别重要原子事实数除以探针数，先累加加权分数再归一化；等权平均容易被大量简单或相似问题稀释遗漏。
教学例子：为一条琐碎日志生成很多题，不应掩盖一个关键验收事实未被报告。
依据：背景与主要改动、核心公式与统计单位；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
CTXGAP 测量的报告信息差距，与任务完成率有什么不同？
What Coding Agents Leave Unsaid: Measuring Task-State Gaps Between Execution and Reports
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：它在同一探针上比较累积报告观察者和完整执行视图观察者，测用户能否恢复真实任务状态。任务可能已完成但报告漏掉关键事实，反之报告详尽也不保证任务成功。
教学例子：代码已修好，但报告未说某个检查没有运行，用户仍无法准确判断验收状态。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
对技能内容做意义保持改写时，为什么必须固定原始检索选中集合？
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
问答新增：2026-10-27 · Alibaba Token Hub, Alibaba Group
展开答案与例子
答案：重新检索会同时改变拿到哪些技能，无法区分策略依赖措辞还是检索器排名变化。先固定选中身份及检索字段，只替换内容，才能更集中测技能表达的脆弱性；意义等价也不能靠字符串相似度证明，整体成功率不变仍可能隐藏双向 outcome flip。
教学例子：例如把同一流程改写为同义句，应仍提供原来三份技能；若改写后换了另外三份，性能变化就不再只由措辞导致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
CODA 的 RR 分母应是 no-skill 成功任务数吗？
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
问答新增：2026-10-27 · Alibaba Token Hub, Alibaba Group
展开答案与例子
答案：不是。RR统计no-skill与扰动技能两条件都成功的任务，占全部相同任务的比例。条件成功任务分母会改变定义；输入还须保留所有条件的相同ID集合，拒绝漏任务。
教学例子：100题中no-skill成功20题、交集10题，RR是10%，而非50%。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
CODA 为什么除 aggregate success rate 外还看逐任务 CR？
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
问答新增：2026-10-27 · Alibaba Token Hub, Alibaba Group
展开答案与例子
答案：总成功率可被双向翻转抵消：一些原成功任务失败、另一些原失败任务成功，总数不变。CR比较同一任务两条件结果一致性，并用重复未扰动运行作为随机噪声参照。
教学例子：两个任务的成败完全互换，总成功率仍为50%，但CR为0。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
CODA 为什么在改写技能前先冻结原始检索集合？
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
问答新增：2026-10-27 · Alibaba Token Hub, Alibaba Group
展开答案与例子
答案：它要审计策略对已交付技能内容和措辞的依赖，而重新检索还会改变选中技能与排序。固定retrieval-side字段只替换内容，才能减少检索变化对结果的混杂。
教学例子：改写一个技能后若它不再被检索到，无法分清是措辞依赖还是检索召回变化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
修复轨迹为什么只能提出待执行 tool call，不能直接写入一个成功 tool result？
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems
问答新增：2026-10-27 · Florida State University
展开答案与例子
答案：工具结果必须来自真实执行，否则补丁只是伪造证据。切断点保留已观察前缀，模型续写可提出新行动，再与 fresh control 比较是否真的恢复；结构合法只证明补丁格式可接纳，不能单独证明归因正确或错误已被修好。
教学例子：例如模型提出重新运行测试是合法修复候选，但不能在续写里直接捏造“全部通过”；必须执行测试并读取实际结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
cut 事件、补丁类型和长度有哪些硬合同？
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems
问答新增：2026-10-27 · Florida State University
展开答案与例子
答案：切断保留被引用的已观察事件，非空 cut 必须早于定位坏事件；补丁最多八事件、一万二千规范 JSON 字符，ID 不冲突且不能只换 ID 重贴旧后缀。只允许 assistant 消息或待执行 tool call，不能伪造工具结果；本地未训练五阶段模型。
教学例子：例如模型可提出重新查询订单，但不能直接插入“工具返回已付款”的假 observation，让修复看起来凭空成功。
依据：核心公式、本地复现、成本与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
patched pass 与 fresh control fail 为什么要同时作为 verified 条件？
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems
问答新增：2026-10-27 · Florida State University
展开答案与例子
答案：patched 成功可能只是重跑随机性或环境改变，fresh control 也成功时无法说明修复带来必要改进。配对条件减少把普通重试误当修复的情况，但仍不是完整框架精确因果重放；原文用重建 continuation context，有明确证据边界。
教学例子：例如修补后测试通过，但不修补重新跑也通过，这对样本不应被当成已验证修复训练对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
为什么在早期部分轨迹上修复，而不只在结束后写失败总结？
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems
问答新增：2026-10-27 · Florida State University
展开答案与例子
答案：早期错误会沿多 Agent 消息传播，运行中切断并续写有机会阻止后续放大。ARIA 学习何时干预、在哪里切断及如何续写，但补丁仍须实际执行验证；结构上替换了后缀不代表诊断正确或环境状态已精确回滚。
教学例子：例如第三区域消息把单位写错，后续多名 Agent 都沿用；在传播前修复比任务结束后说明单位错误更可能改变结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
重试为什么只增加 attempt，而不增加逻辑样本分母或挑最好的一次？
AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks
问答新增：2026-10-27 · Hong Kong Baptist University
展开答案与例子
答案：同一 task/sample 的重试仍是在解决同一请求，多算分母或挑最好记录会改变采样含义并隐藏失败成本。报告取最新记录、总成本累加所有 attempt，运行状态与评分状态分开；未评分是未知，不应伪装正确或从计划样本中静默删除。
教学例子：例如同题先超时再成功，两次 token 都计成本，但样本仍是一份；不能只留下便宜的成功日志，让第一次尝试仿佛没发生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
AlphaDiana 何时必须让完整 tokens/correct 返回未知？
AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks
问答新增：2026-10-27 · Hong Kong Baptist University
展开答案与例子
答案：没有已确认正确样本、任一attempt缺token，或请求样本尚无执行记录时，完整成本为None。已知token与覆盖率可以单列，但不能把部分计量补成完整推理成本。
教学例子：两次尝试只记录了一次token，即使最终正确，也不能声称已知道完整每正确样本成本。
依据：核心公式、无 gold 边界与限制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
重试后选最新 attempt，与选最好 attempt 会产生什么评测差异？
AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks
问答新增：2026-10-27 · Hong Kong Baptist University
展开答案与例子
答案：同一逻辑样本的重试不增加分母，协议按最新状态报告；挑最好结果会把多次机会变成隐含选择优势。成本则累计所有attempt，不能只算被展示的最后一次。
教学例子：先成功后重试失败，按最新协议不能回捞第一次成功，却只报告一次执行成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
AlphaDiana 为什么分开记录执行状态与评分状态？
AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks
问答新增：2026-10-27 · Hong Kong Baptist University
展开答案与例子
答案：程序运行成功并不保证grader给出了有效判定；评分中断属于未知而非自动正确或错误。分离状态并保留完整计划分母，才能看见执行失败、缺失评分及真实覆盖率。
教学例子：工具完成了操作，但评测器超时，这个样本应标未评分，不能从报告消失。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
LoOPSD不新增权重而重复一段网络层，为什么仍有教师成本，也需要独立validation选路由？
LoOPSD: On-Policy Self-Distillation with Looped Teachers
问答新增：2026-10-27 · Anhui Province Key Laboratory of Digital Security
展开答案与例子
答案：重复层改变计算路径和条件分布，可形成更有用的教师，但每token要额外执行这些层，搜索还会多次评估候选。只按独立validation选择优于标准路径的路由，再在学生自身前缀蒸馏；test不能参与选择，无新参数也不代表免费或保证更强。
教学例子：同一本笔记再读关键章节可能改善理解，但耗时增加；挑哪段重复应在开发题验证，不能看最终考试答案来选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
LoOPSD蒸馏时教师路由和权重是否一起求导？
LoOPSD: On-Policy Self-Distillation with Looped Teachers
问答新增：2026-10-27 · Anhui Province Key Laboratory of Digital Security
展开答案与例子
答案：本轮两者固定，学生标准路径接受RKL更新；训练参考答案可用于允许的路由搜索，不能进入学生蒸馏生成。每词额外执行重复区间长度，成本需计入。
教学例子：例如重复五层不是零成本教师，即使没有新参数也增加前向计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
每轮重搜loop教师与固定初始loop路径有什么区别？
LoOPSD: On-Policy Self-Distillation with Looped Teachers
问答新增：2026-10-27 · Anhui Province Key Laboratory of Digital Security
展开答案与例子
答案：学生更新后最优重复区间可能变化，重搜让教师跟随当前模型；固定路径不具这条适应。只有独立验证优于标准路才继续，不能用测试集选路由。
教学例子：例如原先有效的中层重复在学生学会后可能不再有益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
LoOPSD为什么通过重复层构造教师而不换更大权重？
LoOPSD: On-Policy Self-Distillation with Looped Teachers
问答新增：2026-10-27 · Anhui Province Key Laboratory of Digital Security
展开答案与例子
答案：相同参数执行更深的循环路径可能提供更有用预测，搜索连续重复区间形成教师，再在学生自身前缀蒸馏。额外能力来源是计算路径，不是新外部答案。
教学例子：例如同一组中层再走一遍，参数没增加，但每词执行层数增加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么生成冲突场景前要固定真实状态并执行参考计划证明任务可解？
CLASHarness: Benchmarking Multi-Agent Conflict in Computer Use via a Controllable and Verifiable Generation Pipeline
问答新增：2026-10-27 · Google / Emory University（共同署名）
展开答案与例子
答案：否则失败可能只是场景自相矛盾或界面不可操作，而非 Agent 不会处理 peer 冲突。可执行参考建立真实状态、允许目标和检查义务，再检验被测者能否依据环境完成；空 required 集合或缺失 verdict 不能自动算成功，公平性调整也应预先声明。
教学例子：例如 peer 声称文件已删除，真实文件仍在且参考操作可完成任务；这样才可测 Agent 是否核对环境，而非面对无解场景。
依据：背景与主要改动、核心公式与公平性口径；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
CLASHarness 公平性降级检查时，为什么不能按列表位置关联记录？
CLASHarness: Benchmarking Multi-Agent Conflict in Computer Use via a Controllable and Verifiable Generation Pipeline
问答新增：2026-10-27 · Google / Emory University（共同署名）
展开答案与例子
答案：策略用原始task_id/check_index标识，将指定required项改为diagnostic；不同判定类别要取集合并集。列表重排或重复标签若按位置处理，会错误删除检查或重复计算。
教学例子：同一check同时属于两种争议类别，也只能在降级集合中出现一次。
依据：核心公式与公平性口径；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
CLASHarness 的完整成功与部分检查通过率，为何需要分别报告？
CLASHarness: Benchmarking Multi-Agent Conflict in Computer Use via a Controllable and Verifiable Generation Pipeline
问答新增：2026-10-27 · Google / Emory University（共同署名）
展开答案与例子
答案：完整成功要求非空required清单已验证且每项通过，部分比例只反映其中多少检查通过。没有检查不能按空合取宣布成功，只有部分verdict也不足以证明整任务通过。
教学例子：4项必需检查过了3项，部分比例75%，完整成功仍为否。
依据：核心公式与公平性口径；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
CLASHarness 为什么先执行参考计划，再让被测 Agent 处理冲突消息？
CLASHarness: Benchmarking Multi-Agent Conflict in Computer Use via a Controllable and Verifiable Generation Pipeline
问答新增：2026-10-27 · Google / Emory University（共同署名）
展开答案与例子
答案：参考执行用于确认任务在固定真实状态下确实可解，并从执行效果编译检查。否则被测失败可能来自场景自身矛盾，而不是处理peer错误事实、过期状态或冲突指令的能力。
教学例子：别人声称文件已更新，评测仍需先确定文件真实状态和可完成目标。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
source-present 与 source-free 为什么不能仅凭相同 task ID 直接比较分数？
AutoformBench: A Lean Formalization Benchmark for Advanced Mathematics
问答新增：2026-10-27 · FAIR at Meta
展开答案与例子
答案：可见材料不同会改变形式化难度：原文或参考论证提供定义与思路，公开无来源工作区则要求更多自主构建。两者即使目标同名也不是同一信息条件，所有证明义务还必须一起通过；失败、超预算或基础设施行不能从固定任务分母里静默删掉。
教学例子：例如同一个高等数学命题，一组能读教材证明、另一组只有 Lean 骨架，成绩差不应直接归因模型强弱，而要先匹配来源条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
AutoformBench接口能把失败、超预算或基础设施错行删掉吗？
AutoformBench: A Lean Formalization Benchmark for Advanced Mathematics
问答新增：2026-10-27 · FAIR at Meta
展开答案与例子
答案：不能，要保留完整固定任务集合及实际CSV成本，名义上限不等于统一实花。接口导入已产生verdict不代表本次真实Harbor运行，未执行就需明确计划状态。
教学例子：例如只统计成功启动的任务，会把环境失败从分母洗掉并抬高成绩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
AutoformBench与给定全部定义后只补一个孤立Lean证明，有何任务范围区别？
AutoformBench: A Lean Formalization Benchmark for Advanced Mathematics
问答新增：2026-10-27 · FAIR at Meta
展开答案与例子
答案：这里还要求构造支撑命题的定义与辅助引理，并完成任务内全部证明义务；孤立证明补全通常已固定更多形式化上下文。两者都可能通过Lean验证，但需要自主完成的形式化工作不同，不能只因同用验证器就合并成功率。
教学例子：若缺少一个适当定义，Agent需先形式化该定义并证明辅助引理；只填最后一个by证明块没有完成整项任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
AutoformBench为什么要求任务内所有证明义务通过？
AutoformBench: A Lean Formalization Benchmark for Advanced Mathematics
问答新增：2026-10-27 · FAIR at Meta
展开答案与例子
答案：高级形式化需定义、辅助引理和最终证明协同成立，单独补一个片段不足。可信Lean/Mathlib验证全部义务才算任务成功，不能按局部通过数替代成功率。
教学例子：例如主结论过了但依赖引理仍留sorry，整题尚未完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
WeGR 的 DHPO 为什么从短 SID 前缀逐渐扩展奖励匹配与策略梯度范围？
WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
问答新增：2026-10-27 · WeChat E-commerce Search team（正文未单列作者机构）
展开答案与例子
答案：一开始要求完整长 SID 命中会让奖励极稀疏，模型难区分部分正确路径。动态 horizon 先奖励较短前缀，并只更新对应 token 范围，再随训练逐步扩到完整路径，使奖励粒度与优化范围一致。多正例 SFT 稳定更新，CoCo-VAE 另行改善编码；本地是有界机制诊断，不能据此宣称大规模稳定提升。
教学例子：先学对“户外”粗码就能获得反馈，之后要求“户外—露营”，最终才要求具体帐篷完整码。若只放宽奖励却仍强更新全部后缀，可能把未被评价的错误路径一起强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
WeGR低利用率刷新是否对所有残差层都执行？
WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
问答新增：2026-10-27 · WeChat E-commerce Search team（正文未单列作者机构）
展开答案与例子
答案：规定只根据首层命中EMA刷新，深层不刷新；DHPO前h词元范围随调度同步，另加逐session多正例NLL。不得用固定全序列loss冒充渐进horizon。
教学例子：例如h为一时，后面未匹配码不应按相同奖励获得完整策略梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
CoCo-VAE跨样本碰撞损失与单样本熵有什么区别？
WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
问答新增：2026-10-27 · WeChat E-commerce Search team（正文未单列作者机构）
展开答案与例子
答案：碰撞衡量不同样本分配重合，熵描述单样本分布扩散。高熵也可能所有样本都均匀重叠，不能用熵直接替代碰撞约束或码使用均衡。
教学例子：例如每件商品都均匀给所有码，熵高但没有实现有区分的编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
WeGR为什么让偏好优化从短SID前缀逐步扩展？
WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
问答新增：2026-10-27 · WeChat E-commerce Search team（正文未单列作者机构）
展开答案与例子
答案：完整SID匹配奖励稀疏，先学粗前缀提供较多有效信号，再逐步扩大到完整路径。优化范围应和奖励horizon同步，避免奖励粗却惩罚整段无关后缀。
教学例子：例如先确认大类，再要求具体细码，不是一开始就只接受完整串全对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
TacGR 为什么先预测目标侧信息，又用单向掩码阻止语义 token 在注意力中读取预测 token？
UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：生成目标尚未确定时拿不到真实商品属性，先预测连续侧信息可为每级码提供条件。预测噪声若反复写回语义历史会累积，因此掩码限制这条注意力传播；预测特征仍通过输出条件进入生成，并非被禁用。辅助排序塔给可学习回归目标语义锚定，避免共同坍塌；本地因数据与预算没有完整复现。
教学例子：生成商品码前先估计价格与风格，输出头可利用这些估计；但不让估计 token 任意污染此前语义状态。若只把预测特征全部关掉，就失去了论文要补充的目标侧信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
真实属性辅助塔为什么不能被当前预测值自监督替代？
UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：可学习回归目标需业务标签锚定，纯自追预测可能共同坍塌。训练目标特征与未来标签隔离，mask按token类型判定，不可让语义状态读真实未来商品属性。
教学例子：例如两网络一起输出常数也可互相拟合，辅助业务任务用于排除这种空解。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
单向mask与完全禁用预测特征有什么不同？
UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：语义token不读取预测token，预测token可读历史语义，但预测特征仍通过输出条件进入生成。禁用会删掉方法核心，不是实现同一隔离。
教学例子：例如阻止内部噪声互传，不表示最终生成头不能使用预测属性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
UniSGR-V2为什么预测还未生成目标商品的侧特征？
UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：生成到中途尚无确定item，无法直接读取最终侧信息。逐级预估连续属性并交叉，给SID生成和排序提供提前线索，辅助塔防止回归目标坍塌。
教学例子：例如生成品牌相关语义码前，先估一份可能商品属性表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么技能增强教师的蒸馏权重，要依据收益可靠性收缩后再确定？
RSIPO: Recursive Self-Improving Policy Optimization for Agentic Reinforcement Learning via Skill-Policy Co-Evolution
问答新增：2026-10-27 · Chinese University of Hong Kong
展开答案与例子
答案：技能可能无效甚至比学生更差，直接等权信任会把退化传回策略。独立控制与同初态重放估计效用差，再按观测噪声向组均值收缩，用较可靠收益调节蒸馏信任；技能奖励与收缩信任用途不同，失效重放也不能作为有效配对证据。
教学例子：例如某技能只试一次碰巧成功，其收益不确定应被收缩；多次同初态对照都有效的技能，才更值得提高蒸馏权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地是否已有 RSIPO adapter、真实技能 replay 和策略训练？
RSIPO: Recursive Self-Improving Policy Optimization for Agentic Reinforcement Learning via Skill-Policy Co-Evolution
问答新增：2026-10-27 · Chinese University of Hong Kong
展开答案与例子
答案：没有。当前仅保留规格与成本决定，无 paper adapter、指标或 GPU 通过。未来若实现需保留当前策略技能、有效初态重放、独立控制及训练测试隔离，不能拿其他技能算子或固定规则替代后登记完整 RSIPO/Evolve。
教学例子：例如一个现成 GRPO 训练器能运行，不说明它已测技能净收益或按可靠性做 OPSD，缺这些就未实现该算法。
依据：核心公式、本地复现、边界与后续触发条件；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
动态技能—策略协同更新，与固定离线技能库，在经验时效上有什么不同？
RSIPO: Recursive Self-Improving Policy Optimization for Agentic Reinforcement Learning via Skill-Policy Co-Evolution
问答新增：2026-10-27 · Chinese University of Hong Kong
展开答案与例子
答案：固定库让检索条件较稳定，但技能来源停留在旧策略和旧任务；协同更新从当前策略轨迹构建技能，再用独立控制与同初态重放检查收益，可跟随能力变化。它也增加非平稳性和评估开销，不能把技能条目更新数量当成有效收益或可靠教师的证据。
教学例子：教学例：策略学会更短的证据路径后，新技能可反映这条路径；固定旧库仍可能反复推荐已经过时的长流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
策略不断变强时，RSIPO 为什么认为原有技能库也需要跟着更新？
RSIPO: Recursive Self-Improving Policy Optimization for Agentic Reinforcement Learning via Skill-Policy Co-Evolution
问答新增：2026-10-27 · Chinese University of Hong Kong
展开答案与例子
答案：旧技能来自过去策略，可能已冗余、失效，甚至弱于当前学生的直接求解。RSIPO 研究让当前轨迹形成技能，再检验技能是否真的改善同初态执行，使技能与策略协同变化。技能辅助并非天然正收益，必须保留独立对照，也不能把原任务答案写进评测输入。
教学例子：教学例：早期技能要求繁琐搜索，当前策略已能直接找到证据；继续强制使用旧技能可能更慢，需要重新测量而非盲目信任。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Snap DPA 相关性指标为什么区分 MicroRel 与 MacroRel，还要先审定判别准则？
LLM-based User-Product Relevance Evaluation for Dynamic Product Advertising
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：历史按语义与事件压缩成意图组，再由经准则训练的判别器评价候选相关性。MicroRel 对用户—候选对等权，容易受候选多的用户影响；MacroRel 对用户等权，观察的是另一种群体平均。准则发现与人工业务对齐决定“相关”含义，聚合公式不能补救错误判别；本地没有复现私有评审数据和商业模型流程。
教学例子：一个用户有一百条候选，另一个只有十条。按候选对平均时前者权重大十倍，按用户平均时两者相同；两种结果都应先建立在可靠的相关性判断上。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
相关性判别器能用真实标签直接回填代替吗？
LLM-based User-Product Relevance Evaluation for Dynamic Product Advertising
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：不能，需按发现且经人工业务审查的准则实际训练判别模型，再在独立数据验证。规则发现还有bootstrap和各类F1边界，不能省人工覆盖审查后声称整套完成。
教学例子：例如把金标当预测可算指标，但不证明模型学会判断用户商品相关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MicroRel与MacroRel为什么可能给出不同结论？
LLM-based User-Product Relevance Evaluation for Dynamic Product Advertising
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：前者每用户候选对等权，后者每用户等权；候选多的用户在micro占更多份量。两者统计单位不同，不可选更好看的一个代表全部流量。
教学例子：例如活跃用户候选很多，其分数会更影响micro而非同程度影响macro。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Snap DPA相关性为何先压缩历史意图而不直接看点击？
LLM-based User-Product Relevance Evaluation for Dynamic Product Advertising
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：点击稀疏且受曝光影响，按SID与事件类型分组提取最新意图，再由业务对齐准则判候选相关，形成另一种用户需求评价轴。不是把点击率重新命名为相关性。
教学例子：例如近期多次加购某类物品比一次偶然曝光更能表达当前需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
核心机制
请求独立性审计为什么要把加问题、加证据与加候选分成三种干预？
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：加问题应保持目标命题和证据不变，才是在测无关请求干扰；加证据会真实改变上下文，加候选则引入归一化效应。混做一次无法定位翻转原因。候选扩展应比较原两项条件赔率，评分端持有的相关性标签、场景名与文档身份不能进入预测输入。
教学例子：例如仅多问一个无关问题就翻转原答案值得警惕；加入新证据后翻转可能合理，加入第三候选导致原概率变小也未必改变相对偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
实现细节
恰好0.5的二元预测为什么不算strict flip？
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：严格翻转要求两次概率分别位于阈值两侧，乘积严格小于零；任一等于0.5另记tie。把边界点硬分边会夸大翻转，也会隐藏评分精度影响。
教学例子：例如一次是0.5、另一次偏向是，只能记边界变化，不能称明确从否翻到是。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
方法对比
候选扩展后原概率下降，与真正偏好翻转怎样区分？
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：加入候选自然增大softmax分母，因此原项份额下降不必是行为异常。比较原两项条件赔率或严格二元翻转，才能分离归一化与相对偏好变化。
教学例子：例如A从较高份额下降但仍胜B，只是新C分走质量，不等于A/B次序反了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 候选不变性：顺序、竞争者与概率校准
基础理解
请求独立性为何是结构化决策输出之外的另一问题？
The Company a Question Keeps: Auditing Open Jev-Style Models for Retrieval
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：合法JSON或候选标签只保证格式，模型仍可能因多了无关问题而改变原判断。独立性审计固定证据与目标，专门测请求组合是否产生额外干扰。
教学例子：例如两个问题都返回合法概率，仍可能因为并排询问而使第一个结论翻转。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么 min(功能成功率,安全成功率) 不能当成联合成功率？
Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses
问答新增：2026-10-27 · Google Cloud AI Research / Carnegie Mellon University
展开答案与例子
答案：两项边际率可能来自不同轨迹，只有同一次执行同时满足两条件才算联合成功。多目标搜索用偏好与邻域替换维护取舍，不能靠放松安全提高功能总分；最终选择集和 held-out 也要分开，否则框架会把报告环境当搜索反馈使用。
教学例子：例如十次里八次功能成功、八次安全通过，但失败恰好错开，联合可能只有六次；取两项最小值八次会高估。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
最终 max-min 选择可以在 held-out OOD 上挑最优框架吗？
Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses
问答新增：2026-10-27 · Google Cloud AI Research / Carnegie Mellon University
展开答案与例子
答案：不能。最终框架由搜索集功能安全估计的 max-min 选出，held-out ID/OOD 留作评价。联合率需同一轨迹两条件都满足；本地没有 MOEA/D、真实 Docker 或 exploit 评测，实现标量化公式也不能宣称完整自进化已验证。
教学例子：例如功能八成、安全七成的边际率不能直接写联合七成，失败可能落在不同任务上，必须逐轨迹求交集。
依据：核心公式、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
weighted Chebyshev 与固定线性加权在保留候选上有什么差别？
Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses
问答新增：2026-10-27 · Google Cloud AI Research / Carnegie Mellon University
展开答案与例子
答案：Chebyshev 看相对理想点的最大加权偏差，强调短板；不同偏好向量各维护框架，只在邻域严格改善时替换且一次最多两个。固定线性和可让一个目标大幅提升抵消另一目标损失，两种选择几何不同，但都依赖评估可靠。
教学例子：例如候选功能九成安全三成，最大偏差会突出安全短板，而简单平均可能仍胜过均衡方案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
功能与安全为什么不能先合成一个未经约束的平均分？
Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses
问答新增：2026-10-27 · Google Cloud AI Research / Carnegie Mellon University
展开答案与例子
答案：功能提升可能来自放松检查，而平均分允许高功能抵消严重安全退化。Harmony 保留两个目标，以偏好子问题和邻域替换组织搜索，要求部署同时考虑二者；它不等于证明所有攻击都安全，也不能把独立边际率当同轨迹联合成功。
教学例子：例如一条轨迹完成任务却泄露受保护数据，应记功能成功、安全失败，而不是靠功能高分平均成合格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
两个特征各自删除都几乎不掉分，FORTE为什么仍要求联合扰动、重训和消费者审计？
FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：单特征扰动衡量的是其余信号仍存在时的依赖，两个冗余特征可能互相补偿，同时删除才暴露损失。FORTE先检查跨时间、跨输出头的稳定弱依赖，再逐级做联合扰动和真实重训；最终还要确认所有下游消费者均可退役，不能把某个模型的一次零损失当全链路删除许可。
教学例子：用户年龄和年龄分桶互相替代，单删一个不掉分；同时删除可能伤害新用户任务，因此还需检查其他输出头与消费它的模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
FORTÉ 的 signed_change 为什么可能为负，VirtualBatch 又如何保证测的是冻结依赖？
FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：高优指标按扰动减基线计算，负值表示损害，不应翻成“重要性越大越好”。VirtualBatch 复用同一 dense、sparse、ragged 原值与扰动字典，各组只切引用；前后参数摘要核对防止前向期间更新。联合边际也不能用单特征变化相加替代。
教学例子：AUC 从零点八降到零点七九得到负变化，说明依赖而非收益；若评估时悄悄训练了几步补回，就不再测冻结模型的特征依赖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
冻结扰动与真实删特征重训分别回答什么问题，为什么不能只保留一个？
FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：冻结扰动测当前模型立即依赖，重训测网络是否能在缺失后重新适应，二者都不涵盖所有线上影响。单次弱依赖可能靠冗余补偿，重训成功也不能覆盖之前时间门槛失败。来源本地三种子保留基线，是流程有效负结果而非删特征成功。
教学例子：拔掉年龄字段当前模型变差，但重训可用其他信号补回；反过来单删没影响，两字段联合删除却可能受损，两个阶段各有用途。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
FORTÉ 为什么把特征退役看成全生命周期任务，而非一次重要性排序？
FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：模型弱依赖只是开始，同一特征可被多个头和下游系统消费，训练适应后还可能重新依赖它。流程逐级检查时间稳定、联合删除、重训、线上及血缘，直到全部消费者允许退役。删除决策的证据比增加特征更全面，低重要性本身不是删除许可。
教学例子：某字段对主点击头无用，却仍被反欺诈模型读取；从一个模型移除不代表可停日志与数据生产，必须查完所有消费路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
UPTURN为什么学习段落边界上的cut，而不是直接微调整个reasoner？
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：冻结reasoner后，学习对象集中到何时插入纠错轮次，救援回报来自不同cut后的真实重新生成。保留前缀、结束当前轮并插固定新用户轮，再按剩余预算生成后缀，与整段重写或参数级推理训练不同。推理gate必须独立决定，不能由gold答案触发。
教学例子：推导在某段开始偏离，可在该段边界发起一次重新考虑；前文保留，后续预算减少，不能把这次救援当成无限免费重试。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
UpTurn的suffix预算为什么不能重新给满L_max？
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：前缀已消耗响应预算，后缀只剩L_max减cut位置。无可解析答案gate为零，阈值按协议固定；既有三seed中仍有机制不通过，不能把执行完成等同稳定通过。
教学例子：例如切在很后面时仍给满预算，会让方法比对照多用大量生成成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
插入新turn与在同一assistant消息中补一句反思有何差别？
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：消息角色与条件边界改变，方法明确结束旧assistant并加入新user指令，再按剩余预算续写。简单字符串追加可能没有相同对话语义，不能当同一实现。
教学例子：例如新用户说重新检查，会与assistant自己继续碎碎念形成不同提示结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
UpTurn学习的是如何改写每个词，还是在哪里重开纠错？
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：主要学习段落边界的cut policy与是否纠错的gate，reasoner和编码器冻结。选中位置后保留前缀，插入固定新user turn，由冻结reasoner继续生成。
教学例子：例如在一段错误推导后发起新轮纠正，而非给每个旧token直接改概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
TAPO用前缀几何平均比率后，为什么还要stop-gradient避免跨token反传？
Trajectory-Aware Policy Optimization: Closing the State Distribution Gap in Long-Horizon LLM RL
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：前缀比率用于衡量累计状态偏移，但当前动作的信用不应经这一权重再回传到所有早期token。TAPO冻结几何平均权重，并让当前动作保留自己的log-prob梯度，避免额外的跨位置梯度和按前缀长度稀释。权重与梯度路径是两个需要分别实现的部分。
教学例子：第十步的前缀已偏离旧策略，需要调整这一动作的权重；不等于这一次损失应该同时重写前九步的信用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TAPO怎样避免前缀比值让当前词元梯度被除以位置长度？
Trajectory-Aware Policy Optimization: Closing the State Distribution Gap in Long-Horizon LLM RL
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：前缀几何比停止梯度，再乘当前概率除以其停止梯度副本。这样前向保持所需比值，反向只作用当前动作，不引入前序梯度或一除位置长度的稀释。
教学例子：例如第十步权重参考前十步，但它的梯度不应因此自动缩成原来的十分之一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
前缀几何平均与前缀概率比直接相乘有什么差别？
Trajectory-Aware Policy Optimization: Closing the State Distribution Gap in Long-Horizon LLM RL
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：几何平均取平均log-ratio后指数化，减轻比值随前缀长度极端放大的尺度问题。它是另一估计设计，不是完整轨迹重要性乘积的数值技巧替代。
教学例子：例如同样轻微偏移重复多步，连乘可能很极端，几何平均保留的是平均偏移尺度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TAPO轨迹版为何关注前缀状态分布而不只关注当前动作比值？
Trajectory-Aware Policy Optimization: Closing the State Distribution Gap in Long-Horizon LLM RL
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：前面策略的细小变化可累积成后续状态偏移，当前动作比值不足以描述整段访问差异。前缀对数比的几何平均把轨迹信息带进当前更新，并按位置收紧边界。
教学例子：例如前几步分支已经改变，最后一步动作看似接近，也不能说明其状态仍来自旧分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
SynthSelf为什么用较大的同家族改写器，并在改写后再次核对训练答案？
Continually Post-training Small Models via Synthetic Self-distillation
问答新增：2026-10-27 · KAIST AI / LG AI Research
展开答案与例子
答案：小学生直接自改写可能引入错误，较大同家族模型用于把训练示范改成更适合学生学习的表达。改写经答案拒绝采样后才用于响应监督，且需实测分布与保真约束是否成立。改写器并不天然满足约束，评测答案也不能进入改写或学生输入。
教学例子：例如把训练题的冗长正确解改成清晰步骤后，仍要检查结论一致；不能用测试题标准答案指导改写，再把得分称为泛化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
SynthSelf的gold允许在哪些阶段出现？
Continually Post-training Small Models via Synthetic Self-distillation
问答新增：2026-10-27 · KAIST AI / LG AI Research
展开答案与例子
答案：训练示范可供离线aligner改写与验收，学生输入不包含评测答案，测试标签不能筛选课程。真实学生SFT不可由文本过滤代替，既有失败和修后证据分别保留。
教学例子：例如筛出正确文本但没做任何参数更新，尚不是完整训练实现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
答案拒绝采样与仅检查文本格式有什么区别？
Continually Post-training Small Models via Synthetic Self-distillation
问答新增：2026-10-27 · KAIST AI / LG AI Research
展开答案与例子
答案：格式合法不保证内容正确，拒绝采样要核对改写答案；原约束还需实际测改写分布与保真关系，不能因同家族就宣布必满足。
教学例子：例如JSON完整但最后算错，仍不该进入有效训练改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
SynthSelf为什么让更大同家族模型改写训练示范？
Continually Post-training Small Models via Synthetic Self-distillation
问答新增：2026-10-27 · KAIST AI / LG AI Research
展开答案与例子
答案：小模型自改写容易失真，而原示范风格未必适合学生；更大同家族aligner生成候选改写，经答案检查才监督学生。它不是改写越短越好。
教学例子：例如把跳步证明改成学生可学的步骤，同时保持训练题结论正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
State-OPD为什么让教师少看历史reasoning，扩采的额外action又不能真的执行？
State-OPD: State-Grounded On-Policy Distillation for Multi-Turn Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：旧推理可能错误但环境动作与观察已真实发生，教师基于执行状态能减少继承旧思路；学生仍保留自身完整历史。高熵状态扩采用于同一状态的监督比较，若把额外action执行，会改变环境并破坏原状态对齐。这里的熵也应来自完整词表而非单词surprisal。
教学例子：学生先前误判网页内容，教师可只看真实点击与返回结果；额外生成几个候选点击用于训练评分，不意味着同时点击所有按钮。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
State-OPD状态熵能用采样词surprisal替代吗？
State-OPD: State-Grounded On-Policy Distillation for Multi-Turn Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不能，规定是全词表熵的词元均值；高熵状态选择及扩采次数有明确公式。更新保留sampled-K1双裁剪，不能用teacher分数排序的启发式冒充。
教学例子：例如一个罕见词被采到很惊讶，不等于整个下一词分布熵一定高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
高熵状态扩采与让所有额外action执行有什么差别？
State-OPD: State-Grounded On-Policy Distillation for Multi-Turn Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：扩采完整推理加动作增加监督选择，但额外动作不执行，环境仍沿原真实轨迹。若全执行会改变状态分布和预算，变成另一种探索协议。
教学例子：例如同一状态提出几个工具方案供评分，不表示每个方案都对环境操作一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
State-OPD为什么不给教师旧reasoning？
State-OPD: State-Grounded On-Policy Distillation for Multi-Turn Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：旧推理可能含学生错误，教师只读实际执行动作与观察的状态记录，减少继承错误叙事；学生仍保留完整历史，因此师生上下文有意不同。
教学例子：例如工具实际返回失败，但旧推理声称成功，教师应依据真实状态而非该说法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SOAR为什么只用回答声明的证据stream判来源一致性，另一stream碰巧含答案也不能给奖？
SOAR: Source-Aware Reinforcement Learning with Precise Credit Assignment for Search Agents
问答新增：2026-10-27 · Zhejiang University / Microsoft
展开答案与例子
答案：来源声明应与真正支持答案的证据对应，否则模型可答对却编造依赖。独立内部回忆与外部检索后，校验只查看声明的stream，避免另一侧泄漏替它兜底。内部回忆不能先读外部证据或旧推理，工具观察也不作为可训练的生成动作token。
教学例子：答案声称来自检索网页，但事实其实只在模型内部回忆中出现；不能因另一stream有正确事实就判引用一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SOAR匹配奖励能借另一条stream中正确证据补分吗？
SOAR: Source-Aware Reinforcement Learning with Precise Credit Assignment for Search Agents
问答新增：2026-10-27 · Zhejiang University / Microsoft
展开答案与例子
答案：不能，只核验声明stream。工具观察和internal recall文本也不接受actor策略loss，奖励按明示归一后再组优势；完整机制执行与外部 benchmark能力结论仍要区分。
教学例子：例如宣称内部知识却只有外部网页支持，不能因答案对就授予来源匹配奖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
SOAR的internal recall为什么不能读旧推理和检索证据？
SOAR: Source-Aware Reinforcement Learning with Precise Credit Assignment for Search Agents
问答新增：2026-10-27 · Zhejiang University / Microsoft
展开答案与例子
答案：要区分内部已有知识与外部获得信息，就必须先隔离诱导回忆输入。若把检索结果传进去，内部流已被污染，后续来源匹配失去意义。
教学例子：例如先看网页再回忆同一事实，不能算模型原本独立记得。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SOAR为什么要求答案显式声明知识来源？
SOAR: Source-Aware Reinforcement Learning with Precise Credit Assignment for Search Agents
问答新增：2026-10-27 · Zhejiang University / Microsoft
展开答案与例子
答案：只答对无法判断证据依赖是否真实。内部回忆与外部检索分别记录，再核验所声明流能否支持答案，训练来源一致性而非事后随意编引文。
教学例子：例如答案宣称来自检索，就应能由对应检索记录支持，而不是内存碰巧知道。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Road-MOPD为什么让未路由教师在当前域轨迹上提供证据，还对目标梯度设范数下限？
Beyond Domain-Routed Supervision: Cross-Teacher Guarding for Multi-Teacher On-Policy Distillation
问答新增：2026-10-27 · Nanjing University / JD.com
展开答案与例子
答案：只听当前域教师可能通过共享参数损害其他域，辅助教师在同一学生状态上的兼容性提供保护线索。先调token信用再处理真实辅助梯度，冲突投影同时限制目标梯度被削弱程度。范数下限是取舍，不保证所有域同时改善，也不能用随手向量代替真实目标梯度。
教学例子：训练数学专家时，代码教师可检查同批前缀是否受到不利更新；完全删掉冲突方向又可能让数学任务几乎不再学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Road投影为什么不能简单把冲突分量全部移除？
Beyond Domain-Routed Supervision: Cross-Teacher Guarding for Multi-Teacher On-Policy Distillation
问答新增：2026-10-27 · Nanjing University / JD.com
展开答案与例子
答案：规定选择最大可行投影强度，同时保证投影后范数不低于原范数某比例；全投影可能越过下限。辅助梯度必须实际算得，不能由registry标签或静态分数替代。
教学例子：例如两梯度几乎反平行时，完全去平行分量会使目标更新几乎消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
Road信用门控与冲突梯度投影是否可互相替代？
Beyond Domain-Routed Supervision: Cross-Teacher Guarding for Multi-Teacher On-Policy Distillation
问答新增：2026-10-27 · Nanjing University / JD.com
展开答案与例子
答案：前者调节逐token监督强度，后者在参数梯度层处理冲突并保留目标梯度范数下限。两层机制不同，只有一个权重公式不构成完整Road。
教学例子：例如局部分数看似兼容，共享参数梯度仍可能冲突，需要真实梯度检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Road-MOPD为什么查询未路由的其他教师？
Beyond Domain-Routed Supervision: Cross-Teacher Guarding for Multi-Teacher On-Policy Distillation
问答新增：2026-10-27 · Nanjing University / JD.com
展开答案与例子
答案：目标域更新共享参数仍可能损害其他域，只用该域教师无法监测。其他教师在同一学生轨迹上提供兼容性信号和真实辅助梯度，用于守护跨域能力。
教学例子：例如数学批更新也可能影响代码行为，不能因为数据路由分开就假定互不干扰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
渐进收缩为什么先测教师轨迹的分支不确定性，再按学生损失选训练子集？
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
问答新增：2026-10-27 · National University of Singapore / Nanjing University
展开答案与例子
答案：正确教师轨迹也可能经过后续容易分叉的位置，蒙特卡洛续写可识别这种学习价值。先按教师分支不确定性收缩池，再经真实学生探测，选当前损失较高的轨迹并重新路由。减少学生曝光量不等于相同倍数的总加速，教师探测成本必须另计。
教学例子：例如两条都正确的证明，一条中间选择容易走错，先保留它；学生掌握后再换别的难点，不能只按答案是否正确筛选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
曝光量减少为何不能直接写成总GPU加速倍数？
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
问答新增：2026-10-27 · National University of Singapore / Nanjing University
展开答案与例子
答案：公式只统计学生训练曝光，不包括教师真实续写profiling、学生探测和其他开销。需分别记账并保留真实生成证据，不能由少训练样本推算端到端速度。
教学例子：例如前期花很多教师计算筛题，少两个epoch未必按比例省总时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
教师profiling与学生NLL重路由分别解决什么？
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
问答新增：2026-10-27 · National University of Singapore / Nanjing University
展开答案与例子
答案：教师阶段找潜在推理难点，学生探测阶段判断当前学生尚未掌握什么。两层依据不同，不能把teacher难度分永久当作学生难度，也不能用静态长度代替。
教学例子：例如教师认为难的步骤学生已会，学生路由可把预算转给别处。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
渐进收缩为什么从正确轨迹中再挑高分支不确定性？
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
问答新增：2026-10-27 · National University of Singapore / Nanjing University
展开答案与例子
答案：正确结尾仍可能经过后续易错分叉，Monte Carlo续写估计可识别有教学价值状态。只看原轨迹正确与否会遗漏这些关键分叉。
教学例子：例如一条正确推导在中途有多个易混公式，值得针对性学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
GRPO难度课程为什么要随当前策略重测成功率，而不能按题目长度固定分级？
A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：难度取决于当前策略和采样预算，同一道题会随学习进出目标成功率区间。课程用真实生成的成功率分带，阶段选择依赖验证集；越往难处推进并不保证更好，因此还需要最难阶段对照。长度奖励是辅助目标，不能代替难度估计或用测试表现决定推进。
教学例子：例如短算术题可能恰好是当前模型弱项，长题反而熟练；课程应依据当前多次解答是否成功，而不是字符串长短。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
课程阶段选择能看测试分或使用长度奖励定难度吗？
A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：不能，阶段只看验证并恢复所选checkpoint；长度奖励是辅助目标，不用于成功率难度gate。每步需真实rollout重估，不能把静态mock概率充当在线机制。
教学例子：例如长回答不一定难，不能根据长度奖励高低直接决定进入哪个阶段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
在线fixed-medium与不断升到最难带为何不等价？
A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：前者持续保持可学的中等成功区间，后者逐段推进可能进入几乎无信号区；原研究也保留最难阶段退化边界，不能把越难越好当通则。
教学例子：例如课程越过能力边界后全组失败，难度更高却可能学不到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
GRPO课程中的难度为什么随策略更新？
A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：以当前多次rollout成功率定义难度，学会后同题会变容易，遗忘后可重新变难。课程是动态状态选择，题面长度或旧固定分数都不是同一量。
教学例子：例如昨日全错的短题今天常对，应该离开原来的困难带。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
同一个f-divergence换成MC、atomic或binary估计，为何可能得到不同信任域？
Generalized Proximal Policy Optimization: Unifying LLM RL Algorithms from the Perspective of Divergence
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：估计方式决定采样动作概率及其补集怎样进入散度，因而相同函数和半径也不必给出相同可行比率区间。GPPO把几何与估计拓扑分开描述，再由实际区间约束策略更新。不能只给GRPO换名称；某些KL写法间的差异也应显式保留而非暗改。
教学例子：一个动作本来极罕见，只约束它自己的比率与同时考虑“其余动作”概率，可能允许不同幅度的概率变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GPPO中的literal KL与two-sided-log为什么分开暴露？
Generalized Proximal Policy Optimization: Unifying LLM RL Algorithms from the Perspective of Divergence
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：原式与部分算法映射存在不一致，本地显式区分两个目标，避免悄悄改公式。实现还需保证比值正、binary补集合法，并按选定拓扑求信任域而非固定复制PPO边界。
教学例子：例如配置写KL却执行双侧log，会使实验无法知道究竟验证了哪个目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
MC、atomic与binary拓扑为何不能只看成实现细节？
Generalized Proximal Policy Optimization: Unifying LLM RL Algorithms from the Perspective of Divergence
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：它们分别如何计入采样动作概率及未采样补集不同，会改变估计散度和允许比值边界。只有在相应定义成立时才能谈算法对应，不能把名字映射当数学等价。
教学例子：例如binary还考虑一减动作概率的部分，不是给atomic结果简单换标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GPPO框架把近端更新拆成哪两个独立选择？
Generalized Proximal Policy Optimization: Unifying LLM RL Algorithms from the Perspective of Divergence
问答新增：2026-10-27 · Tsinghua University AIR
展开答案与例子
答案：一是f-divergence几何，二是如何估计该散度的拓扑。不同组合定义不同可接受概率比范围，因此统一框架并不表示所有实例训练行为相同。
教学例子：例如相同散度函数配不同概率补集处理，也可能得到不同信任域。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
CAST为什么先按解码文本span对齐，再把教师总log概率投到学生位置？
CAST: Credit Alignment for Cross-Tokenizer On-Policy Distillation
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：异构tokenizer的ID和边界不同，逐位置比较没有共同事件含义。文本span提供对应范围，教师总分再投影并按不确定性与平滑度分配，保持chunk总信用；未对齐部分由初始学生锚定。对齐失败应明确保留边界，不能把不相关token硬凑成监督。
教学例子：教师用一个token表示词，学生拆成几段，不能把教师分数只给第一段；需要先确认两边解码的是同一文本范围。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
CAST不确定性权重怎样保证chunk信用总量不变？
CAST: Credit Alignment for Cross-Tokenizer On-Policy Distillation
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：先按不确定性与局部平滑度形成归一权重，再乘chunk总优势，使各位置之和等于总credit。未对齐位置用初始学生anchor，不可默默丢弃后宣称覆盖完整文本。
教学例子：例如某位置权重大只改分配，不应让整段总优势额外增加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
CAST信用分配与CSD共同事件分布有何区别？
CAST: Credit Alignment for Cross-Tokenizer On-Policy Distillation
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：CAST把教师span分数投到学生位置再分配总credit，CSD构造包含REST的共同事件概率分布。二者对齐后的监督对象不同，不能因都跨tokenizer就互换公式。
教学例子：例如保持一段总信用，与保持完整事件概率质量，是不同守恒对象。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
CAST为什么先按解码文本span对齐跨tokenizer监督？
CAST: Credit Alignment for Cross-Tokenizer On-Policy Distillation
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：不同词元编号和切分不可逐位比较，文本等价span提供共同内容。教师span总logp再投影到学生span，才有可用信用对应，而非直接拼两边token表。
教学例子：例如一个中文词两边分成不同片数，需先确认它们解码成同一文本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
BranchOPD从同一前缀分枝时，为什么前缀只应计算一次损失？
Branching On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / SenseTime Research
展开答案与例子
答案：分枝增加的是同一学生状态下的多种后续，若每条分枝都重复计算共享前缀，会无意放大早期词元权重。方法按不确定性与师生分歧选分叉，从冻结学生独立采样续写，再由教师评分；它不是教师强制续写，也不按答案正确性预筛分枝。
教学例子：例如共享三步推理后生成两种续解，共享三步只记一次，两条后续各自受监督；否则增加分枝会顺带加重无关前文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
BranchOPD为什么共享前缀不能按分枝数重复计loss？
Branching On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / SenseTime Research
展开答案与例子
答案：新增的是后缀覆盖，重复前缀会无意提高其权重。需去重、对齐有效位置，PBR监督规定结束事件；不能把完整boxed后EOS规则泛化成任意早停。
教学例子：例如一个前缀长出五枝，不应让前面无关词也自动学五次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
按分歧分枝与只保留正确分枝有什么假设差别？
Branching On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / SenseTime Research
展开答案与例子
答案：前者不靠答案筛选，后者事后条件化结果，会改变采样分布。教师评分与协议结束监督也不能被成功过滤替代，否则预算与来源不再相同。
教学例子：例如失败分枝仍提供怎样继续的状态，不能为了曲线好看全部删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
BranchOPD为什么在不确定分叉处多采suffix？
Branching On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / SenseTime Research
展开答案与例子
答案：单条轨迹只展示一次后续，额外学生分枝可覆盖同一状态的多种选择，让教师指导更集中在有分歧的位置。分枝仍来自冻结学生而非教师直接指定。
教学例子：例如一道证明转折有两种延续，可从相同前文独立尝试两条。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
BoundaryEvo为什么先选能力边界问题，再重新生成并验证教师轨迹？
BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
问答新增：2026-10-27 · Shanghai Artificial Intelligence Laboratory
展开答案与例子
答案：问题是否值得学取决于当前学生与专家的差距，旧问题也需重新检查；确定问题后生成新教师轨迹并独立验证，可避免把旧错误答案跟随问题一起重用。初始行为预热与后续验证监督具有不同过滤规则，不能把预热未验答案宣传成正确标签。
教学例子：例如学生已经学会某个分解题，就不必永久重放；新边界题即使问题合理，也要重新核验教师解法，不能沿用未经检查的旧稿。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
BoundaryEvo在SFT前应固定哪些生成与验证记录？
BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
问答新增：2026-10-27 · Shanghai Artificial Intelligence Laboratory
展开答案与例子
答案：选题依据当前学生、固定expert和analyzer的差距及质量条件；新teacher轨迹验证后只监督响应token。测试参考不能参与选题，旧答案也不能直接冒充fresh生成。
教学例子：例如换了新问题却复用另一题旧解，失去选题与监督的一致性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
capability priming与正式验证教师监督的区别是什么？
BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
问答新增：2026-10-27 · Shanghai Artificial Intelligence Laboratory
展开答案与例子
答案：初期少量行为预热不按正确性过滤，后阶段选题后生成fresh教师轨迹并独立验证。不能把前者未验数据描述成正确示范，也不能省去后者验收。
教学例子：例如学习教师表达习惯与确认某题解法正确，是两个阶段标准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
BoundaryEvo为什么每轮重新评估旧问题？
BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
问答新增：2026-10-27 · Shanghai Artificial Intelligence Laboratory
展开答案与例子
答案：学生能力变化，原本有价值的边界题可能已掌握，旧replay需重新过筛并补新问题。课程与模型共同演化，而不是固定难题集永久回放。
教学例子：例如原来不会的证明学会后，应转向新的能力缺口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
CV-OPD 为什么要求正负教师看同一学生前缀，只改变视觉 crop？
CV-OPD: Contrastive Vision On-policy Distillation
问答新增：2026-10-27 · Xiamen University / Moxin Technology
展开答案与例子
答案：这样正负教师分布的差别才能主要归因于可见区域，而非文本历史变化。学生在自身 rollout 前缀上接近正确区域教师，同时通过有界 JSD margin 远离负区域教师；这补充了普通答案蒸馏可能只学语言先验、未学正确视觉依赖的问题。
教学例子：例如问题问杯子颜色，正 crop 包含杯子，负 crop 是同尺寸背景；两位教师都接收学生已经生成的相同文字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
至少一条 rollout 答对时，应只留下正确 rollout 吗？
CV-OPD: Contrastive Vision On-policy Distillation
问答新增：2026-10-27 · Xiamen University / Moxin Technology
展开答案与例子
答案：不应。样本通过“至少一条正确”的门槛后，该样本全部 rollout 都保留。DAG 在整个保留 batch 的 token 上用严格大于均值的 JSD 选门；教师、生成过程与 gate 不反传，主 JSD 的 Top-100 近似还需保留完整 tail bucket。
教学例子：例如八条 rollout 只有一条正确，门槛通过后仍保留八条；把另外七条删除会改变原算法的训练分布。
依据：核心公式、本地复现、本地结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
与只向正 crop 教师蒸馏相比，CDL 增加什么关系？
CV-OPD: Contrastive Vision On-policy Distillation
问答新增：2026-10-27 · Xiamen University / Moxin Technology
展开答案与例子
答案：单一正教师蒸馏只要求学生靠近正分布；CDL 还要求学生到负教师的 JSD 足够大，以有界散度上的 margin 表达区分。它并不要求无限拉开分布，也不保证每个 benchmark 都提高，比较应先限于监督关系的变化。
教学例子：例如学生离正教师和负教师一样近时，正蒸馏可能已有较小损失；加入 margin 后仍会因未区分区域而受罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
CV-OPD 为什么要给同一张图准备正 crop 与负 crop？
CV-OPD: Contrastive Vision On-policy Distillation
问答新增：2026-10-27 · Xiamen University / Moxin Technology
展开答案与例子
答案：正区域提供回答所需的局部证据，负区域在同图、同尺寸、低重叠条件下提供视觉反事实。学生读完整图像，教师只改变看到的区域；这样可以检查学生是否接近正确证据下的分布，并区别于依靠语言先验也能答对的情况。
教学例子：例如问路牌文字，正 crop 包含路牌、负 crop 只含相邻墙面；两位教师共享参数，使主要变化来自视觉输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么缩小动作查询接口时，还要保留原 token 位置与 rectified-flow 方向？
SmolWAM: A Latent World-Action Model for Robotic Manipulation on Edge Devices
问答新增：2026-10-27 · ML Collective
展开答案与例子
答案：预训练 trunk 已适应特定位置语义和从数据到噪声的速度定义，换轻量接口若同时改掉这些约定，会产生额外分布偏移。SmolWAM 逐项恢复适配而非只缩小动作头；载入权重成功也不能证明错误的噪声方向或位置设置下仍等价运行。
教学例子：例如教师学的是噪声减数据的速度，若学生默认反向定义却仍套用原读出公式，动作恢复就可能朝错误方向变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
这里的 rectified-flow 速度方向与 LeWAM 相同吗？
SmolWAM: A Latent World-Action Model for Robotic Manipulation on Edge Devices
问答新增：2026-10-27 · ML Collective
展开答案与例子
答案：不同。SmolWAM 沿 teacher 的数据到噪声方向，插值 xτ=(1-τ)x0+τε，速度为 ε-x0，干净估计应与此符号一致；LeWAM 使用相反方向。还需保留十二个指定 block、原位置及零偏置 sink，不能只照抄另一篇 flow 公式。
教学例子：例如从噪声端反推干净动作时若把速度符号颠倒，会朝错误方向更新；损失数值可运行并不说明读取方向正确。
依据：核心公式、本地复现、数据协议、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
单帧 VAE 加 adapter 与直接换成单帧 VAE 有何不同？
SmolWAM: A Latent World-Action Model for Robotic Manipulation on Edge Devices
问答新增：2026-10-27 · ML Collective
展开答案与例子
答案：原 teacher 以视频 clip latent 接口训练，单帧编码的分布可能不同；adapter 将单帧结果映回原 clip latent 空间，以保留预训练 trunk 可用的输入结构。直接更换编码器省略这个恢复步骤，不能假定 token 位置相同就代表数值分布一致。
教学例子：例如两个编码器都输出相同形状，数值尺度和时空语义仍可能不同；adapter 学的是让新单帧输入适应旧骨干。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
SmolWAM 为什么把视频生成式机器人策略的整条接口都纳入轻量化？
SmolWAM: A Latent World-Action Model for Robotic Manipulation on Edge Devices
问答新增：2026-10-27 · ML Collective
展开答案与例子
答案：视频骨干、视觉编码、文字条件和动作表示都会影响推理成本，只缩小动作头仍可能留下大部分负担。SmolWAM 逐项改造这些接口，并恢复改变预训练分布造成的偏移。组件更小不等于原知识自动保留，既要检验前向等价和恢复训练，也要在真实控制协议下评估。
教学例子：教学例：动作头很小，但仍运行大 VAE、长视觉序列和多步去噪，总成本未必低；轻量化需要看完整执行路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
ReplaySSM为什么只提交被接受的输入，并让高精度递归锚点独立于低精度读出副本？
ReplaySSM: Cache SSM Inputs, Not State
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：输出可从检查点和短输入记录重放，减少每词元完整状态写回；投机拒绝的草稿不能进入已提交递归。低精度副本只用于读取，更新须从高精度锚点与原始记录重建，避免舍入误差逐轮反馈。输出重括号计算也不等于省略递归依赖。
教学例子：例如提议四个草稿仅接受两个，状态指针只推进两步；刷新时从真实接受输入重算，不能把被拒后缀或已舍入读出当成新锚点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
GDN 刷新 checkpoint 时，为什么必须保留原始 value 并重算 residual？
ReplaySSM: Cache SSM Inputs, Not State
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：residual依赖高精度anchor，沿用低精度读出或旧residual会把误差反馈进recurrence。文档从committed原始记录刷新，再独立形成高低精度副本；零接受时anchor应保持不变。
教学例子：draft全部被拒绝时，不应因为曾计算过其输出就改变已提交的递归状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
output-only 重放与常规逐步 recurrence，在输出和持久状态上应如何对应？
ReplaySSM: Cache SSM Inputs, Not State
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：重放可用等价计算获得当前读出，而不生成每步完整中间状态；持久状态只由已提交输入在刷新时更新。它改变计算/写回组织，不应改变被接受序列对应的参考递推。
教学例子：同一组已接受token，重放读出应对照常规递推，而拒绝draft不应写入两者的状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
ReplaySSM 为什么缓存小型输入，而不每 token 写回完整矩阵状态？
ReplaySSM: Cache SSM Inputs, Not State
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：递归矩阵状态读写可能受带宽限制。方法隔若干token刷新checkpoint，中间记录输入并通过重括号计算读出，减少每步物化完整状态的工作，尤其适合output-only投机验证。
教学例子：保存一个状态锚点与接下来几步的小输入，按需重放，而非每步都保存一整张矩阵。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Orthros的prefill使用局部窗口，为什么decode还能够检索完整历史？
Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：base流在每个位置执行滑窗注意力，但仍构建并保留全部逐层KV；只有需要预测输出的位置另开output-specific流，读取共享的全历史KV。输出流不写入KV。这里线性prefill指固定窗口下的计算规模，不是把历史换成线性attention状态，也不意味着完整缓存成本消失。
教学例子：长文档prefill时每个base位置只读邻近词，最后一个提示位置复制出输出查询去全局取证；开始回答后，每个新输出位置都可再次检索已保存的历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
Orthros 的 output stream 也应把自己的 K/V 追加进共享缓存吗？
Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：不应。文档明确同层KV只来自base流，output流负责查询；两种query使用共享投影及各自affine。让输出流写KV会改变缓存含义，并可能破坏batch与cached decode的一致性。
教学例子：每个decode步只追加一份base KV，而不是把同一个token的两条流都存进去。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
Orthros 的“线性 prefill”与 kernelized linear attention 是一回事吗？
Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：不是。这里base流使用固定窗口SWA形成O(Tw)计算，输出流仍可对完整KV做普通causal cross-attention；它没有把全历史压成核化递归状态，也没有因局部读取而删除旧KV。
教学例子：文首KV仍保留，只是大多数prefill位置不执行全历史读取。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Orthros 为什么区分 base tokens 和 output-specific tokens？
Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：prefill中的大多数位置只需构建缓存，真正产生输出的位置才需要全局检索。base流做固定窗口计算并维护完整KV，输出流在需要预测的位置读取这些共享KV。
教学例子：输入一篇长文时，不必让每个prompt位置都走输出流的全历史检索。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
OAL为什么按QK维度贡献分组，还要用attention输出误差校准二次核？
Not All Dimensions Are Equal: Outlier-Aware Attention Linearization with Grouped Quadratic Kernels
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：少数坐标可能主导softmax近似误差，统一处理所有维度会浪费近似能力。OAL先在post-RoPE空间识别稳定贡献分组，再学习共享组与组对的正定二次核。校准对齐最终聚合输出，而不只是权重，因为相同权重误差乘上不同value会产生不同后果；正定约束也保护归一化分母。
教学例子：两个注意力近似都错了相同权重，但一处value很大、另一处value几乎相同，输出影响不同。应比较最终读出的向量，而不只看权重图接近程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
OAL 的分组、校准与初始化选择，哪些可以使用 test 数据？
Not All Dimensions Are Equal: Outlier-Aware Attention Linearization with Grouped Quadratic Kernels
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：都不应使用test来选。文档把train分块用于分组、输出校准及LoRA，validation选择核初始化和checkpoint，最后才读取test。正核参数化中的ε也需保留，保证归一化分母为正。
教学例子：某个核在test上最好，不能回头用它替换validation选出的核再报告同一test成绩。
依据：核心公式、数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
OAL 校准 attention 输出 MSE，与只拟合 attention 权重有什么区别？
Not All Dimensions Are Equal: Outlier-Aware Attention Linearization with Grouped Quadratic Kernels
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：输出还取决于V以及归一化后的加权和；权重误差相同，造成的输出误差可能不同。OAL用真实输出MSE校准核，优化的是读出行为，而非单独复制一张权重矩阵。
教学例子：两处权重交换若对应相同value，输出可能不变；对应相反value时影响就很大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
OAL 为什么专门关注 post-RoPE QK 中贡献较大的坐标？
Not All Dimensions Are Equal: Outlier-Aware Attention Linearization with Grouped Quadratic Kernels
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：不同坐标对匹配分数的贡献不均匀，高贡献尾部可能主导softmax近似误差。OAL据此分组并学习正二次核，用更有针对性的表示替代统一处理全部坐标。
教学例子：少数坐标贡献了大部分匹配变化，分组近似不应把它们与低贡献坐标一视同仁。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
MSAR的多流与普通多头切分通道有什么不同，哪一步需要softmax归一化？
Multi-Stream Attention Residuals
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：每个MSAR流都保留完整hidden向量，只用不同序列尺度形成视图，再分别在深度来源上做softmax检索；它不是把value通道切成几份。各流取回结果后由sigmoid mixer融合，流间权重不要求和为1。把流融合误换成softmax，或永久缓存所有展开视图，都会改变方法与成本。
教学例子：同一段表示可以形成原始、短程和长程三个完整视图；每个视图各自选择哪些历史层重要，再独立控制输出量，而不是先把向量的不同三段分给它们。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
MSAR 的当前 block 还没有 partial 时，补一个零 source 无害吗？
Multi-Stream Attention Residuals
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：有害。额外零source也会进入深度softmax分母，从而改变其它source的权重。文档要求block首分支不存在该partial；最后的流mixer使用sigmoid，也不能误换成stream softmax。
教学例子：给两个有效source再加一个零向量候选，会稀释原来两个候选的归一化权重。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Block MSAR 的持久单流摘要，与永久保存所有卷积展开视图有什么取舍？
Multi-Stream Attention Residuals
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：Block版本只保存embedding、已完成block摘要和当前部分和，消费时按需展开多流。永久保存所有视图会改变缓存容量与生命周期，不能直接当成同样的内存实现。
教学例子：四个流可以临时用于这次读取，读取结束后不必再存四份历史摘要。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
MSAR 为什么让当前层重新检索历史深度表示？
Multi-Stream Attention Residuals
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：普通残差把历史更新累加成一个向量，单流深度检索也只有一种视图。MSAR以不同时间尺度组织完整hidden视图，再在深度上选择组合，增加历史更新的可访问方式。
教学例子：当前层可分别参考原始视图、短窗口视图和更平滑的视图，再形成输入。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
核心机制
校准良好的模型为什么仍可能不适合按低置信度路由错误样本？
Does System One Transfer? Calibrated Typed-Decision Models, Label Budgets, and Translation for Indonesian Regional Languages
问答新增：2026-10-27 · Universitas Budi Luhur
展开答案与例子
答案：校准检验概率与总体正确频率是否匹配，路由则要求错误比正确样本更常出现在低置信区，两种性质并不等价。级联比例应在验证宏F1上选定并冻结，再用测试集评估；平行语言共享句子身份，统计比较需按句子聚类，不能当作独立重复样本。
教学例子：例如两组样本的平均置信与准确率吻合，但错题分散在各个置信区；此时总体校准不错，挑最低置信部分交给强模型却未必省成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
实现细节
级联比例与本地温度分别允许用什么数据选择？
Does System One Transfer? Calibrated Typed-Decision Models, Label Budgets, and Translation for Indonesian Regional Languages
问答新增：2026-10-27 · Universitas Budi Luhur
展开答案与例子
答案：都只能在验证预测上选择，比例按规定网格与宏F1规则，温度按验证NLL；冻结后评测测试。温度校准是本地扩展，不能混成作者原始训练步骤。
教学例子：例如测试发现多转交一些更好，也不能回头改路由比例后继续报同一独立测试分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
方法对比
区域语言级联把低置信样本交给后端，与先翻译所有样本再判断有什么不同？
Does System One Transfer? Calibrated Typed-Decision Models, Label Budgets, and Translation for Indonesian Regional Languages
问答新增：2026-10-27 · Universitas Budi Luhur
展开答案与例子
答案：级联按低成本模型的置信度选择一部分样本追加处理，翻译中转则先改变输入语言条件。二者改变的轴分别是计算分配和语言表示，不能把翻译收益直接解释成路由器找错能力。路由比例还必须在验证集选定后冻结。
教学例子：只将难例交强后端，未必翻译文本；把全部区域语言句子翻成印尼语，则对易例也改变了输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
基础理解
区域语言研究为什么同时报告准确率、校准与风险覆盖？
Does System One Transfer? Calibrated Typed-Decision Models, Label Budgets, and Translation for Indonesian Regional Languages
问答新增：2026-10-27 · Universitas Budi Luhur
展开答案与例子
答案：准确率描述整体命中，校准描述概率与频率是否一致，风险覆盖描述按置信筛选是否能留下更可靠样本。三个维度不同，共同决定是否适合低成本模型与强后端级联。
教学例子：例如总体准确率相同的两个模型，低置信样本能否集中错误可能差很多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为何训练窄模型和宽模型之外，还要专门训练“窄转宽”路径？
EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
问答新增：2026-10-27 · Meta Reality Labs Research
展开答案与例子
答案：两种宽度各自表现好，不保证窄模型中间状态可直接交给宽模型。混合路径显式训练切分层的升宽接口，并以共同冻结教师约束表示，使跨设备接力有训练依据；这与随意裁剪通道或在运行时硬接两个独立模型不同，也不能省掉接力通信成本。
教学例子：例如手机先跑窄层再把状态交给服务器宽层；若从未训练这种交接，服务器接到的表示可能不在其熟悉的分布中。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
EV-JEPA 的教师是固定视频模型，还是跟随弹性学生更新的 EMA 副本？
EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
问答新增：2026-10-27 · Meta Reality Labs Research
展开答案与例子
答案：教师采用冻结 V-JEPA 2，为窄、宽和混合路径提供共同目标，不随学生做 EMA。三条学生路径共享嵌套参数，并在同一目标空间接受 masked-token L1 监督。固定教师不代表学生无需训练，也不能把只实现通道切片称为完成这种联合训练或跨设备能力验证。
教学例子：教学例：一次学生更新会改变可切片的共享参数，教师输出仍由同一个固定模型产生；不能再按学生权重滑动平均偷偷改掉目标。
依据：核心公式、本地复现、边界与后续触发条件；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
训练压缩器的切分层重建目标，与直接删掉 token，要求恢复什么信息？
EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
问答新增：2026-10-27 · Meta Reality Labs Research
展开答案与例子
答案：普通裁剪只减少保留位置，删除内容可能无法供后段读取；压缩器额外学习切分层重建，使压缩传输后的表示尽量适配后续计算。二者都减少输入量，但兼容性训练的目标不同。重建损失较低也不能自动推出端到端任务无损，更不等于本地已完成跨设备部署。
教学例子：教学例：直接丢掉一半空间 token 与编码成较少 token 后训练重建，不是同一操作；后者尝试保留可供后续网络恢复的结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
同一视频模型为什么需要适应手机、服务器或跨设备分段执行的不同预算？
EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
问答新增：2026-10-27 · Meta Reality Labs Research
展开答案与例子
答案：固定尺寸模型未必适合所有设备，分别训练多个模型又可能让中间表示不兼容，难以把计算从一台设备接到另一台。EV-JEPA 研究共享参数的弹性宽度和兼容表示。可选择宽度并不表示任意切分都正确或免费，实际传输、压缩和任务质量仍需验证。
教学例子：教学例：手机先运行较窄前半段，再把中间表示交给服务器继续；若两种宽度从未学习衔接，形状能对上也未必能接着推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
DualQuant不看校准激活，为什么仍要同时求row尺度与column尺度？
DualQuant: Dual-scale Calibration-free Weight-and-Activation Quantization for LLMs
问答新增：2026-10-27 · d-Matrix
展开答案与例子
答案：只平衡每行范围无法消除跨行共用的异常列；方法以静态权重重构误差联合求两侧尺度，列尺度再成为推理时的激活重缩放。固定codes时解一维最小二乘，并投影到格式合法尺度，再重新量化迭代。它不是简单搜索几个经验指数，也不保证codes变化期间误差无条件单调。
教学例子：同一列在许多行都特别大，只做逐行缩放仍会留下系统性列不平衡；列尺度可共同处理它，但必须同步调整输入并使用硬件可表示的尺度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
DualQuant 更新 row inverse-scale 后，能直接用旧 codes 更新 column 吗？
DualQuant: Dual-scale Calibration-free Weight-and-Activation Quantization for LLMs
问答新增：2026-10-27 · d-Matrix
展开答案与例子
答案：文档要求投影合法inverse-scale、同步inner copies并重新量化，再解column并再次量化。漏掉同步会让两步优化针对不同状态；实际支持的INT4子集也不能改标签冒充MXFP4。
教学例子：row尺度变了但仍沿用旧codes计算column闭式解，会偏离规定的交替过程。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
DualQuant 的闭式尺度交替求解，与试几个启发式指数有什么差别？
DualQuant: Dual-scale Calibration-free Weight-and-Activation Quantization for LLMs
问答新增：2026-10-27 · d-Matrix
展开答案与例子
答案：它通过variable splitting区分grid assignment与重建尺度，固定codes时解一维最小二乘，再投影到合法格式并重新量化。启发式指数搜索不自动实现同一优化过程，也不能借用其条件下降结论。
教学例子：在固定codes下解最佳尺度后，codes一旦改变，就需重新核对下一步目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
DualQuant 为什么无需激活校准，也能为推理激活确定重缩放？
DualQuant: Dual-scale Calibration-free Weight-and-Activation Quantization for LLMs
问答新增：2026-10-27 · d-Matrix
展开答案与例子
答案：它只从静态权重求row/block与column两类尺度，column尺度随后用于推理输入的对应重缩放。训练solver不读取X，并不意味着推理路径不处理X。
教学例子：离线从W得到一组列尺度，线上对输入的相应通道按该尺度逆变换后再量化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
DoubleCat的双层插值与SemiCat的永久reveal，为什么是两个不同的修正？
On the Design Space of Continuous Diffusion Language Models
问答新增：2026-10-27 · University of Oxford / Apple（在 Apple 期间完成）
展开答案与例子
答案：双层插值把训练分布移向更接近推理的单纯形内部，缓解低熵端点错配；永久揭示则让已确定词元成为干净信号，不再被高维噪声淹没。后者只监督未揭示位置并保持已揭示结果，条件揭示概率需随剩余时间调整，两者也不默认增加自条件前向。
教学例子：例如一句话里已确定的主语可永久保留，其他位置继续去噪；训练输入中模拟有熵概率结构，则是在解决另一种轨迹分布差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
SemiCat 最后一步 hazard 为1与永久 carry-over，应如何一起检查？
On the Design Space of Continuous Diffusion Language Models
问答新增：2026-10-27 · University of Oxford / Apple（在 Apple 期间完成）
展开答案与例子
答案：最后一步要保证所有剩余位置reveal；已经reveal的位置输入与输出始终保留。连续Euler使用未温调概率，categorical commit才用温度，三处规则不能互换。
教学例子：某词第2步已reveal，第3步不得因新采样又改成另一词。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
DoubleCat 双层插值是否等于训练时多跑一次 denoiser 做 self-conditioning？
On the Design Space of Continuous Diffusion Language Models
问答新增：2026-10-27 · University of Oxford / Apple（在 Apple 期间完成）
展开答案与例子
答案：不是。双层插值本身不调用denoiser来构造输入，SemiCat也不要求额外SC前向。标准bootstrap SC是可另开消融，开启时额外调用必须计入，不能把它混进默认同预算结果。
教学例子：一次优化默认只做一次真实模型前向，不能隐藏第二次bootstrap调用的成本。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
SemiCat 为什么把一部分 token 提前 reveal 成干净 one-hot？
On the Design Space of Continuous Diffusion Language Models
问答新增：2026-10-27 · University of Oxford / Apple（在 Apple 期间完成）
展开答案与例子
答案：高维高斯噪声范数较大，而one-hot信号范数为1，token身份可能难辨。随机reveal让部分位置成为稳定离散锚点并永久保留，训练只监督尚未reveal的位置。
教学例子：已确认的词保持干净可见，剩余位置继续去噪，不再把确认词重新加噪。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
ReadRaw 为什么只允许读取已经观察到的 metadata ID？
Test-Time Memory Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：轻量元数据先给出可追溯的事件入口，后续读取原文需要绑定这些实际返回过的身份，避免模型编造链接或跳到未授权记录。记忆随当前问题逐步构建，搜索、精读与回答交错；元数据索引不是一份预先完整理解的记忆，更不能携带最终答案。
教学例子：例如先搜索到会议事件 M7，再按 M7 读取原对话；模型随口生成 M999 不能直接被当成真实历史证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
SearchMeta 排除 seen entries，与把新记忆追加进查询 cache，各管理哪一种状态？
Test-Time Memory Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：seen entries 记录本次已见入口，避免重复搜索返回同一批 metadata；查询 cache 累积当前问题已取得的有用内容，供后续推理与回答。原始会话仍是可追溯外部来源，cache 不是用最终答案填好的摘要。两类状态分开，才能检查搜索是否有新信息及答案依据从何而来。
教学例子：教学例：已见会议 A 的入口后，下次搜索应寻找其他事件；读到 A 的决议可留在 cache，不能因排除其入口就把已读证据一并删除。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
测试时构造 memory 与一次检索后固定上下文有什么区别？
Test-Time Memory Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：一次检索预先决定证据集合，后续发现缺口时未必能补充；测试时构造将 memory 与信息需求交错更新，可继续搜索和读原文。它增加自主工具选择，也可能浪费步数；模型是否有效利用自由度要看真实答案而不只看动作执行。
教学例子：例如读到会议提及“改期”后，可以再找后续事件确认新日期，而非坚持第一次检索出的旧日期。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么离线只存轻量 metadata，而把详细 memory 构造放到查询时？
Test-Time Memory Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：完整会话中的有用信息依问题而异，离线摘要可能过早丢失细节。轻量事件 metadata 保留定位线索和原文链接，推理时通过 SearchMeta、ReadRaw 与 Answer 逐步形成查询相关 cache；这样仍需为多步访问付成本，不是完全不做记忆处理。
教学例子：例如问一次旧旅行日期时先找到事件索引，再读相关原会话，不必在离线阶段为所有未来问题写一份万能摘要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
组件分别通过检查后，为什么还需要 policy 与 predictor 的配对兼容性检查？
RSI-Anything: Unlocking Recursive Self-Improvement with World Models
问答新增：2026-10-27 · PhAI Labs / The Chinese University of Hong Kong
展开答案与例子
答案：策略可能依赖旧预测器的状态或假设，新预测器单独准确也可能与它不兼容。配对检查验证一起运行的行为，失败就整体回退到已知配对；预测器适配还需可靠性不足、数据和预算充足，不能把每轮自动重训或单模块通过当成系统已进步。
教学例子：例如预测器更新了动作编码顺序，策略仍按旧顺序读取，二者单测可过却联调失败，应回退整个组合而非只记各自通过。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
predictor 什么时候才允许适配，为什么不能每收到一次失败就更新？
RSI-Anything: Unlocking Recursive Self-Improvement with World Models
问答新增：2026-10-27 · PhAI Labs / The Chinese University of Hong Kong
展开答案与例子
答案：适配要求世界模型可靠性不足、有足够适配数据，并且更新预算能承担估计成本，三个条件共同成立才触发。失败未必来自预测器，样本不足时更新也可能追逐噪声。候选经外部验证后仍需版本归因和配对检查，本地短执行不证明长期自改进收益。
教学例子：教学例：一次错误预测只满足不可靠线索，若适配数据不够或预算已耗尽，就不应强行训练，再把噪声更新当作学习。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
只更新 policy 与同时适配世界模型有什么取舍？
RSI-Anything: Unlocking Recursive Self-Improvement with World Models
问答新增：2026-10-27 · PhAI Labs / The Chinese University of Hong Kong
展开答案与例子
答案：固定 predictor 提供稳定评价却可能长期误导，适配可纠正分布偏移但增加成本并改变 policy 所依赖的接口。框架用可靠性、数据和预算门控，并做组件与配对检查，不能把任何一次 predictor loss 下降都当整体策略改进。
教学例子：例如预测器学会新反馈格式后旧 workflow 可能读错字段，需要配对兼容验证，而不只单测两个组件各自能运行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
世界模型预测为什么仍需要外部验证反馈？
RSI-Anything: Unlocking Recursive Self-Improvement with World Models
问答新增：2026-10-27 · PhAI Labs / The Chinese University of Hong Kong
展开答案与例子
答案：预测可提前筛选候选后果，但可能不准确，外部工具或环境才提供实际证据。RSI-Anything 据反馈更新持久 policy/workflow，只有可靠性不足且适配数据、预算都足够才更新 predictor；预测高分不是已验证任务成功。
教学例子：例如预测某程序布局合法仍要跑可信几何检查器，若真实结果冲突，应记录预测失准而不是用预测代替验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么执行反馈只更新实际选中工具的 LinUCB arm？
RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics
问答新增：2026-10-27 · Texas Tech University
展开答案与例子
答案：只有被执行工具产生可观察的成功、错误或超时，未选择工具的反事实结果并不知道。逐工具更新避免把一次失败归罪整个候选集，折扣又让旧可靠性随时间衰减；语义 top-K 提供相关候选，可靠性探索项并不意味着模型已证明未调用工具更好。
教学例子：例如工具甲本次超时，应更新甲的记录；同题没调用的乙不能直接记成功，只能保持不确定并等待以后探索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
discounted LinUCB 的 γ 怎样影响选中工具的历史统计？
RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics
问答新增：2026-10-27 · Texas Tech University
展开答案与例子
答案：选中 arm 的对角 A 与 b 先按 γ 衰减，再累加当前特征平方和执行反馈，使较旧证据的相对影响降低。A 同时影响探索不确定度，不能只把折扣理解为改一个成功率。本地语义编码器确有短训练，但授权工具绑定返回失败，不能将 bandit 更新本身当成工具能力成功。
教学例子：教学例：某工具曾长期可靠但最近持续超时，折扣让新失败逐渐改变统计；如果只永久累计旧成功，变化会被长期历史淹没。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
冻结双 encoder 与在线 discounted LinUCB 分别适应什么？
RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics
问答新增：2026-10-27 · Texas Tech University
展开答案与例子
答案：encoder 提供离线学到的查询工具语义空间，部署冻结以保持基础检索；LinUCB 根据实际调用反馈更新每个 arm，并通过折扣适应可靠性变化。两者更新范围不同，不能把 bandit 重排说成在线重新训练整个语言编码器。
教学例子：例如服务恢复后，后续成功反馈可逐渐提高该 arm 价值，但文本 encoder 的参数仍保持不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
工具语义相关为什么还需要执行可靠性重排？
RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics
问答新增：2026-10-27 · Texas Tech University
展开答案与例子
答案：描述最匹配的工具可能持续失败、超时或已不可用，语义相似度无法独自反映当前运行状态。RATED 先召回相关 Top-K，再结合静态 metadata 与逐工具在线反馈，兼顾任务相关和可靠性；不能为了避失败而选择语义不满足任务的工具。
教学例子：例如两个 API 都能查天气，其中一个最近频繁超时，系统可在相关候选内偏向另一个，而不是改选无关但稳定的计算器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
减去近邻均值方向为什么可能帮助找到包含独有事实的记忆？
NEAR: Neighborhood-Aware Residuals for Memory Retrieval
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：近邻常共享人名与主题，这些共同分量会让无关记录也很相似。投影去除共享方向后，残差凸显区别性信息；查询用预计算参考表，而非先偷看相关标签确定方向。残差也可能去掉有用共有线索，所以仍保留原始视图并在开发集决定融合方式。
教学例子：例如两条都提到张三出差，只有一条写周五回程；弱化共同的“张三出差”方向，可让回程事实更容易影响排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
融合多层视图后为什么不能再整体 L2 归一化拼接向量？
NEAR: Neighborhood-Aware Residuals for Memory Retrieval
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：各层分数按 memory–memory population variance 缩放并加权，拼接系数专门保证一次内积等于原融合公式。整体单位化会引入样本相关分母并改变排序；方差包含自相似项，邻域也在每层归一化残差上重算，不能沿用初层邻居。
教学例子：例如两条记忆拼接范数不同，整体单位化会额外惩罚范数较大者，已不再是预设各层分数的线性和。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
去共享方向与训练 query-only adapter 在信息来源上有何不同？
NEAR: Neighborhood-Aware Residuals for Memory Retrieval
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：NEAR 的 memory reference、尺度与小表只由 memory states 构建，不读 query 标签；query 根据 anchor 表取得参考方向。监督式 query adapter 则利用训练相关性更新查询变换。二者适用的信息合同不同，不能将无标签 reference 说成学到了答案相关方向。
教学例子：例如不知道任何查询答案时仍能建立记忆邻域；但若按哪条是正确证据挑 reference，就已引入监督泄露。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
许多记忆都谈同一人物或项目时，为什么真正的答案线索反而难找？
NEAR: Neighborhood-Aware Residuals for Memory Retrieval
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：整段表示可能主要反映共同主题，频繁出现的人名与项目名让多条记录都很相似，少数独有日期或事件被淹没。NEAR 研究如何利用记忆之间的邻域关系突出区分线索，目标是找出含具体事实的记录，而不只是重复召回主题相关材料。
教学例子：例如十条都谈项目甲，只有一条写了延期到周四；查询日期时需要的是这一个差异，不是更多提到项目名的记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
单步决策更快，为什么每次成功交付的总资源反而可能更高？
When Faster Decisions Do Not Make Better Agents: An Empirical Study of Jev in Agent Workflows
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：错误决策会引入重试、恢复失败或过早完成，省下的单次延迟可能被失败轨迹抵消。资源每成功把所有尝试的费用和时间计入，再除成功数；只看双方都成功的配对可比较顺利路径，但不能替代全尝试交付口径或隐藏失败成本。
教学例子：例如快速方案每次便宜一半却经常失败，十次才完成两次；完整统计可能比稍慢但十次成功八次的方案更贵。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
零成功、缺少配对或无效资源值时为什么不能继续算漂亮比值？
When Faster Decisions Do Not Make Better Agents: An Empirical Study of Jev in Agent Workflows
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：零成功的成本每成功无定义，缺 task/run 配对破坏比较，负数或非有限资源不是有效执行记录。基础设施应显式拒绝或保留相应状态，不能删掉失败来恢复分母；当前只消费实际 paired trace，不加载或伪造 Jev 权重/API。
教学例子：例如一配置全失败时不能把分母加一个小 ε 后宣称有限效率，也不能从作者表格复制一行冒充本地执行。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
matched-success 与 all-attempt delivery 分别回答什么问题？
When Faster Decisions Do Not Make Better Agents: An Empirical Study of Jev in Agent Workflows
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：matched-success 只比较两配置在相同 task/run 都成功的资源差，适合看成功路径是否更便宜；all-attempt 把失败成本和全部成功数纳入，评价真实交付。前者有选择条件，不能替代后者或隐藏某配置大量失败带来的损失。
教学例子：例如只挑双方都完成的三题可发现决策变快，却看不见另外七题有多少因新路由失败；两种口径要并列解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
评估廉价决策替代时，为什么要把“完成一次交付”而非一次调用当作单位？
When Faster Decisions Do Not Make Better Agents: An Empirical Study of Jev in Agent Workflows
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：Agent 是由多步决策、工具和重试组成的工作流，局部省资源可能增加后续失败与重跑。Jev Workflow 关注完整交付所需的总资源，使采用廉价判断的收益与它造成的额外尝试放在同一口径。不同成功集合应分别报告，不能只摘一项局部延迟说明系统更高效。
教学例子：教学例：每次判断省半秒，却多失败三次才完成任务，用户真正支付的是所有尝试；需要按最后交付累计计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么实验提案先做成对比较，再拟合价值分数，而不是直接选描述最精彩的方案？
Janus: Enhancing Long-Horizon Autonomous Research with Co-Evolving World Models
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：成对比较让价值提升、信息增益与探索收益形成可校准的相对次序，稀疏锦标赛再用 Bradley–Terry 分数连接这些局部判断。预测用于分配实验预算，执行后的成功与失败又更新模型和技能；预测高分不等于实验已成功，也不能替代真实执行。
教学例子：例如方案甲预期涨分高、乙更能排除关键假设，可按剩余预算调整探索权重，而不是把两句漂亮承诺当作结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
稀疏锦标赛的软比较如何形成提案价值分数？
Janus: Enhancing Long-Horizon Autonomous Research with Co-Evolving World Models
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：对比较边的软偏好用 BCE 拟合 sigmoid(g_m-g_n)，得到相对 Bradley–Terry 分数，再按三类收益加权。它连接局部偏好，不提供绝对成功概率；实验后再更新图与技能，不能用预测器自产分数替代 sandbox 的真实结果。
教学例子：例如甲略优于乙、乙优于丙，可拟合相对次序；甲得分更高仍不意味着它的实验已经超过当前最好模型。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
只按预测涨分选实验，与同时计入信息增益和探索收益有何区别？
Janus: Enhancing Long-Horizon Autonomous Research with Co-Evolving World Models
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：单看涨分偏向当前最有希望的方向，可能反复利用已有区域；信息增益重视排除不确定假设，探索收益则给未知方向机会。Janus 随进度和剩余预算调整权重，体现探索利用取舍，但预测误差仍需由真实执行纠正。
教学例子：例如甲预期小幅涨分但结论已很确定，乙不一定涨分却能区分两种机制，早期预算可给乙更多机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
Janus 为什么把尚未执行的提案也放入研究图？
Janus: Enhancing Long-Horizon Autonomous Research with Co-Evolving World Models
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：未执行提案代表可以竞争预算的研究方向，预测价值提升、信息增益和探索收益后再决定执行哪个。图同时保存实际实验反馈与抽象技能，使下一轮提案依赖已有证据；提案预测只是选择依据，不能当作完成实验或已获得的分数。
教学例子：例如一个新模型改动和一个失败原因诊断都可先作为候选，系统按剩余预算决定先花算力测哪一个。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
没有答案或评分细则时，Propose–Probe–Compose 怎样避免把自评分当作正确性 oracle？
Harness²: Recursive Agent Harnessing for an Open World
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：候选先真实执行，再依据公开任务与行为差异组合，证据来自轨迹和产物而非隐藏答案。多产物选择时匿名化，减少按 harness 身份偏好；这种开放改进不提供绝对正确保证，选择、反思和 probe 调用也必须计成本，不能只统计最终执行次数。
教学例子：例如通用候选强化验证、领域候选改善检索，实际跑后可组合有用部分；不能因为其中一个自称最好就当作已经正确完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
最终 selector 为什么只看匿名产物，不能看 harness 身份或重新写答案？
Harness²: Recursive Agent Harnessing for an Open World
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：匿名选择减少按提案来源偏好，只能从实际最终产物中选，不能混入参考、提案中间物或生成新答案。k=1 直接采用；本地可信脚本探针核对执行账但非 LLM 开放任务，外层算术检查结果不能回灌 editor 或 reflector。
教学例子：例如 selector 若知道哪份来自“高级方案”可能偏选身份；若自己再改答案，就不再是对已有执行产物的选择。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
并行独立组合与顺序递归改进为什么不是相同候选依赖？
Harness²: Recursive Agent Harnessing for an Open World
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：并行模式分别提出通用和领域候选，再形成独立组合；顺序模式每步读此前 harness 与任务内历史，后步依赖前步结果。二者同为 4k 次执行、3k 次提案，选择器和反思另计，不能把并行等待减少当调用成本减少。
教学例子：例如 k=2 时并行有两个独立最终组合，顺序则第二次在第一次结果上继续，候选之间依赖完全不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Harness² 为什么研究在没有标准答案和评分细则时改进 Agent 的工作流程？
Harness²: Recursive Agent Harnessing for an Open World
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：很多真实任务只有交付要求，没有随时可调用的正确性 oracle，仍可能通过执行探测发现流程不足。Harness² 研究从提案、探测和组合中构造更合适的 harness。观察到改动或获得高自评分不代表答案正确，最终产物需要与生成流程分开的选择和检查。
教学例子：教学例：整理一份开放研究报告，没有唯一标准答案；可先探测来源获取和组织流程，再检查匿名产物，而不是直接相信作者自评。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么固定 executor，却训练 Proposer 与 Reflector，仍可称为演化器本身在进步？
Evo2: Evolving the Evolver through Weight-Harness Co-Evolution
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google DeepMind
展开答案与例子
答案：执行任务的模型保持不变，变化的是提出和修复 harness 的策略参数；搜索产生的有效编辑轨迹为这两个角色提供训练信号。这样改进对象从候选框架扩展到如何改框架，keep 收益仍为零，不能把没改动的提议也奖励成成功创新。
教学例子：例如同一个执行器处理任务，训练后的提议者更会选择日志压缩方案，反思者更会修复错误 hook，收益来自改进过程变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
keep 收益、角色优势和截断 token 在 loss 中怎么处理？
Evo2: Evolving the Evolver through Weight-Harness Co-Evolution
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google DeepMind
展开答案与例子
答案：keep 收益为零，各角色组内用奖励减均值；token loss 按固定 Lmax 归一，截断输出屏蔽，防长度改变训练尺度。本地真实路径仍有特定环境和资源范围，7B policy/executor 加冻结副本不能推定 A30 可容纳，也不等于论文完整代码 benchmark。
教学例子：例如长输出被截断不应把其不完整尾部当正确编辑监督，若按实际短长度重新平均，还会改变原训练权重。
依据：核心公式、本地复现、结果、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
树父权重 ε+|V-1/2| 与只偏爱高成功率节点有什么不同？
Evo2: Evolving the Evolver through Weight-Harness Co-Evolution
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google DeepMind
展开答案与例子
答案：该权重偏离中间表现的节点，并保留 root 固定采样份额，用于搜索分配，不是单纯“分数越高越常选”。跨分支 crossover 与 reflector 也参与产生新 harness，不能用普通冠军贪心替代而保留同名。
教学例子：例如 V 为零和一都比二分之一离中心更远，这个抽样规则不会只按成功率从高到低选父节点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Evo2 为什么希望自动搜索的提案与反思能力能从经验中学习？
Evo2: Evolving the Evolver through Weight-Harness Co-Evolution
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google DeepMind
展开答案与例子
答案：固定 evolver 每次使用相同提案习惯，可能持续给出低价值或难执行的修改。Evo2 把生成与反思策略作为训练对象，让搜索经验影响后续改进方式，同时固定任务执行器以明确更新来源。搜索获得新版本不等于任务底座也训练了，收益仍需独立执行评价。
教学例子：教学例：若提案器反复建议不可运行的结构，可训练它利用失败经验改变提案；负责执行任务的模型权重并不必同时变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
全局 token top-k 再按 memory ID 聚合，为什么不同于逐条记忆做 MaxSim？
Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：全局检索让所有记忆 token 竞争稀疏返回预算，逐条 MaxSim 则对每份记录独立寻找匹配，计算与候选分布都不同。未返回位置还需统一 floor，避免把缺失匹配当成真实零证据；pooled 分支保留整体语义，也让没返回局部 token 的记忆仍可入选。
教学例子：例如某记录只有一个罕见日期与问题强匹配，全局 token 检索可先找日期再回到记录，不必先让整段 pooled 向量胜出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
query adapter 为什么不通过离散邻居选择反传？
Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：训练使用 all-memory MaxSim 的多正例交叉熵作为连续 surrogate，推理才做稀疏 token 搜索；离散 ANN 邻居选择不能凭空提供正确梯度。低秩残差只改 query 内容 token，保持范数，encoder、memory bank 与 pooled query 冻结，超参只看 validation。
教学例子：例如改变 query 后 Top-K 索引跳变不能当普通可微函数求导；训练先用可微全量匹配学习，再在推理用稀疏索引。
依据：核心公式、本地复现、数据协议、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
训练 query-only adapter 与重新训练整个记忆编码器，分别改变哪一侧表示？
Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：query-only 路线冻结 encoder 和 memory bank，只用低秩残差调整查询内容 token，让查询更适应既有记忆几何；重训编码器则可能改变两侧坐标，需要重新编码存量记忆并维护版本一致。前者更新范围较小，也受固定 bank 信息限制，不能补回编码时已经丢失的内容。
教学例子：教学例：百万条记忆向量保持原样，只调整“谁在周二批准”的查询表示；如果改了共同编码器，旧向量可能需要全部重新计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么只保留 pooled embedding 可能漏掉记忆中的局部事实？
Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：整段池化把多个内容压到一个向量，某个日期或对象差异可能被共同话题稀释；最后层内容 token 保留更细的上下文证据，可用稀疏匹配补充。token 证据不是独立词典含义，也不保证所有匹配都事实正确，仍需与全局分支结合。
教学例子：例如两段都谈旅行，只有一句写了改签日期；整段向量很相近，局部日期 token 更可能区分相关记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ZCPO为什么把KL放进组内零和系数，而不另外加一项KL loss？
When KL Regularization Misfires in Group Policy Optimization
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：独立KL项在奖励没有区分或奖励梯度抵消时仍可能推动策略。ZCPO把响应平均条件KL的相对漂移与组内奖励一起中心化，再放入原策略surrogate。奖励尺度为零或组不合格时跳过整组，还需避免优化器权重衰减造成无信号更新，不能只返回零损失。
教学例子：一组回答全得相同奖励，本来没有相对学习方向；额外KL仍可能改模型，所以要明确整组是否真正跳过优化步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ZCPO奖励全相同的组为什么必须跳过optimizer更新？
When KL Regularization Misfires in Group Policy Optimization
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：奖励尺度为零会产生除零，且空损失仍执行AdamW可能通过权重衰减改参数。整组应跳过；组大小不足也不进入该相对系数计算，不能只把系数填零后照常step。
教学例子：例如日志显示梯度零，但权重衰减仍能改模型，因此跳过与零梯度不是同一件事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
ZCPO条件KL与采样token的单点log-ratio可以互换吗？
When KL Regularization Misfires in Group Policy Optimization
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不能。规定信号是完整词表条件KL，先沿响应长度平均，再组内中心化。单点比值是不同估计，可能有很大采样波动，不能仅因都涉及log概率就替换。
教学例子：例如某次采到的罕见词偏移，不代表整份条件分布的KL就是该数值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ZCPO为什么把KL漂移放进组内系数而不另加独立损失？
When KL Regularization Misfires in Group Policy Optimization
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：独立KL在奖励无区分时仍可能推动更新，ZCPO把奖励和相对KL共同中心化后形成零和系数，再交给原策略surrogate，强调组内相对信用。
教学例子：例如所有回答奖励一样时，不希望仅因额外KL项仍自动发生一次策略训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
SGUID探测技能教学效果后，为什么恢复本轮初始权重，只用紧凑库重新训练？
Which Skill to Distill? SGUID: Selecting a Compact Skill Bank for Model–Skill Co-Evolution
问答新增：2026-10-27 · New York University
展开答案与例子
答案：探测阶段同时尝试大量候选，若直接继承探测后模型，就无法区分筛选库与额外训练的作用。恢复起点后用筛中技能重训，才隔离课程选择效果；下一轮再由更新模型生成新技能。语义检索次数不是有效教学次数，早晚持续信号还要与verifier方向一致。
教学例子：测试十种解题提示已让学生多练许多题，若不恢复起点，就不能说后来提升只来自最终选中的两种提示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
SGUID负系数可直接删掉吗，既有结果怎样保留？
Which Skill to Distill? SGUID: Selecting a Compact Skill Bank for Model–Skill Co-Evolution
问答新增：2026-10-27 · New York University
展开答案与例子
答案：定义允许负教学信号，不可只保留正例改目标。筛选需检查早晚活动与质量条件，既有两轮执行后验证下降是负结果，不能因流程跑完称为能力提升。
教学例子：例如后期信号衰减到不合格，不能只看早期有效就继续留库。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
SGUID探测后为何恢复本轮初始权重再正式训练？
Which Skill to Distill? SGUID: Selecting a Compact Skill Bank for Model–Skill Co-Evolution
问答新增：2026-10-27 · New York University
展开答案与例子
答案：筛选过程本身已更新模型，恢复可让紧凑库正式训练不额外继承探测收益，保持轮内对照清楚。下一轮再从新模型产技能，不用固定手工库冒充共同演化。
教学例子：例如探测看过所有技能后直接续训，会把被淘汰技能的影响也带入正式模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
SGUID为什么看技能持续教学活动而不只语义相似？
Which Skill to Distill? SGUID: Selecting a Compact Skill Bank for Model–Skill Co-Evolution
问答新增：2026-10-27 · New York University
展开答案与例子
答案：相关技能可能教不会学生，方法检查早晚期是否持续提供与verifier一致的信号，从当前验证轨迹生成并筛选技能。检索频率不是有效教学次数。
教学例子：例如某技巧常被检索却一直给错方向，就不能因相关而永久保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Semi-OPD缓存了教师评分，为什么学生概率与token优势仍要每步重算？
When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better
问答新增：2026-10-27 · UCLA / NVIDIA（论文注明实习）
展开答案与例子
答案：固定轨迹和冻结教师可安全复用不变的评分，但学生更新后对同一token的支持会改变，教师学生差也随之改变。缓存旧优势会把过时方向反复施加，偏离定义目标。离线学生rollout能节约生成成本，却不能因此称为每步新鲜on-policy采样。
教学例子：一个词起初被学生低估，训练后已超过教师；若仍用最初的正优势，会继续推高它，而刷新差值可改变方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Semi-OPD的缓存需要保持哪些内容不可变？
When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better
问答新增：2026-10-27 · UCLA / NVIDIA（论文注明实习）
展开答案与例子
答案：提示、响应、对应教师分数及mask要对齐不可变；每步只刷新当前学生评分及冻结优势。不得用修改后的文本去搭旧分数，也不能把缓存协议通过当长期分布覆盖保证。
教学例子：例如删掉一个token后继续沿用旧位置分数，会让监督错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
缓存teacher标签与缓存advantage为什么不同？
When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better
问答新增：2026-10-27 · UCLA / NVIDIA（论文注明实习）
展开答案与例子
答案：教师在固定前缀的分数可复用，优势还含当前学生logp，学生更新后必须重算。连优势一起固定会变成另一套陈旧信号，不再执行规定目标。
教学例子：例如教师仍给同样分，学生已更认可该词，差距应缩小而非永远不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Semi-OPD为什么固定初始学生生成的数据？
When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better
问答新增：2026-10-27 · UCLA / NVIDIA（论文注明实习）
展开答案与例子
答案：一次生成与教师评分可降低后续采集成本，训练在固定学生状态集上继续学习。它仍承认更新后当前策略会漂移，固定数据不自动保持持续on-policy。
教学例子：例如最初收集一批常见错误前缀，后续反复学习但不新增当前错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
Residual Advantage为什么减去学生分布下的残差期望，再做响应内中心化？
Residual Advantage: Student-Relative Teacher Guidance for RL with Verifiable Rewards
问答新增：2026-10-27 · Harbin Engineering University / Tencent / Harbin Institute of Technology
展开答案与例子
答案：师生概率差的原始值依赖学生当前覆盖，减去学生期望后才得到相对学生的局部优势，响应中心化再分离位置差异。它与验证器优势相加而非取代真值信号。共同更新教师时先固定同一已评分批次，新教师只在下一轮使用，不能中途重标标签。
教学例子：教师对某词比学生更支持，但学生对许多替代词也有相近残差；需相对整体基线判断，而非看到差值为正就强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
Co-RA为什么本批评分后不允许中途换教师重打标签？
Residual Advantage: Student-Relative Teacher Guidance for RL with Verifiable Rewards
问答新增：2026-10-27 · Harbin Engineering University / Tencent / Harbin Institute of Technology
展开答案与例子
答案：学生与教师更新基于同一已评分批次，教师LoRA只用固定验证器优势更新，新教师下一轮才使用。中途重算会让同批目标随参数变化，破坏可追溯顺序。
教学例子：例如学生前半批读旧教师、后半批读已更新教师，不再是同一固定监督批。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
残差优势与直接全分布KL蒸馏的监督形式有何不同？
Residual Advantage: Student-Relative Teacher Guidance for RL with Verifiable Rewards
问答新增：2026-10-27 · Harbin Engineering University / Tencent / Harbin Institute of Technology
展开答案与例子
答案：残差构造成有界局部优势并逐响应中心化，进入策略更新；KL直接约束分布差。二者梯度形式与任务奖励组合不同，不能只因都用教师概率就等同。
教学例子：例如局部修正先减学生期望与响应均值，不是原封不动复制教师logits。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
Residual Advantage为什么把师生概率残差变成局部优势？
Residual Advantage: Student-Relative Teacher Guidance for RL with Verifiable Rewards
问答新增：2026-10-27 · Harbin Engineering University / Tencent / Harbin Institute of Technology
展开答案与例子
答案：教师分布差提供稠密指导，扣除学生分布期望基线后得到相对当前学生的信号，再与验证器优势结合。它不是仅增加一个终局教师评分。
教学例子：例如同一前缀里教师更支持另一个词，可为当前词提供局部改进方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
ReCal为什么用剪枝探针测损伤，却回到未剪枝模型重新计算通道选择？
ReCal: Calibrating Structured Pruning for On-Policy Distillation Recovery
问答新增：2026-10-27 · Zhongguancun Academy / Tencent / University of Science and Technology of China
展开答案与例子
答案：第一次剪枝暴露哪些教师状态受损，这些损伤用于重加权原模型的校准激活，再重新选择通道。它试图避免损坏学生只能产生贫乏轨迹、后续蒸馏难以修复的循环。损伤估计需保留词表剩余概率质量，单独归一化少数候选会改变KL含义。
教学例子：例如探针发现处理进位的状态受损较大，重新校准时提高这些状态的重要性；不是在已经删掉的通道上继续随意打补丁。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
ReCal top教师候选外的概率可以丢掉再归一吗？
ReCal: Calibrating Structured Pruning for On-Policy Distillation Recovery
问答新增：2026-10-27 · Zhongguancun Academy / Tencent / University of Science and Technology of China
展开答案与例子
答案：不能，保留top及其余总质量桶来估损伤，避免隐藏词表外误差。每响应损伤权重归一到单位，零损伤退化均匀；通道重选回到未剪原模型统计。
教学例子：例如probe把质量移到top外，局部重归一会看不见这类损伤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
损伤加权校准与按普通激活大小直接剪有何不同？
ReCal: Calibrating Structured Pruning for On-Policy Distillation Recovery
问答新增：2026-10-27 · Zhongguancun Academy / Tencent / University of Science and Technology of China
展开答案与例子
答案：前者关注教师轨迹哪些状态被probe损坏，再重权原模型统计；普通激活重要性不直接看恢复需求。目标宽度与恢复流程需相同才能公平比较。
教学例子：例如某状态不常见但损伤很大，可在校准中获更多权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
ReCal为什么剪枝前就考虑后续OPD可恢复性？
ReCal: Calibrating Structured Pruning for On-Policy Distillation Recovery
问答新增：2026-10-27 · Zhongguancun Academy / Tencent / University of Science and Technology of China
展开答案与例子
答案：严重剪枝会让学生只访问劣质状态，教师在这些状态的监督也受限。探针损伤帮助校准重新挑通道，意在保留更可恢复的结构，不是仅事后补训。
教学例子：例如关键运算路径删坏后，单靠更长蒸馏未必能恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
PIVOT为什么让低教师困惑度的问题先转RL，而高困惑度问题继续蒸馏？
PIVOT: Perplexity-Informed KD-to-RL Transition Scheduling for Vertical-Domain Few-Shot Distillation
问答新增：2026-10-27 · Ping An Technology / University of Science and Technology of China
展开答案与例子
答案：困惑度在学生自己的响应上计算，表示教师对学生当前行为的支持程度。较低时可较早依靠任务奖励探索，较高时继续获得教师监督；按问题组汇总后随训练逐步增加RL比例。它是路由依据，不是正确性判定，也不表示低困惑度问题必然简单。
教学例子：例如教师已认可学生的一类解题步骤，这类题先转奖励训练；另一类仍频繁偏离教师分布，暂时保留蒸馏而非统一切换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
PIVOT怎样从响应分数形成问题路由？
PIVOT: Perplexity-Informed KD-to-RL Transition Scheduling for Vertical-Domain Few-Shot Distillation
问答新增：2026-10-27 · Ping An Technology / University of Science and Technology of China
展开答案与例子
答案：先算每响应教师平均负logp的指数，再同题组平均、批内标准化，按余弦比例选最低问题。GRPO与OPD各保留规定归一，不能按单token直接分成两个目标。
教学例子：例如同题几条回答先汇总，不能只取最容易一条就判整题可转RL。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
教师困惑度与verifier正确率为什么不能互换？
PIVOT: Perplexity-Informed KD-to-RL Transition Scheduling for Vertical-Domain Few-Shot Distillation
问答新增：2026-10-27 · Ping An Technology / University of Science and Technology of China
展开答案与例子
答案：困惑度衡量教师对学生文本的支持，正确率衡量任务结果。高支持可能仍错，低支持也可能是新有效解法；它是路由代理，不是独立答案验证。
教学例子：例如教师不习惯学生新表达，并不证明该表达的结论错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
PIVOT为什么按问题而不是全训练同时从OPD切到RL？
PIVOT: Perplexity-Informed KD-to-RL Transition Scheduling for Vertical-Domain Few-Shot Distillation
问答新增：2026-10-27 · Ping An Technology / University of Science and Technology of China
展开答案与例子
答案：不同题学生准备程度不同，统一切换会让困难题过早失去教师。按教师对学生响应的困惑度排序，逐渐增加低困惑度题的RL比例，其他仍蒸馏。
教学例子：例如已熟悉的题先自主探索，尚偏离教师的题继续有人指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPD残余损失仍很大，为什么不能据此断言继续训练一定有足够学习信号？
Why On-Policy Distillation Sometimes Fails: Vanishing Learning Signals
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：数值差异与可推动参数的有效梯度并不等同，饱和或覆盖变化可能让残差存在而梯度变弱。论文联合查看截断前梯度、两折估计、参数位移与表示变化；非正分母时相关比例应不定义。这些诊断提供线索，不证明某种因素已造成学习停滞。
教学例子：老师学生仍有分布差，但关键区域梯度几乎为零；只看loss曲线会以为还有很多可学内容，实际参数未明显移动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
学习信号代理遇到非正loss或两折分母非正怎么办？
Why On-Policy Distillation Sometimes Fails: Vanishing Learning Signals
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：相应比值不定义，应保留无效状态而非强补零或正常比例；CKA按prompt平均后跨prompt中心化，用规定精度。梯度要取裁剪前，避免把优化器限制混成原始信号。
教学例子：例如两折梯度内积为负，不能除后取绝对值伪造正occupancy。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
occupancy与CKA相关诊断能证明停滞的原因吗？
Why On-Policy Distillation Sometimes Fails: Vanishing Learning Signals
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：不能，它们描述采样、更新与表示变化的相关模式，不能单独证明某机制导致失败。需要控制实验或额外假设，不能把诊断曲线直接写成因果结论。
教学例子：例如两层表示很像，同时学习变慢，尚不足以证明相似本身导致变慢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPD Learning Signals为什么同时看loss和梯度？
Why On-Policy Distillation Sometimes Fails: Vanishing Learning Signals
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：残余差异大不意味着仍有强更新方向，梯度可能已经弱。联合损失、截断前梯度、参数变化与表示相似度帮助诊断停滞，而不是只凭loss判断可学空间。
教学例子：例如教师分布仍不同，但学生在当前参数化下几乎收不到有效梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
MetaOPD为什么需要一次可微虚拟学生更新，不能只按当前loss给token调权？
MetaOPD: Meta-Learned Token Weighting for On-Policy Distillation
问答新增：2026-10-27 · East China Normal University
展开答案与例子
答案：当前loss大可能来自难噪声，未必对下游有益。虚拟更新让权重网络观察这些权重将怎样影响训练参考解损失，再取元梯度更新权重，随后执行真实学生步。参考解只在训练外层目标，描述特征和所用优化器状态也需按定义隔离，不能偷用测试答案。
教学例子：一个高loss词只是无关文风，另一个决定解题方向；虚拟试走一步后，可比较哪种加权更能帮助训练参考任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
MetaOPD的74维描述与权重变换哪些部分detach？
MetaOPD: Meta-Learned Token Weighting for On-Policy Distillation
问答新增：2026-10-27 · East China Normal University
展开答案与例子
答案：输入描述停止梯度，权重网络通过虚拟更新受元梯度；权重先逐响应中心化、tanh限制并单位均值归一。新权重再用于真实更新，参考解只用训练允许数据。
教学例子：例如测试参考解不能用作外层目标，否则把最终评测变成选权监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
可微虚拟AdamW与先做一次真实更新再事后打分有什么区别？
MetaOPD: Meta-Learned Token Weighting for On-Policy Distillation
问答新增：2026-10-27 · East China Normal University
展开答案与例子
答案：虚拟步骤保留到权重网络的计算关系用于元梯度，真实更新会修改学生状态且不自动提供该导数。优化器状态和顺序是算法定义，不是任意一步SGD都等价。
教学例子：例如需要问这次假想更新受哪些权重影响，而非只比较更新前后一个数字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
MetaOPD为什么通过虚拟学生更新学习权重？
MetaOPD: Meta-Learned Token Weighting for On-Policy Distillation
问答新增：2026-10-27 · East China Normal University
展开答案与例子
答案：仅看teacher gap不知哪些监督真正有用，虚拟更新后用训练参考解损失评价权重效果，元梯度学习分配规则，再用新权重做真实更新。
教学例子：例如某词差距大但学它损害参考任务，元目标可降低其权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
MagicBeanStalk的子题有效性和最终Goldilocks筛选，为什么不能互相替代？
MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：子题示范是否提高父题成功率，检验依赖分解是否有效；最终任务还需对目标策略在给定预算下既非全对也非全错，并存在正常结束的正确解。两条件针对不同对象与阶段。局部教师诊断通过不代表递归构造成功，本地多次构造失败也须保留。
教学例子：例如两个子题确实帮助另一个学生解父题，但目标模型仍一次都解不出合成题；这种任务仍未通过最终可学习性筛选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
本地MBS格式合法的新题能直接进入实现通过状态吗？
MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：不能，还需完整正确解、独立验证、蓝图与新颖性以及有效性和Goldilocks检查。既有多次真实构造失败需保留，单次教师质量诊断不是整方法通过。
教学例子：例如JSON与依赖图都合法，内容却无法解出，仍应记构造失败。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
子题effectivity与目标policy Goldilocks各验证什么？
MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：前者看子例是否提高某学生父题成功，后者看最终目标策略在规定预算是否有部分成功且至少正常结束正确。两阶段对象不同，前者不能替代后者。
教学例子：例如辅助学生学得好，但目标模型仍全错，最终题仍不适合本轮训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
MagicBeanStalk为什么递归分解再组合难题？
MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：硬题全错缺少优势，子题示例可揭示有效蓝图，再合成新叶并沿依赖组合，寻求当前策略既有对又有错的可学任务。合成合法不等于任务有效。
教学例子：例如将复杂推导拆成可练的小环节，再组合成保留关键依赖的新题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
GRPODropout为何筛掉部分高概率正优势响应，却恢复所有非正优势响应？
GRPODropout: Less is More for Online Reinforcement Learning Rollouts
问答新增：2026-10-27 · Harbin Institute of Technology (Shenzhen)
展开答案与例子
答案：高概率且正优势的响应可能进一步强化已占优势的模式，筛选依据是它们对熵变化的贡献，而非随机丢弃。保留负向反馈后，再按旧策略概率重新中心化优势，避免筛选改变基线。生成预算并未因此减少，节约更新样本不等于少生成。
教学例子：例如一组里常见正确模板过度主导，可少学其中部分重复回答；失败回答仍用于惩罚，不能删掉后把剩余样本都视为正例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
GRPODropout删除后能用原组优势不再中心化吗？
GRPODropout: Less is More for Online Reinforcement Learning Rollouts
问答新增：2026-10-27 · Harbin Institute of Technology (Shenzhen)
展开答案与例子
答案：需要按保留项旧策略概率重新中心化，且所有非正优势响应恢复。忽略任一会改变均值和负反馈结构，不能把简单随机去两条称原算法。
教学例子：例如删掉强正样本后组基准已变化，原优势并不自动仍满足规定中心。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
响应dropout与生成前少采几条有什么成本差异？
GRPODropout: Less is More for Online Reinforcement Learning Rollouts
问答新增：2026-10-27 · Harbin Institute of Technology (Shenzhen)
展开答案与例子
答案：前者先生成再筛训练，仍支付全组生成；后者减少数据覆盖和生成成本，改变估计条件。不能把少反传响应自动写成同等比例的端到端采样加速。
教学例子：例如八条都生成后只用六条，不等于只花六条生成的时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
GRPODropout为什么删部分高概率正优势回答？
GRPODropout: Less is More for Online Reinforcement Learning Rollouts
问答新增：2026-10-27 · Harbin Institute of Technology (Shenzhen)
展开答案与例子
答案：这些样本可能继续集中已占优模式，按熵贡献选择性减少其更新，并保留失败负反馈。它不是随机丢神经元，也没有减少已付出的rollout生成预算。
教学例子：例如同一常见正确模板反复出现，可少强化其中一些重复优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
DIAL-OPD为什么不直接按师生对数概率差最大的词元选择监督？
DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation
问答新增：2026-10-27 · Eastern Institute of Technology, Ningbo / The Hong Kong Polytechnic University
展开答案与例子
答案：两者都认为极不可能的词元也可能有很大对数差，单看差值会高估其训练价值。概率对数均值提供尺度调节，再结合差异选位置；未选位置仍保留在上下文，只是不计对应损失。选择监督位置不会自动减少生成成本，也不保证每个大分歧都是知识错误。
教学例子：例如教师和学生都几乎不支持一个怪词，它们的对数差仍很大；尺度调节让正常关键步骤的分歧有机会优先受监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
DIAL对p=q的对数均值怎么处理？
DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation
问答新增：2026-10-27 · Eastern Institute of Technology, Ningbo / The Hong Kong Polytechnic University
展开答案与例子
答案：用连续极限避免零除零；有效响应内按每条规定配额选择，优势停止梯度，只沿末学生logp更新。不能先全batch统一排名导致长回答独占配额。
教学例子：例如两概率相等时数学上有有限极限，不应返回NaN或任意大分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
DIAL只监督部分位置与删除未选文本有何区别？
DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation
问答新增：2026-10-27 · Eastern Institute of Technology, Ningbo / The Hong Kong Polytechnic University
展开答案与例子
答案：未选位置仍作为条件上下文保留，只屏蔽对应loss。删除文本会改变后续前缀和教师分布，已不再是相同学生轨迹上的稀疏监督。
教学例子：例如不学习中间连接词，后续数字仍需读到它之前的完整算式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
DIAL-OPD为什么在大log差之外乘概率对数均值？
DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation
问答新增：2026-10-27 · Eastern Institute of Technology, Ningbo / The Hong Kong Polytechnic University
展开答案与例子
答案：两模型都极低概率的词也可出现大log差，尺度因子降低这类噪声位置优先级，突出有较实际支持的分歧。选中并不等于已被verifier认定错误。
教学例子：例如一个怪词两边都不想要，差十倍也未必比关键数字的小差更有价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么要按初始场景或 source 分组切分，而不能随机拆散视觉转移问答？
WOVEN: Weaving Visual World Modeling into Multimodal LLMs
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：同一初始图像可以衍生多个动作、问题与反事实选项，随机按题切分可能把几乎相同的视觉状态放进训练和测试。分组隔离减少这种捷径，再区分场景、动作与推理操作的迁移；高同源问答分数不能自动说明理解了未知场景的状态变化。
教学例子：例如同一桌面分别问“向左推会怎样”和“什么动作导致杯子移动”，两题共享底图，应作为一组切分而非分居训练测试。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
四种 option permutation 与 source_id 分组分别防什么问题？
WOVEN: Weaving Visual World Modeling into Multimodal LLMs
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：排列选项时要同步搬迁目标字母而保持内容和图像对应，避免固定字母捷径；划分按初始来源分组，防同源状态的不同问法跨集合泄露。prompt 只投影问题、选项和真实图像，distractor_type 等答案相关字段不能进入模型，本地也只运行 SFT 未运行 GRPO。
教学例子：例如同一初始帧生成三道题，应一起划到训练或留出；否则模型可记住来源，再在所谓 test 回答变体问题。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
scene-OOD 与 state-perturbation 测试区分什么泛化问题？
WOVEN: Weaving Visual World Modeling into Multimodal LLMs
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：scene-OOD 改变场景分布，state-perturbation 检查状态变化下的鲁棒性，两者不能因 ID 准确率高就视为解决。原文受控轴还含 action 与 reasoning，不同监督操作对迁移的贡献需分别比较，不能把按不同 benchmark 选 subset 的覆盖当成单模型全面提升。
教学例子：例如模型在新餐厅场景表现好，仍可能对同一场景里物体位置的小变化敏感；两种测试关注不同失效模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
WOVEN 的状态转移监督为什么不是普通静态图片分类？
WOVEN: Weaving Visual World Modeling into Multimodal LLMs
问答新增：2026-10-27 · Northwestern University
展开答案与例子
答案：共同对象是初始状态、动作与结果状态的关系，可要求前向预测、反推动作或反事实结果。视频生成 rollout 提供实际视觉转移及中间帧，而非在 prompt 里直接写结果；仅辨认物体类别无法覆盖这些操作，也不能替代模型对转移关系的学习。
教学例子：例如同一初始球位，左推与右推得到不同结果，问题可要求选动作或选后果，不是只回答画面里有没有球。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
TRACE 的 UPDATE 为什么替换活跃 Fine 工作集，而不是不断累加？
Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning
问答新增：2026-10-27 · City University of Hong Kong / Zhejiang University
展开答案与例子
答案：不断累加会使活跃上下文随推理增长，失去预算约束。ViMoD 让 Coarse 表示持续存在，而 Fine 细节按当前生成历史保持或替换，原始细节仍可恢复；被替换的是当前参与注意力的工作集，不是把底层 Fine 缓存永久删除。
教学例子：例如先取左侧标签，再转向右侧仪表时替换细节工作集；粗图仍在，之后也能按需重新取回左侧标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
DART 前向硬分组时，训练梯度为什么仍能跨组传播？
Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning
问答新增：2026-10-27 · City University of Hong Kong / Zhejiang University
展开答案与例子
答案：容量受总和约束并通过隐式 Jacobian 反传，池化采用 hard+soft-stopgrad(soft) 的直通形式，使前向保留硬组、反向利用 Sinkhorn 连续容量。阶段训练还需真实 Fine-index 标注或在线 teacher；缺少这些条件时应报错，不能制造伪证据标签。
教学例子：例如前向把一个 patch 分到甲组，反向仍可通过连续分配调整容量；但没有真实监督时，不能用预设答案区域冒充学会检索。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
DART 的可变容量分组与固定大小池化，对图像区域有什么不同假设？
Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning
问答新增：2026-10-27 · City University of Hong Kong / Zhejiang University
展开答案与例子
答案：固定池化把相同数量的位置归到每组，默认各处需要相似分辨率；DART 学习区域大小和成员，同时约束容量总和等于原 token 数，用连续容量支持训练。它可表达不同区域不同需求，但最终分组仍有预算，不能从容量可学习推出所有重要细节都会被保留。
教学例子：教学例：大片空白可占一个较大区域，密集文字区域可分得更细；固定等宽网格不会因为内容复杂而自动调整分组。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
ViMoD 为什么希望压缩图像后，仍能在推理中找回原始细节？
Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning
问答新增：2026-10-27 · City University of Hong Kong / Zhejiang University
展开答案与例子
答案：生成答案的中途才可能发现需要读小字或检查局部，一次性不可恢复压缩容易提前丢掉这些证据。ViMoD 保留紧凑概览与原始细节缓存，让后续文本状态决定访问内容。保留外部细节不等于每步全部读取，恢复也有管理成本，需检查它是否提供真正必要的信息。
教学例子：教学例：先概览收据判断类别，推理到税额时再找回对应原始区域；若只留永久摘要，小数字可能已经无法恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
为什么 Gated DeltaNet 的视觉压缩不能直接照搬 softmax attention 权重？
V-CoLA: Vision Token Compression with Linear Attention
问答新增：2026-10-27 · Alibaba Cloud Computing / Alibaba Group
展开答案与例子
答案：线性递归状态并不显式保存同样的完整注意力矩阵，其信息由状态更新与遗忘共同决定。V-CoLA 用最终状态能否回读某 token 衡量长期保留，再测短窗口 query 对更新的响应变化补充独特性，之后连续分块合并；这些分数并非普通相似度排序。
教学例子：例如一个 patch 刚写入时很显眼，却在后续状态中被覆盖，最终回读分数就会降低；单看当时的局部相似度会漏掉遗忘。
依据：背景与主要改动、核心公式与实现选择；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
转置状态约定和 query probe 差异为什么必须写进实现说明？
V-CoLA: Vision Token Compression with Linear Attention
问答新增：2026-10-27 · Alibaba Cloud Computing / Alibaba Group
展开答案与例子
答案：论文采用 value×key，本地沿官方后端使用 key×value，递推乘法必须相应转置。正文 Equation 7 使用 query probe，附录写 shifted keys，本地明确选择前者；再用官方 kernel 重放门槛验证真实状态，不能把两种规格默认为完全等价。
教学例子：例如状态轴写反可能仍得到合法矩阵形状，却读错 key 与 value 关系；数值重放可比只检查 shape 更早发现这种错误。
依据：核心公式与实现选择、本地复现、复现边界与 Evolve；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
V-CoLA 的长期保留分数与短期独特性分别避免哪种遗漏？
V-CoLA: Vision Token Compression with Linear Attention
问答新增：2026-10-27 · Alibaba Cloud Computing / Alibaba Group
展开答案与例子
答案：长期分数检查某 token 的 value 能否从最终状态回读，短期分数衡量其更新是否带来不同响应。前者关注最终记忆，后者补充局部新增信息，两者按 0.9 与 0.1 结合；随后连续分块合并，而非只按单一静态相似度删除。
教学例子：例如一个 token 与旧内容相似但长期保留很好，另一个提供短时新细节；两路信号让选择不完全被其中一种特征支配。
依据：背景与主要改动、核心公式与实现选择；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
混合线性注意力 VLM 为什么也需要专门的视觉压缩方法？
V-CoLA: Vision Token Compression with Linear Attention
问答新增：2026-10-27 · Alibaba Cloud Computing / Alibaba Group
展开答案与例子
答案：大量视觉 token 会占用语言层的计算与状态，但线性注意力保存信息的方式不同于普通 softmax 矩阵。V-CoLA 研究从真实状态递推判断哪些视觉信息值得保留，再合并或在深层退出。压缩改变后续可读证据，不能仅以 token 变少证明答案质量或真实推理成本改善。
教学例子：教学例：一张高分辨率图有许多相似背景块，可尝试压缩；仍要保留问题涉及的细小标志，不能直接套另一类模型的注意力排名。
依据：背景与主要改动、核心公式与实现选择；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
UMRM 为什么用全部 B² 正负组合，而不是只比较每个样本自己的正负对？
Unsupervised Multimodal Reward Modeling
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：批内每个正例与每个负例都参与排序，让奖励头学习跨样本的分数区分，而非只拟合孤立配对。表示只池化 response token，避免图像或提示淹没回答差异；合成负例定义了训练方向，并不保证已经识别真实策略产生的所有幻觉。
教学例子：例如两条正描述与两条负描述应产生四次比较，而非仅两次原配比较；这扩大了批内排序约束但不创造真实偏好标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
UMRM构造扰动负例时，应改回答文本，还是把输入图像也替换成与负描述匹配的图？
Unsupervised Multimodal Reward Modeling
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：负采样在模型外编辑response，原图像保持不变；可做单span属性变化、tail splice、clause shuffle，或引入cross-image caption，后者默认概率为0.15。若同时换成符合负描述的图片，就改变了正负区分条件。图像与prompt还不能混入response池化。
教学例子：图中两只狗的正描述可把“两只”改成“三只”作负例，但仍给原图；不能同步换成真的有三只狗的图。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
caption 扰动准确率与 policy 自产候选的选择效用为什么可能反向变化？
Unsupervised Multimodal Reward Modeling
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：扰动负例与真实 policy 错误分布不一定一致，奖励头可能学会识别人工修改的特征，而非部署中的关键错误。用 policy 自产候选及 verifier 重训会改变奖励方向，因此某个 reward benchmark 下降，也可能同时改善实际 Best-of-N 选择。
教学例子：例如颜色替换负例很好识别，但 policy 常犯的是漏掉对象；对前者高分的头未必能从真实候选中挑出最忠实描述。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
UMRM 的“无监督”是否表示训练和选择过程完全不用标签？
Unsupervised Multimodal Reward Modeling
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：不是。它主要指训练偏好 pair 可由真实 caption 的扰动构造，无需人工成对偏好标注；中间层选择使用有标注 development 集，bootstrap 还使用 cheap verifier 标签。应分别标明偏好来源、模型选择与部署效用监督，避免扩大无监督范围。
教学例子：例如自动把“两个杯子”改成“三个杯子”生成负例，不需人排偏好；选择哪个隐藏层最可靠仍可需要验证标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
目标侧 stop-gradient 为什么不意味着视觉 tokenizer 完全冻结？
Mid-Training Language Models on Raw Video
问答新增：2026-10-27 · Meta AI / Massachusetts Institute of Technology
展开答案与例子
答案：目标路径停止梯度是防止预测目标跟随预测一起塌缩或移动，输入侧视觉 tokenizer 仍可通过 LM 与预测头接收梯度。模型在无字幕中期训练中学习视觉序列关系，之后需匹配的指令调优对照；不能把没有文字损失误解为整个视觉前端不训练。
教学例子：例如用前一帧 patch 预测下一 patch，下一目标不反传，但前一输入经过的视觉参数仍可被预测误差更新。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
视频中期训练后的图文指令调优，为什么必须与对照使用同一口径？
Mid-Training Language Models on Raw Video
问答新增：2026-10-27 · Meta AI / Massachusetts Institute of Technology
展开答案与例子
答案：最终能力同时受视频阶段与后续指令调优影响，若两侧调优数据或流程不同，就难把差异归因于 raw-video 阶段。论文用匹配图文指令调优隔离其贡献，文本保真结论也限于这一协议。不能据此推广为任意无字幕视频训练都不遗忘，本地组件不代替完整对照训练。
教学例子：教学例：视频组多做一轮优质指令训练而基线没有，最终图像问答涨分就混入额外监督；需要先对齐后续调优条件。
依据：核心公式与原文效果、本地复现与成本决策；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
与视频 caption 训练相比，raw video 路线避免了什么监督瓶颈？
Mid-Training Language Models on Raw Video
问答新增：2026-10-27 · Meta AI / Massachusetts Institute of Technology
展开答案与例子
答案：caption 只保留文字描述覆盖的视觉内容，可能省略连续运动和细节；连续 token 预测直接利用原始视频顺序。它也引入更长序列与视觉回归训练成本，不能因为没有字幕就推断语义必然更好，后续还需匹配的图文指令调优比较。
教学例子：例如字幕只写“球移动”，原始连续表示仍含路径与速度变化；但模型能否利用这些信息需要实际下游评测。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
没有字幕的原始视频，为什么仍可能为语言模型提供有用的中期训练信号？
Mid-Training Language Models on Raw Video
问答新增：2026-10-27 · Meta AI / Massachusetts Institute of Technology
展开答案与例子
答案：视频的有序画面含有物体、运动和时空关联，不必全部先压成文字说明才能学习。该方法把帧 patch 编成连续视觉序列，让因果模型预测后续表示，利用原始视觉变化。预测视觉 token 并不等于生成字幕或掌握真实物理规律，后续能力还需匹配调优与评测。
教学例子：教学例：杯子被拿起的连续帧包含运动关系，字幕可能只写“有人拿杯子”；直接视觉序列可提供文字未逐项标注的变化。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
VFold为什么先对齐相邻层的Value坐标，再共享缓存，而且当前词元先用完整Value？
VFold: Symmetry-Aware Cross-Layer Value Cache Compression
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：不同层的值空间未必可直接平均，CCA与头匹配先建立可比较坐标，并把变换折进值与输出投影。当前词元先完成完整注意力，再进入跨层共享，限制即时扰动；键和重要首尾词元保持独立。可逆变换的等价性不表示后续平均也完全无损。
教学例子：例如两层各用不同坐标表示同一特征，直接平均会抵消信息；先对齐再共享较合理，但仍须评估平均近似的影响，不能称为严格无损。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
VFold 在 GQA 下折叠逆变换，为什么不能只改一个 query 输出段？
VFold: Symmetry-Aware Cross-Layer Value Cache Compression
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：一个物理KV head被多个query head共享，逆变换需覆盖这些query对应的全部输出段，才能对应等价关系。当前token先用完整V，之后才共享；短序列还受首尾保护开销影响。
教学例子：两组query都读取同一个KV头，仅修正其中一组输出会留下另一组坐标不一致。
依据：核心公式、数据协议与结果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
VFold 共享 Value 与同时合并 Key，会改变什么不同对象？
VFold: Symmetry-Aware Cross-Layer Value Cache Compression
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：文档不合并Key，仍保留各层匹配位置所需的key；共享的是对齐后的value内容。把Key也平均会进一步改变attention匹配，不是原方法中同一项缓存节省。
教学例子：两层仍能给历史位置不同权重，只是部分被读取内容采用共享value。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
VFold 中的 Key 与 Value 缓存分别保存什么，哪些被共享？
VFold: Symmetry-Aware Cross-Layer Value Cache Compression
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：Key参与历史位置匹配，Value提供注意力读出的内容。VFold只合并匹配后的相邻层Value，Key不合并，首尾重要token另存；因此不能把它理解为把整份KV或整个历史都合成一层。
教学例子：两层可以共用经过处理的内容表示，但仍保留各自检索所需的Key。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
SparseDecoding为何排除prefill，只用真实逐token生成激活来校准剪枝？
SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference
问答新增：2026-10-27 · Westlake University
展开答案与例子
答案：剪枝要服务于自回归解码，而固定真值文本的teacher forcing与prefill产生的激活分布未必代表部署时的解码状态。方法先让稠密模型真实生成，收集解码激活，再交给剪枝后端重构权重。校准数据怎么取得与使用SparseGPT还是Wanda是两个维度，不能把换校准协议等同于实现了所有后端。
教学例子：模型自己生成了一个偏离参考答案的前缀，后面会访问不同状态；只在参考文本上校准，可能剪掉这些实际解码状态所需的通道。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
32 列的稀疏解码打包，为什么要核对 set bit 数与保留值顺序？
SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference
问答新增：2026-10-27 · Westlake University
展开答案与例子
答案：50%稀疏时每组32列应有16个set bit，数值按递增列位置打包并固定遍历16项。掩码与数值顺序错位会读取错误权重；dense矩阵乘零也不能冒充真实稀疏SpMV。
教学例子：第2个打包值必须对应掩码中第2个被保留的列，而不是原矩阵的第2列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
本地 Wanda 后端与原文主要使用的 SparseGPT，优化机制相同吗？
SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference
问答新增：2026-10-27 · Westlake University
展开答案与例子
答案：不同。文档Wanda按权重幅度乘激活统计选N:M项，不执行SparseGPT的Hessian逆及误差补偿。因此应标明实际后端，不能仅因都产生稀疏权重就声称两者等价。
教学例子：两种方法都保留一半权重，留下的位置及对误差的修正方式仍可能不同。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
SparseDecoding 为什么把“如何采集激活”与“用哪个剪枝器”分开？
SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference
问答新增：2026-10-27 · Westlake University
展开答案与例子
答案：它先规定用模型真实自回归解码激活校准，再把这些统计交给剪枝后端。校准分布与剪枝算法是两项独立选择；换用Wanda不等于实现了SparseGPT全部优化。
教学例子：同一批decode激活可被不同剪枝器利用，不能把输入协议与后端名字混为一谈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
MetaEncoder的候选可以缓存，为什么请求端加入选项仍不等于候选间全交互？
MetaEncoder: Exploring the Limit of Bi-Encoders for Multimodal System One Decision Making with Natural Language Interface
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：共享双塔分别编码请求与候选，以归一化末词元向量做匹配，候选不依赖当前请求即可缓存。闭集请求可包含选项，但训练中部分丢弃它们，减少只靠文字匹配。候选塔仍是独立表示，复杂交叉推理能力受限；缓存条件也要求模型、提示和候选内容一致。
教学例子：例如工具描述预先编码，用户请求临时编码后比较向量；工具定义改了就应更新缓存，不能把旧向量继续当作新工具的表示。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
MetaEncoder对比训练的开放负例为何要全batch去重？
MetaEncoder: Exploring the Limit of Bi-Encoders for Multimodal System One Decision Making with Natural Language Interface
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：开放检索使用全局批次候选，重复相同候选若被当不同负例，会改变训练质量分配。请求到候选是规定方向，不能未经说明反向再加一项并称同一目标。
教学例子：例如同一工具在批次出现两次，不应自动变成两份独立竞争负例。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
MetaEncoder双塔与拼接请求候选后深度交互相比牺牲了什么？
MetaEncoder: Exploring the Limit of Bi-Encoders for Multimodal System One Decision Making with Natural Language Interface
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：独立编码利于缓存与大规模检索，却限制逐对细粒度交叉推理。候选放进闭集请求可提供上下文，但不把候选塔变成任意交互的cross-encoder。
教学例子：例如比较两段复杂证明的细微矛盾，单个固定候选向量可能比联合阅读受限。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
MetaEncoder怎样把闭集选择与开放检索放进同一种表示？
MetaEncoder: Exploring the Limit of Bi-Encoders for Multimodal System One Decision Making with Natural Language Interface
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：请求和候选分别进入共享编码器，取归一化末词元向量，通过相似度比较。闭集从给定选项选，开放集从更大候选库检索，差别主要在候选范围与训练负例。
教学例子：例如同一请求向量既可比较三个工具，也可检索整个工具描述库。
依据：背景与主要改动、核心公式与原文效果；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
为什么 LeWAM 的噪声动作分支不能经中间层读取干净动作？
LeWAM: End-to-End World and Action Modeling with JEPAs
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：干净动作作为未来动力学监督，在训练中可供状态查询使用，却不是部署时策略已知的信息。如果噪声动作通过共享注意力偷读它，就可能复制目标而不学从观察和目标生成动作。分支独立参数不够，必须同时约束跨层可见性以堵住间接泄漏。
教学例子：例如训练给出真实“向左推”的动作供预测未来；生成动作的噪声分支不能先看见这个答案，再把恢复结果算成决策能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
LeWAM 的动作精炼为什么用 proximity penalty 优化，却按原始 goal cost 选候选？
LeWAM: End-to-End World and Action Modeling with JEPAs
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：Adam 优化目标加入动作偏离采样计划的惩罚，限制精炼走得过远；最终选择则比较未加该项的 goal cost，让候选按到达目标的预测效果竞争。原始采样候选也保留，防止精炼退化。优化只更新动作，不把规划阶段误写成模型权重训练或真实任务成功保证。
教学例子：教学例：精炼动作偏离原方案较多但更接近目标，最终应按目标误差比较；若精炼反而更差，仍可退回保留的原候选。
依据：核心公式、本地复现、数据协议、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
LeWAM 的动作 flow 策略与宽高斯随机搜索的区别是什么？
LeWAM: End-to-End World and Action Modeling with JEPAs
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：flow matching 学习从噪声到动作数据的速度场，提供更接近训练动作分布的候选，再在潜在动力学中规划。宽高斯搜索主要靠无结构采样覆盖动作；学得的候选可能更集中，但真实优势仍需独立控制任务验证，不能靠训练损失推断。
教学例子：例如推物体时，学得策略可优先给出贴近桌面的推法，而不是大量采样穿过桌面的无效动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
LeWAM 为什么希望“预测动作后果”和“产生可用动作”在训练时互相联系？
LeWAM: End-to-End World and Action Modeling with JEPAs
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：世界模型能预测给定动作的未来，却不一定高效找到达到目标的动作；另训策略又可能无法让控制需求塑造视觉表示。LeWAM 联合学习视觉状态、动力学和随机动作策略，使预测与控制共享训练信号。联合目标并不免除信息隔离或真实执行验证，模型规划也可能失准。
教学例子：教学例：模型知道推一下物体会移动，却仍需决定往哪推、推多远；动作学习与未来预测相连，才能为具体目标产生候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
核心机制
Jev能力评测为什么不能把供应商分数与本地实测直接拼成统一排名？
Specialized Decision Models vs. General-Purpose LLMs: Benchmarking Jev Across Knowledge, Reasoning, and Multilingual Tasks
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：提示、后端和数据协议不一致会让数值差异混入非能力因素。有限候选评测应固定公开问题、候选与一次决策协议，答案只在评分端汇合，同时记录任务语言和缺失覆盖。该论文是能力审计而非新训练算法，某类任务表现也不能外推为所有推理场景。
教学例子：例如供应商用另一版提示得到数学分数，本地用固定候选接口得到知识分数；两者可以分别记录，不能据不同协议的数字判定模型整体胜负。
依据：背景与主要改动、数据与评测契约；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
实现细节
Jev能力评测的预测输入为什么只提交问题与候选一次？
Specialized Decision Models vs. General-Purpose LLMs: Benchmarking Jev Across Knowledge, Reasoning, and Multilingual Tasks
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：固定一次公开决策可避免用答案或重试策略额外帮助模型。金标在预测后由评分端读取，不同供应商协议的数字分别记录；漏测项也应明示，而非从总体分母悄悄删除。
教学例子：例如题库记录含答案字段，构造预测请求时必须先剔除，再由另一评分流程核对。
依据：背景与主要改动、数据与评测契约；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
方法对比
知识题强与数学题弱能直接推出模型完全没有推理能力吗？
Specialized Decision Models vs. General-Purpose LLMs: Benchmarking Jev Across Knowledge, Reasoning, and Multilingual Tasks
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：不能。观察只约束所测任务、提示与候选接口，还可能受语言和数据覆盖影响。应分别报告任务结果与缺失范围，不把一个维度的差异扩成所有场景的断言。
教学例子：例如某种算术题失败，尚不足以判断工具规划或其他数学形式也全部失败。
依据：背景与主要改动、数据与评测契约；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 按需决策：选择性推理、迁移与持续反馈
基础理解
Jev能力论文为何属于评测而非新架构？
Specialized Decision Models vs. General-Purpose LLMs: Benchmarking Jev Across Knowledge, Reasoning, and Multilingual Tasks
问答新增：2026-10-27 · Dalian Maritime University
展开答案与例子
答案：它在有限候选接口下测知识、推理和多语言表现，贡献在协议与能力边界证据，没有提出新的训练目标。实现评测器不表示已经实现或提升被测模型。
教学例子：例如把公开题规范成四选一并统计表现，是测量工具，而不是新的推理模块。
依据：背景与主要改动、数据与评测契约；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Elastic expert routing随机改变每个token的专家数，为什么期望计算预算还能保持不变？
Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts
问答新增：2026-10-27 · Shanghai AI Laboratory / Shanghai Jiao Tong University
展开答案与例子
答案：训练预算分布以k为中心、支持集对称且合法，使多选与少选的机会抵消，期望专家数仍为k。边界外专家由此得到真实稀疏执行的曝光；部署恢复固定k。维持期望不代表每个token成本相同，负载统计必须按实际派发计算，不能继续假设每行固定数量。
教学例子：以同等概率选择1、2、3个专家，平均仍为2；偶尔选择第3个能让它接收训练，但一次选3个的token确实比选1个多做了计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
截断离散高斯预算时，为什么不能只在可用范围内随意裁掉一侧？
Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts
问答新增：2026-10-27 · Shanghai AI Laboratory / Shanghai Jiao Tong University
展开答案与例子
答案：文档要求支持集围绕k对称且不越界，才保持E[r]=k。派发应只计算选中专家，并按实际token派发统计负载；推理时显式固定k，不能继续使用训练扰动。
教学例子：k靠近上限时仅删掉大于上限的一侧，会使平均预算偏低，破坏同预算比较。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Elastic 的预算扰动，与直接把固定 k 提高有什么不同？
Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts
问答新增：2026-10-27 · Shanghai AI Laboratory / Shanghai Jiao Tong University
展开答案与例子
答案：提高固定k持续增加计算预算；对称预算扰动围绕原k采样，期望仍为k，改变的是训练曝光模式。比较时需对齐参数、初始化和平均派发预算，不能把额外计算当成路由优势。
教学例子：同概率选2和4的平均预算是3，不等于每次都选4。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
固定 Top-k MoE 的“边界专家缺少曝光”指什么？
Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts
问答新增：2026-10-27 · Shanghai AI Laboratory / Shanghai Jiao Tong University
展开答案与例子
答案：每个token通常只派给排名前k的专家，长期刚好落在边界外的专家较少获得该token的真实计算和训练机会。弹性预算让邻近排名也有参与机会，部署时仍恢复固定k。
教学例子：某专家经常排第三而k=2，它并非完全无用，却可能持续失去训练曝光。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
Data-Space Iteration为什么固定同一噪声反复改进预测，而不把迭代编号当flow时间？
Few-Step Generation via Data-Space Iteration
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：共享生成器在数据空间逐步修正同一预测，编号表示细化轮次，原始噪声保持不变。训练仍用真实教师与拟合生成分布的假模型给出DMD方向，前缀无梯度，仅当前细化更新；不是每轮直接回归真实图片。本地微型实验不能替代原文大规模图像指标。
教学例子：例如从同一个噪声起点先画轮廓再修细节，后一步利用前一步预测；若每轮换噪声或随意当作新的扩散时间，就改变了迭代机制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
一次 refinement 更新中，prefix、fake 和 generator 的梯度边界如何区分？
Few-Step Generation via Data-Space Iteration
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：前缀rollout不建梯度图，仅优化当前最后一步；fake训练使用detach的生成样本，generator训练时teacher/fake不积累梯度，方向stop-gradient。把全部步骤连起来反传是另一种训练配置。
教学例子：第4步更新generator时，不能顺手把前3步和冻结teacher都当成可训练路径。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
Data-space generator 直接回归真实图片，与文档中的 DMD 训练等价吗？
Few-Step Generation via Data-Space Iteration
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：不等价。DMD由真实冻结teacher与拟合生成分布的fake给出方向，generator利用这条分布匹配信号；直接以真实图片作每步回归target会替换定义性训练链路。
教学例子：生成样本上的teacher−fake方向，不是给每个随机噪声预先配一张真实图片。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
Data-Space Iteration 反复更新的是数据预测，还是噪声时间轨迹？
Few-Step Generation via Data-Space Iteration
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：它固定同一份原始噪声，用共享网络逐次改进数据预测；迭代编号表示refinement而非flow time。训练仍有用于DMD的加噪时间τ，不能把这两个变量混为一项。
教学例子：第3次精炼不意味着一定走到噪声日程的t=3，而是对同一噪声的预测再改一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
CoTS混入soft token后，怎样避免把实际采样的离散轨迹完全冲掉？
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models
问答新增：2026-10-27 · Xiaomi AI Lab
展开答案与例子
答案：混合强度由top-2概率的竞争程度决定，并被限制在不超过一半；所以即使采样token不在soft集合中，其embedding也至少占半数。模型发出结束推理标记后关闭soft路径并保持离散输出，特定格式保护还可只影响当前步。它不是用概率均值无限延续替代实际轨迹。
教学例子：top-2概率为0.6与0.4时，基础混合强度为0.4，采样token仍占0.6；若第一名远高于第二名，soft混合会更弱，而不是统一采用固定一半。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
CoTS 发出结束推理标记后，下一步还能重新开启 soft mixing 吗？
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models
问答新增：2026-10-27 · Xiaomi AI Lab
展开答案与例子
答案：文档要求逐样本不可逆phase-lock：发出</think>当步即关闭并持续关闭。格式保护token只保护当步，与这一永久状态不同；sampled token也可能不在top-k集合，不能因此丢弃离散锚点。
教学例子：某样本结束思考后，其后输出均走离散路径，不能因下一步概率又接近而重新混合。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
CoTS 的 soft 混合与直接取 top-k embedding 均值有什么区别？
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models
问答新增：2026-10-27 · Xiaomi AI Lab
展开答案与例子
答案：CoTS先按候选概率归一化形成soft表示，再用受top-2竞争控制的α与离散锚点混合；均值会忽略概率差异和锚点约束。phase-lock还决定后续是否允许继续混合。
教学例子：0.9/0.1的两个候选不应与0.5/0.5产生同样的均匀soft表示。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
CoTS 为什么保留 sampled discrete token，而不是完全换成 soft token？
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models
问答新增：2026-10-27 · Xiaomi AI Lab
展开答案与例子
答案：soft embedding可表达多个候选，但连续推理可能偏离离散轨迹。CoTS保留采样token的锚点，再按top-2竞争程度混合soft表示，使离散分量始终至少占一半。
教学例子：两候选接近时增加soft混合，但仍让实际采样token保持主导份额。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
4-bit AdamW为什么要在预条件器空间控制第二矩舍入，而不只让第二矩数值接近？
Rounding in Preconditioner Space: Redesigning 4-bit AdamW Optimizer-State Quantization
问答新增：2026-10-27 · University of California, Berkeley / Nubank
展开答案与例子
答案：第二矩经过偏差校正、开平方和取倒数后才影响更新，原数值上相近的误差在这个非线性映射后可能不等价。ZIP-SR据预条件器值决定随机舍入概率，ZE-EDEN则处理码点与尺度；状态误差还会进入后续递推。当前工作矩先用于参数更新，再量化存储，顺序也属于机制。
教学例子：两个很小的第二矩数值只有一点差别，取倒数平方根后却可能明显改变步长；应保护实际乘到梯度上的尺度，而不只比较压缩前后的均方误差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
4-bit AdamW 当前步应该先量化工作矩，再用量化值更新参数吗？
Rounding in Preconditioner Space: Redesigning 4-bit AdamW Optimizer-State Quantization
问答新增：2026-10-27 · University of California, Berkeley / Nubank
展开答案与例子
答案：文档先由解码旧状态和当前梯度形成工作矩，用未量化工作矩更新参数，再量化并打包作为持久状态。顺序反过来会把本次量化误差提前引入当前更新，改变算法。
教学例子：工作矩算出v后先得到本步预条件更新，再把v压缩供下一步使用。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
ZIP-SR 与 ZE-EDEN 在第二矩存储上采取了什么不同策略？
Rounding in Preconditioner Space: Redesigning 4-bit AdamW Optimizer-State Quantization
问答新增：2026-10-27 · University of California, Berkeley / Nubank
展开答案与例子
答案：ZIP-SR在预条件器空间做随机舍入；ZE-EDEN排除零码点并校准块尺度。二者都不是把任意数值直接四舍五入到同一个4-bit表，比较还需报告损失与实际持久状态字节。
教学例子：相邻码点间如何随机选取，与重新调块尺度避免零码点，是不同的误差控制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
为什么 AdamW 的状态量化会影响后续很多步，而不只影响当前存储？
Rounding in Preconditioner Space: Redesigning 4-bit AdamW Optimizer-State Quantization
问答新增：2026-10-27 · University of California, Berkeley / Nubank
展开答案与例子
答案：第一、第二矩会跨步递推，保存时的量化误差在下次解码后继续参与优化。4-bit方案因此不仅要压缩字节，还要控制误差如何影响预条件器和后续参数更新。
教学例子：第二矩被持续舍入偏小，可能连续多步放大有效学习率。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
删除某轮 reasoning 时，为什么还要检查所有后续原动作的似然变化？
When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：当前动作看似不受影响，不代表早期推理对后面规划无用。逐步删除后用受影响的新上下文评估后续动作，只有变化都在容差内才继续，已接受删除也保留在之后压缩状态；仅检查本轮会漏掉长程依赖，删 token 数也不等于任务成功。
教学例子：例如一段推理提前记住安全限制，本轮只是读取文件，后面删除动作才依赖该限制；只验本轮就可能误删关键思考。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
真实轨迹输入与本地 bounded calculator 结果如何限定结论？
When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：真实训练数据要有环境、修订、split 和 reasoning/action/observation，不能把 QA 行伪装工具轨迹。本地 calculator 确有动作采样和 SFT/on-policy 更新，但只是 L1 机制，单 seed 少量成功不代表 ScienceWorld 或四环境完整 RL 复现。
教学例子：例如模型真正调用两种计算工具可证明交互训练发生，不能把这些短轨迹改名为长期网页或具身任务能力。
依据：核心公式、本地复现、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
推理 loss mask 与实际删掉训练上下文有什么区别？
When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：mask 只取消被判可删 token 的监督，其他动作仍在规定条件下训练；直接删除上下文会改变后续预测分布。RACE 还监督提前闭合，保持原全部策略 token 和全部回合分母，不能随删减量重缩放而默默改变目标。
教学例子：例如删去一半 reasoning 的监督后仍用原 token 数归一，避免剩余动作权重因长度变短意外翻倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
RACE 为什么研究删掉 Agent 轨迹里没有实际帮助的推理？
When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：长程 Agent 会生成大量思考文本，其中部分只是重复或不影响后续行动，却增加训练与推理负担。RACE 研究在保留行为依据的条件下减少冗余推理。短并非天然更好，删除可能让后续行动失去必要信息，因此压缩需要检查影响，不能只按字数决定哪些内容无用。
教学例子：教学例：某轮反复复述目标却没有改变任何后续决定，可能是冗余；另一句记录了关键路径，虽短却不能随意删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
动作和可信政策不变，只改选项标签，为什么仍可能改变 guard 的放行决定？
One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：标签同样进入模型输入，语义暗示会影响类型化输出读出，即使底层动作没变。评测要把危险误放行与无害误拒绝分开，并在干净输入正确拒绝的禁止集合上算条件攻击率；分母为空应未定义，不能记零来假装防御完美。
教学例子：例如禁止动作仍是同一调用，却把“拒绝”选项改成误导性名称；模型可能因标签理解变化选错，但不代表政策本身改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
干净输入没有一个正确拒绝样本时，条件 ASR 应记多少？
One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：条件分母为空，ASR未定义，不能写0或1。paired bootstrap每次重采样也要重算条件分母；攻击标签先在校准集选择，再在独立评测集测量，避免挑结果。
教学例子：原来就全部错误放行的模型，没有“从正确拒绝变成放行”的可用条件样本。
依据：核心公式、代码映射与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
fail-open 与 fail-closed 为什么不能合并成一个安全准确率？
One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：fail-open放行本应禁止的动作，fail-closed拒绝本应允许的动作，风险和可用性方向不同。条件攻击成功率还只看原本干净输入正确拒绝的集合，不能代替全体错误率。
教学例子：把所有动作都拒绝可能减少危险放行，却会让合法任务无法使用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
Option-Channel Attack 为什么只改选项标签也可能改变守门结果？
One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：类型化输出的候选名称同时是模型输入，误导标签会影响模型如何将固定动作映射到允许或拒绝。攻击保持动作与可信策略定义不变，暴露的是选项命名通道的脆弱性。
教学例子：允许和拒绝的实际含义没变，但调用方提供的名称可能诱导模型选错对应动作。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
事件不断增加时，为什么不把旧前缀节点质量每次改成 1/t？
OnTrack: Real-Time Monitoring and Intervention in LLM Agent Trajectories via Streaming Structure-Aware Optimal Transport
问答新增：2026-10-27 · Cribl AI
展开答案与例子
答案：重缩放会让历史节点的权重仅因来了新事件而变化，混淆实际对齐进展与归一化效应。固定前缀质量、流式 warm-start 和结构耦合保留时间比较语义；准备干预时还要扩大求解预算重判，不可逆动作门不能依赖过期缓存前沿。
教学例子：例如新增一次日志读取不应自动削弱此前关键编辑的质量；否则监控分数变化可能只是分母改变，而非行为真的偏离。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
OnTrack 每来一个事件，能把已有节点质量从 1/m 重设为 1/t 吗？
OnTrack: Real-Time Monitoring and Intervention in LLM Agent Trajectories via Streaming Structure-Aware Optimal Transport
问答新增：2026-10-27 · Cribl AI
展开答案与例子
答案：不能。代理节点按固定前缀质量1/m_bar分配，逐步重缩放会改变旧节点质量和泄漏口径。不可逆动作还需在执行前用当前coupling重算前沿；planner参考仅能告警，不能自动停机。
教学例子：新增一个无关事件不应仅因分母变化，让所有旧事件的质量被动下降。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
OnTrack 的早期探索宽限与结束时最终对齐，为什么不能用完全相同权重？
OnTrack: Real-Time Monitoring and Intervention in LLM Agent Trajectories via Streaming Structure-Aware Optimal Transport
问答新增：2026-10-27 · Cribl AI
展开答案与例子
答案：在线新节点有年龄折扣并受前沿掩码约束，避免过早惩罚探索；终结时冷启动并移除这两类权重，检查完整轨迹。把在线宽限保留到最终评分会掩盖未解决偏离。
教学例子：刚创建的临时产物可有探索宽限，但任务结束仍未被使用时需要完整审查。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
OnTrack 为什么将轨迹建成依赖图，而不只比较动作文字？
OnTrack: Real-Time Monitoring and Intervention in LLM Agent Trajectories via Streaming Structure-Aware Optimal Transport
问答新增：2026-10-27 · Cribl AI
展开答案与例子
答案：动作先后与产物依赖共同决定是否偏离任务，独立分支可能有不同合法顺序。结构化非平衡对齐允许前缀与参考不完全匹配；没有参考时只能明确退化为循环、重试和停滞信号。
教学例子：先准备两个互不依赖的文件，交换顺序不应仅因索引不同就被判偏离。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
历史回放为什么不能每一步都用下一张真实观察重置模拟状态？
Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
问答新增：2026-10-27 · University College London
展开答案与例子
答案：逐步重置会掩盖世界模型误差的累积，使错误模型看似每步都符合历史。连续回放从初始观察仅初始化一次，后续状态全由模型转移产生，才检验规则册能否真正解释轨迹；语义忠实性也需另查，单纯拟合有限历史不等于通用正确。
教学例子：例如模型第一步把门位置算错，若第二步直接塞回真实截图，错误就被擦掉；连续回放则会让偏差在后续观察中暴露。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
新世界模型代码为什么要同时过语义忠实性检查和历史执行检查？
Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
问答新增：2026-10-27 · University College London
展开答案与例子
答案：代码可能能拟合部分观察，却没有表达当前规则册，也可能忠实实现了一份本就错误的规则。语义检查约束编译结果与规则一致，历史回放检查它能否重现已见转移，两者分别约束表达和行为。新真实动作失配仍会触发修复，GPU 执行记录不等于规则已经普遍正确。
教学例子：教学例：规则册写顺时针旋转，代码却硬编码一张结果图；即使碰巧通过一个样例，也不能认为忠实实现了这条规则。
依据：核心公式、本地复现、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
按完整计划等价类均匀抽样，与按模型成员投票有什么不同？
Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
问答新增：2026-10-27 · University College London
展开答案与例子
答案：多个模型可能提出完全相同动作序列，按成员抽样会让重复计划获得额外概率；按非空完整序列分组后均匀抽类，强调行为多样性而非模型数量。选定计划保持到完成、失配或重规划，也不是每步重新随机切换路线。
教学例子：例如三模型都提左左、一个提右上，按成员是三比一，按两种计划类则各一半，重复成员不会放大同一路线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Memento 3 为什么要从黑盒交互中学习可供规划的环境规则？
Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
问答新增：2026-10-27 · University College London
展开答案与例子
答案：新环境不一定公开转移规律，Agent 只看到动作及其后果，直接凭语言猜计划容易反复犯错。Memento 3 将观察整理成规则册并编译成可执行模型，用历史和新行动检验，以便先在模型中规划。学到的是可修订假设，历史一致不保证未见状态也正确。
教学例子：教学例：按下按钮后物体方向改变，Agent 先提出旋转规则，再用其他已见转移检查；新观察不符时应修规则，而非忽略反例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么训练前要移除编排者初始工作流提示，却保留工作者分工？
Recursive Self-Improvement through Multi-Agent Self-Supervision
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：初始提示承载搜索得到的工作流，直接保留可能让训练只学依赖这段外部说明，而非吸收有用协作行为。保留角色分工仍维持实际执行结构，再对助手 token 做监督；Bradley–Terry 排名用于筛轨迹，也不能把自评排序直接当独立任务能力证明。
教学例子：例如搜索提示详细规定先检索再核对，训练移除该起始说明，让模型从成功执行学习流程，但保留实际检索者和核对者的对话。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地两轮真实 LoRA 与验证损失下降可以证明什么？
Recursive Self-Improvement through Multi-Agent Self-Supervision
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：它证明共享 checkpoint 的执行、提案、排名和更新链实际运行，受限两 worker 文本工作流出现真实参数训练。数据是自生成轨迹且单 seed、短步数，没有任意工作流图或科研文件工具，不能据 loss 降低宣称独立科研能力提升。
教学例子：例如第二轮更容易模仿自己生成的验证文本会让 loss 降低，却未测试未知研究任务最终结论是否正确。
依据：核心公式、本地复现、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
BT 排名中留出第 K 条轨迹验证，与把全部高分轨迹都用于 SFT，有何区别？
Recursive Self-Improvement through Multi-Agent Self-Supervision
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：MASS 在固定权重搜索后独立采集轨迹，用成对比较形成 BT 排名，前 K−1 条训练，第 K 条用于验证。留出使训练与检查不完全使用同一批目标，但验证信号仍来自既定评价过程，不等于独立真实任务成功。不能将搜索时见过的全部好轨迹同时当训练和泛化证据。
教学例子：教学例：排名前三条中取前两条训练、第三条验证；若第三条也参与梯度更新，验证损失就失去了原本的留出意义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
固定权重搜索与之后 SFT 为什么要分开采集轨迹？
Recursive Self-Improvement through Multi-Agent Self-Supervision
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：先搜索工作流避免在探索中混入参数变化，再独立生成轨迹排名，选较优样本训练、留一条验证，之后才更新共享模型。执行、提案和评价由同模型承担，不代表自评分无偏；自生成验证 loss 不等于独立任务正确率。
教学例子：例如某工作流在搜索时表现好，还要另采实际执行轨迹用于训练，不能把搜索中同一条偶然高分直接当独立验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
层次化 recall 为什么一次只返回一层，而不立即展开全部原始历史？
Use and Disuse: Intent-Structured Experience Consolidation for Memory and Learning in LLM Agents
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：上层叙事先提供目的与结构，Agent 据当前需要决定是否深入，避免每次召回都重新灌满上下文。原消息保留在子节点，使摘要不是不可逆删除；同时必须给下一轮开销预留容量，若保护的完整交换仍放不下，应明确失败而非静默截断。
教学例子：例如上层记忆说“上周修复登录问题”，只有需要核对报错时才再展开日志子节点，不必把所有调试输出一并送回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
受控压力探针归档三次能否说自主系统学会了意图闭合？
Use and Disuse: Intent-Structured Experience Consolidation for Memory and Learning in LLM Agents
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：不能。真实自主三题没有触发闭合，归档数为零；另一个受控探针只验证压力下摘要和保护机制。预算还包括请求开销与预计下一轮，保护 K 个完整交换和动态 token 窗口后仍超容量应在主推理前失败，不应静默截断关键交换。
教学例子：例如测试预设闭合信号可走通 Palim，不代表模型在未知任务中会自己生成同样信号；两种记录要分别报告。
依据：核心公式、本地复现、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
Precip 在响应后、工具结果前触发，为什么位置有意义？
Use and Disuse: Intent-Structured Experience Consolidation for Memory and Learning in LLM Agents
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：这个位置让系统依据已完成的主响应处理闭合意图，同时避免把尚未到达的工具观察当作已经知道的结果。工具交换还要保持完整，压缩不能把未闭合调用拆断；触发时机是状态合同，不是任意插入一个摘要调用都等价。
教学例子：例如助手刚发出工具调用，结果尚未返回时不应总结“工具验证成功”；必须等待实际观察进入后续交换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
嵌套意图与普通按时间滚动摘要有什么不同？
Use and Disuse: Intent-Structured Experience Consolidation for Memory and Learning in LLM Agents
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：嵌套意图组织当前目的及子目的，意图闭合后才归纳对应经验；普通滚动摘要主要按时间长度压缩，未必知道某项工作是否完成。Hippocam 还保留原消息树与一层一层 recall，使抽象后仍可回溯来源，而非只剩不可恢复摘要。
教学例子：例如“排查失败”意图下有“检查依赖”子意图，后者完成可归纳，但外层仍未闭合，不应把整个任务当完成归档。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么被 Discard 的候选还要以概率做反事实评测？
EvoAlloc: A Self-Evolving Resource Allocation Agent for Efficient Program Evolution
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：若只评估被选中的程序，分配策略看不到错过优良候选的情况，容易把自身偏好越学越确定。随机反事实检查揭示漏掉新最佳的风险，影子策略还需共享同一证据；这些 Full 调用同样消耗预算，不能为显示节省而排除探索与 warmup。
教学例子：例如筛选器把一个陌生写法丢弃，偶尔完整评测却发现它更好；这类证据才能纠正“陌生即低质”的选择性反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
warmup、影子并集和反事实 Full 为何都计预算，短 GPU 运行何处未触发？
EvoAlloc: A Self-Evolving Resource Allocation Agent for Efficient Program Evolution
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：这些评测实际发生且消耗资源，不能当管理开销免费；影子晋级还需观察两次分歧。本地四次真实 Full 最佳未超过初始程序，warmup 不足、无晋级，Partial 与双分歧仅由合同测试覆盖，不能把它们写成真实运行已全部触发。
教学例子：例如影子要求额外测一个被主策略丢弃的程序，这次 Full 必须进成本，即使最终没有改变主冠军。
依据：核心公式、本地复现、验证与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
优先比较 missed newbest 而后比较成本，与单纯最少 Full 有何不同？
EvoAlloc: A Self-Evolving Resource Allocation Agent for Efficient Program Evolution
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：只省评测可能丢掉真正最优候选，字典序先保护搜索质量，再在漏掉新最佳相同的情况下节省 Full 和 Partial。随机反事实评估被丢候选缓解选择性反馈，影子策略共享证据，不能只挑实际接受项评价 allocator。
教学例子：例如甲少测十次却错过新冠军，乙多测两次保住冠军，按该目标不应仅因甲更便宜就晋级。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Partial 后继续或停止为什么比一次性 Full/Discard 更灵活？
EvoAlloc: A Self-Evolving Resource Allocation Agent for Efficient Program Evolution
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：部分评测可提供较便宜的初始证据，再决定是否支付完整成本，避免对明显差候选全测，也避免一开始就丢弃潜在赢家。它要求任务确有可信 Partial 信号，不能给不支持该模式的环境硬造部分分数。
教学例子：例如程序先通过快速约束检查后再跑长性能评测可有意义，但 Circle26 当前接口没有 Partial，本地只能 Full 或 Discard。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
Matryoshka 向量截断后为什么必须再次归一化？
EmbeddingGemma 2: Unified and Efficient Multimodal Representations
问答新增：2026-10-27 · Google
展开答案与例子
答案：截断保留前若干维后，向量范数通常不再为一；直接点积会把保留能量差异混进相似度。重新归一化恢复余弦比较的尺度。它利用模型训练好的前缀表示，不等于任意 embedding 都能随意截断；池化时也必须排除 padding。
教学例子：例如两条七百六十八维向量都截成一百二十八维，先各自归一化再检索，避免范数较大者平白占优。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
均值池化、截断和精度设置中有哪些不可忽略的细节？
EmbeddingGemma 2: Unified and Efficient Multimodal Representations
问答新增：2026-10-27 · Google
展开答案与例子
答案：池化必须用 attention mask 排除 padding；截取前缀后再次 L2 归一化。文本查询与文档采用各自前缀，图像不加文本前缀；官方激活范围可能让 FP16 产生非有限值，本地固定 FP32，并显式拒绝非有限值或零向量。
教学例子：例如两条内容相同、补齐长度不同的文本，应在 mask 池化后得到一致表示；把 padding 算入均值会制造长度依赖。
依据：核心公式、本地复现、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
MRL 截断与随机删去向量维度有什么区别？
EmbeddingGemma 2: Unified and Efficient Multimodal Representations
问答新增：2026-10-27 · Google
展开答案与例子
答案：MRL 训练使预定的前缀维度也能承担表示任务，因此可保留前 128、256 或 512 维，再归一化。随机挑选维度没有这种训练约定；较短前缀节省存储与检索成本，但具体质量变化仍需按任务和固定维度报告。
教学例子：例如完整向量有七百六十八维，取前一百二十八维属于预设使用方式；每次随机抽一百二十八维不是同一种压缩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
统一 768 维空间是否意味着四种模态总要同时输入？
EmbeddingGemma 2: Unified and Efficient Multimodal Representations
问答新增：2026-10-27 · Google
展开答案与例子
答案：不是。统一空间指各模态结果可以用同一种向量相似度比较，模态塔可按任务选择加载。文本、图像、音频和视频的支持范围也要与实际运行路径区分；当前本地只验证官方 checkpoint 的文本和图像，不代表其他输入管线已接通。
教学例子：例如图搜文只需图像与文本路径；只运行这两条路径后，不能把音频检索也列作本地已验证功能。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么 SpecAgent 完全不看测试，Lean 证明通过后仍可能是 inconclusive？
SpecGuard: Proving a Task Is Broken Before the Agent Cheats
问答新增：2026-10-27 · MATS
展开答案与例子
答案：不看测试让意图规范独立于可能错误或恶意的测试要求，Certifier 再检查两侧冲突。但形式证明只针对翻译和 connector 表达，若无法忠实对齐自然语言语义，就不能把 kernel 通过解释为原任务已被证明损坏，必须保留未确定结果。
教学例子：例如题意要求排序，测试却要求反序，可分别形式化后证明冲突；若“稳定排序”含义翻译不清，不能仅凭一个有限证明就下结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
SpecGuard 的 A100 回执 passed，能说明真实模型端到端成功了吗？
SpecGuard: Proving a Task Is Broken Before the Agent Cheats
问答新增：2026-10-27 · MATS
展开答案与例子
答案：不能。归档小模型运行3项均inconclusive，冲突证书0，且在Spec阶段停止；passed只表示真实CUDA执行和来源核验。手写Lean实例通过仅验证机械机制，不可替代模型输出。
教学例子：GPU命令跑通且保存了失败轨迹，仍不等于TestAgent和connector阶段已被真实模型走通。
依据：结果与验收边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
Lean kernel 验证了冲突证书，是否等于证明原始自然语言任务必然冲突？
SpecGuard: Proving a Task Is Broken Before the Agent Cheats
问答新增：2026-10-27 · MATS
展开答案与例子
答案：证书证明生成的规范与测试约束之间没有共同实现，但不自动证明两份翻译忠实。语义连接、意图提取错误仍会影响结论，无法表达或对齐时应允许inconclusive。
教学例子：把“加一”误译成“加二”后获得的形式证明，不能替原任务背书。
依据：核心公式、结果与验收边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
SpecGuard 为什么不让 SpecAgent 看测试？
SpecGuard: Proving a Task Is Broken Before the Agent Cheats
问答新增：2026-10-27 · MATS
展开答案与例子
答案：测试可能与可信任务描述冲突；若意图规范抄自测试，后续证明只会确认测试自身。SpecAgent只看描述与源码，TestAgent独立翻译测试，再连接两侧语义并由Lean检查冲突。
教学例子：描述要求加一，测试却要求2变4，不能把“2变4”先写进任务规范。
依据：背景与主要改动、数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
learned refiner 为什么只更新保留下来的锚点，而不再增加视觉 Token？
Video Encoders Built on Image Representations
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：选择阶段先在固定预算内保留原始可寻址证据，refiner 随后让这些锚点读取邻帧上下文来改善表示。这样增加的是每个保留位置的信息，而非输出序列长度；若不断追加邻帧 token，就破坏固定预算，也混淆了选择与上下文补充两项收益。
教学例子：例如先保留十个关键 patch，refiner 为它们读取邻帧运动线索后仍输出十个；不能再追加二十个邻帧位置并声称预算不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
最佳 pair 与 singleton 打平时如何选择，为什么仍能填满奇数预算？
Video Encoders Built on Image Representations
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：只有 pair 的每 token 增益严格更大才一次加入两个端点，否则取 singleton；每步遵守帧 quota 和剩余预算。即使增益为负或没有跨帧边，也继续完成恰好 B 个互异索引。当前外部均匀 quota 与 scene proxy 是已标注差异，未实现 SITE allocator。
教学例子：例如预算剩一个时只能选 singleton；若两个端点平均增益恰与单点相同，也取单点，而不是超额凑成一对。
依据：核心公式、本地复现、本地结果与验收边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
帧内 DPP 多样性与相邻帧对应奖励，各约束选中集合的什么关系？
Video Encoders Built on Image Representations
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：帧内核的 log-determinant 结合质量和差异，避免同一帧名额被近重复 token 占满；跨帧边则奖励满足匹配条件的相邻端点，保留可追踪关系。两者约束不同，不能用一个运动分数替代。对应边仍受相似度、margin 和空间门限制，不保证每条边都代表真实物体轨迹。
教学例子：教学例：同帧可选杯子和手而非两个相似桌面块；跨帧再保留杯子的可靠对应，有助于观察它是否被移动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
逐帧编码的视频为什么还需要在送入语言模型前选择证据？
Video Encoders Built on Image Representations
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：独立图像编码保留单帧可定位信息，却会让长视频产生很大的视觉序列。该方法研究在固定预算内结合问题需求、帧内多样性和跨帧关系保留原始 token。选取不是生成新证据，也不能只追逐运动强度，需确认留下的内容足以支撑当前问题。
教学例子：教学例：问题问先拿了哪件物品，需要保留相关物体及前后帧联系；单纯挑所有变化最大的背景位置可能并无帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
LESSER从一次前向解析输出层梯度，为什么不能称为全参数梯度的精确替代？
LESSER: Post-Training Data Selection with Output-Layer Gradients
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：解析式利用隐藏状态与输出概率残差的外积，精确针对独立输出读出层；双侧共享投影再压缩这些特征，原数据选择规则可以继续使用。它不是所有层梯度，嵌入权重绑定时还需区分间接依赖。选择用验证代理查询，隔离测试集不能参与选样。
教学例子：例如用少量验证题的输出层梯度方向挑相关训练题；不能先看测试题方向来选数据，也不能把最后一层相似等同全模型更新相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
LESSER为什么候选与query共享同一随机投影？
LESSER: Post-Training Data Selection with Output-Layer Gradients
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：只有共同坐标才能比较特征相似度，应先在token残差和hidden两侧投影，避免物化大矩阵。query来自验证代理，测试不可选样；本地输入随机张量仅诊断。
教学例子：例如每样本各抽一套投影，向量夹角就不再比较同一特征空间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
LESSER与完整模型梯度相似度能声称完全等价吗？
LESSER: Post-Training Data Selection with Output-Layer Gradients
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：不能，解析精确性针对独立输出层；隐藏态若经绑定embedding依赖同一参数，还有额外路径。压缩也近似几何，不能从公式核通过推断同样下游性能。
教学例子：例如最后一层方向相近，不代表所有中层参数更新都相近。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
LESSER为什么用输出层梯度作为数据选择特征？
LESSER: Post-Training Data Selection with Output-Layer Gradients
问答新增：2026-10-27 · University of Pennsylvania
展开答案与例子
答案：全参数逐样本反传昂贵，独立readout梯度可由一次前向的概率残差与末隐藏态解析得到，再压缩成特征供原选择器使用。改变的是表示，不是另造选样准则。
教学例子：例如仍按与目标查询相似度选题，只把代价高的梯度特征换成输出层形式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
Follow the Winners为什么反复抽小批精英，而不只取整个回放池的前K条？
Follow the Winners: Conservative Policy Improvement with the Cross-Entropy Method for Critic-Free RFT
问答新增：2026-10-27 · Trent AI Limited
展开答案与例子
答案：每次先从近期轨迹池随机抽批，再取批内高回报轨迹，重复入选次数形成平滑的排名权重。整池硬截断是特例，通常会丢掉更多次优但有用的轨迹。方法不要求同题多条轨迹或价值模型，仍需KL控制更新；本地小环境诊断不证明工具任务收益。
教学例子：例如池中最好路线经常入选，次好路线也可能在某批成为精英；不是永久只训练全池最前几条，更不是给重复轨迹去重后等权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
FTW的K=C与C=N分别应退化成什么？
Follow the Winners: Conservative Policy Improvement with the Cross-Entropy Method for Critic-Free RFT
问答新增：2026-10-27 · Trent AI Limited
展开答案与例子
答案：前者保留整批，成为均匀抽样；后者每次取全池，对应整池精英选择。应验证分布和为一并保留跨批重复，本地bandit诊断不等于真实工具环境收益。
教学例子：例如把K设成C还偏爱最高排名，就说明实现未正确退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
FTW小批精英与整池一次top-K为何不等价？
Follow the Winners: Conservative Policy Improvement with the Cross-Entropy Method for Critic-Free RFT
问答新增：2026-10-27 · Trent AI Limited
展开答案与例子
答案：反复抽批形成按排名的软占用率，次优轨迹也可能入选；整池硬截断只保留绝对前列。重复入选次数是权重的一部分，去重会改目标。
教学例子：例如全池第二梯队在一批中没有最强对手时仍可成为精英。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
FTW为什么不用同题多轨迹或value critic？
Follow the Winners: Conservative Policy Improvement with the Cross-Entropy Method for Critic-Free RFT
问答新增：2026-10-27 · Trent AI Limited
展开答案与例子
答案：有状态工具轨迹采集贵，方法从近期FIFO真实轨迹池反复抽批，模仿批内精英并用KL约束。它以回放排名替代一部分同题组与价值估计需求。
教学例子：例如每个工具任务只做一条，也可把近期不同任务轨迹放进池中选批精英。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
恢复建议为什么只有经后续可观察进展验证后才写入 playbook？
Sentry: Learning to Recover from LLM Agent Failures at Test Time
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：失败后提出建议只是猜测，若直接永久保存，错误补救会成为新污染。外部验证器看后续行为是否真正恢复，不读取任务奖励来给行动者答案，再按失败类别检索适用经验；格式错误另走硬修复路径，避免把机械纠错与语义恢复混成一类能力。
教学例子：例如建议“刷新登录”后若仍循环报错就不应入库；只有观察到继续完成后续步骤，才形成可供相似失败复用的证据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地三 seed HotpotQA 结果为什么不能改成提升或二十四个独立任务？
Sentry: Learning to Recover from LLM Agent Failures at Test Time
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：三个生成 seed 重复同八题，均值低于基线，额外管理器和验证调用还增加成本；这是负结果。记忆建立后冻结，隔离题不用于重调 detector，官方 validation 派生留出也非官方 test，不能以挑一个 seed 的正差覆盖整体下降。
教学例子：例如 seed43 多答对一题，但其他两个更差，报告全部配对结果才能看到不稳定，不能只宣传最好一次。
依据：核心规则与原文结果、本地复现、复现边界与失败记录；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
按失败类别检索恢复建议，与把全部经验常驻上下文，有何信息取舍？
Sentry: Learning to Recover from LLM Agent Failures at Test Time
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：条件检索只在检测到相应失败时提供相关类别和标签的经验，减少正常执行时的额外输入；常驻全部经验无需等待触发，却更容易加入无关建议。条件方式依赖检测和匹配是否可靠，漏检会错过帮助，误检也可能打断正常策略，不能由上下文减少直接推出成功提升。
教学例子：教学例：网络超时后检索连接恢复经验，比每一步都携带所有格式与循环修复指南更聚焦；若把正常等待误判超时，干预仍会有害。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Sentry 为什么专门处理 Agent 运行中的卡住、重复与格式错误？
Sentry: Learning to Recover from LLM Agent Failures at Test Time
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：长程 Agent 不一定因缺知识失败，也可能陷入循环、重复无效动作或发出不合法调用。Sentry 研究在运行时识别这些故障并给恢复支持，使已有经验服务当前阻塞。恢复只是局部继续行动，不能直接等同于最终答对；真实本地对照还出现了负结果。
教学例子：教学例：Agent 连续重复同一无效搜索，检测后可尝试相关恢复建议；即使之后开始读新页面，也仍要检查最终答案。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么预测结果成熟后才能反思，测试窗口还必须冻结记忆与因果知识？
SEER: Self-Evolving Event Reasoning and Retrieval for Time Series Forecasting
问答新增：2026-10-27 · Google Cloud AI Research / University of Virginia
展开答案与例子
答案：未来真值在预测时不可见，提前用它更新检索或筛选会泄漏结果；测试期间继续按测试误差改记忆，也会把报告集变成训练反馈。分开检索记忆、筛选记忆和知识有助定位错误来源，但事件时间与实际可获得时间仍须独立核对。
教学例子：例如预测下周销量时，周末才公布的新闻不能回填周一输入；测试结束后知道的销量也不能用于重写同一测试的检索策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
事件发生时间与可获得时间，怎样共同限制预测侧可读的文本？
SEER: Self-Evolving Event Reasoning and Retrieval for Time Series Forecasting
问答新增：2026-10-27 · Google Cloud AI Research / University of Virginia
展开答案与例子
答案：一条事件可能早已发生，但相关报道或数据库记录到更晚才公开；预测输入必须同时符合目标时间与信息可获得边界。仅看新闻标注日期不够，还要核查当时能否取得其内容。记忆容量不足时可压缩，但压缩不能把未来结论混进过去上下文，测试阶段也不得继续反思。
教学例子：教学例：周一发生的事件周三才披露，周二预测不应使用周三报道；把报道标题改成周一日期仍不能改变可获得时间。
依据：核心公式、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
固定预测模型而更新检索与筛选经验，和直接 finetune 权重有什么不同？
SEER: Self-Evolving Event Reasoning and Retrieval for Time Series Forecasting
问答新增：2026-10-27 · Google Cloud AI Research / University of Virginia
展开答案与例子
答案：前者改变外部证据如何扩展、过滤及组织，预测器权重保持相同，便于研究上下文演化；finetune 改变模型内部映射。两条记忆和知识各有作用，不能把手写因果规则或更新查询模板自动解释成模型学会新的数值动力学。
教学例子：例如检索记忆提醒查节假日事件，筛选记忆排除无关新闻，但时间序列模型本身参数仍未变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
SEER 为什么在数值时间序列之外，还要关注可获取的外部事件？
SEER: Self-Evolving Event Reasoning and Retrieval for Time Series Forecasting
问答新增：2026-10-27 · Google Cloud AI Research / University of Virginia
展开答案与例子
答案：价格、需求等序列可能受新闻或政策影响，仅看历史数值难解释这些外部变化。SEER 研究检索相关事件并从过去预测经验中改进筛选与知识，而保持预测模型权重固定。额外文本也会带来噪声和前视风险，必须核对预测时真正可获得的信息。
教学例子：教学例：需求突变可能与已公布的节假日安排有关；事后才发布的销售总结不能回填给更早的预测，哪怕它解释得很清楚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么高成本模型提出策略后，还要由低成本模型反复执行，并评价整条最佳曲线？
FrugalEvo: Towards Cost-Aware LLM-Guided Program Evolution
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：策略构思与局部代码迭代所需能力和费用不同，分层让昂贵调用集中在方向选择。失败时保留父程序追加反馈，改进后再锚定，岛屿档案保护多样性；整条预算内最佳曲线反映多快找到有用方案，而非只在最后挑一次幸运高分。
教学例子：例如强模型提出向量化方向，小模型负责多个等价实现试验；同预算下更早得到可用加速，比最后一次偶然最好更稳定有意义。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
生成程序失败时为何保留父程序且必须拒绝裸 exec 回退？
FrugalEvo: Towards Cost-Aware LLM-Guided Program Evolution
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：失败反馈用于下一次修订，已验证父本不应被无效代码替换；实际生成代码需 Linux 隔离和资源限制，沙箱启动失败就拒绝。模型自报分不采信，可信检查器验证边界与不重叠；本地负结果也不能靠删失败调用或改安全边界修饰。
教学例子：例如程序输出非法半径应计失败和调用成本，不能用父本答案回填成候选成功，也不能因 sandbox 不可用直接在宿主执行。
依据：公式与原文结果、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
高成本策略模型加低成本实现模型与纯弱模型搜索应怎样公平解释？
FrugalEvo: Towards Cost-Aware LLM-Guided Program Evolution
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：二者从同一初始程序、相同预算与调用上限出发，仍可能因不同上限先触发而实际花费不等。较大模型也未必更强，需报告真实 token、策略试跑和细化；不能从分工名称推断协作必优，当前本地整体结果未支持该结论。
教学例子：例如弱模型先达到三十次调用但预算未用完，协作花更多 token，必须写“相同上限”而非“相同实际成本”。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
FrugalEvo 为什么希望强模型的研究想法能由便宜模型反复落实？
FrugalEvo: Towards Cost-Aware LLM-Guided Program Evolution
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：持续用强模型生成并执行所有搜索步骤成本高，而弱模型可能缺少有效策略。FrugalEvo 将较强的策略提案与较便宜的反复实现连接起来，在有限预算下寻找有效程序。需要评估整段搜索的实际成本和质量变化，不能只看最后最好分数或某次便宜调用。
教学例子：教学例：强模型提出一种改进方向，弱模型围绕它尝试多次代码变体；若反复失败仍消耗大量预算，分工就未必划算。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
命令依赖图为什么要连接文件读取与尚未被覆盖的写入者？
Credit Where It Matters: Dependency-Aware Policy Optimization for Terminal Agents
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：读取实际消费的是当时有效版本，已被后续覆盖的旧写入不一定影响最终产物。依赖图从 verifier 检查对象向后追踪，把贡献数据的操作与真正结果路径连接，减少无关步骤共享终局优势；图构建还需可信执行记录，不能凭命令文字猜因果。
教学例子：例如先写旧配置、再覆盖新配置，测试只读取新版本；信用不应同样奖励已被覆盖且未被使用的旧写入。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
同一步多命令、缺记录与 verifier 自写文件有哪些边界？
Credit Where It Matters: Dependency-Aware Policy Optimization for Terminal Agents
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：同一步命令信用求和而非平均；无记录或全并列回退单位权重。verifier 自写资源须剔除，stdout 来源排除任务提示已有值，路径和行号由可信 tracer 提供；本地不解析 shell、不运行真实 Qwen RL，四条手工链只属机制验证。
教学例子：例如评分脚本自行生成结果文件，若把它当 Agent 写入会奖励不存在的贡献；输入 tracer 应先清除这类噪声。
依据：公式与关键区别、本地复现（机制验证）、复现边界与下一步；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
依赖信用与 GRPO 全轨迹单位权重有什么不同？
Credit Where It Matters: Dependency-Aware Policy Optimization for Terminal Agents
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：单位权重不区分支持动作、最终写和无关命令，DepGPO 按可追溯写入及距离分配步信用，再归一保持 token 加权平均优势和符号。它依赖 tracer 正确性，不是完整因果证明，也不能把高信用自动解释为该命令单独必要。
教学例子：例如读输入再写答案的链可获得间接信用，清理无关临时文件权重较低，但负轨迹优势仍保持负号。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
终端任务只有最后成功或失败时，DEPGPO 为什么要追踪命令之间的依赖？
Credit Where It Matters: Dependency-Aware Policy Optimization for Terminal Agents
问答新增：2026-10-27 · Southeast University
展开答案与例子
答案：一条长轨迹含许多读写文件的动作，终局奖励无法直接指出哪些命令产生了最终结果。DEPGPO 用实际依赖把后续验证与前面有效工作联系起来，为信用分配提供结构。依赖只说明数据流关系，不是所有命令的真实因果贡献，缺失记录或验证器副作用都需明确边界。
教学例子：教学例：最后测试读取某个源文件，可沿写入关系找到生成它的命令；无关目录浏览不应只因出现在同一轨迹就得到相同信用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
同锚状态下动作内回报方差很大时，为什么应降低局部信用修正？
AdaStep: Adaptive Step Credit Weighting for Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：同一动作后续随机路线就能导致很大成败差，说明局部动作未解释大部分回报变化。方差分解让动作间差异主导时更信任局部优势，否则保留全局优势而压低修正；权重从原始回报统计估计，不能先随意归一化后改变方差关系。
教学例子：例如动作甲的几条 rollout 既有满分也有零分，乙也类似，差异主要来自后续随机性，就不应把单次结果强归因给甲乙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
少动作、少样本、零方差与归一化回报如何处理？
AdaStep: Adaptive Step Credit Weighting for Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：至少两动作、每动作两样本且总方差正才估比率，否则按论文回退 w=1；全回报相同时局部优势为零。权重始终用未归一化回报统计，分组含 task ID 防同名状态跨任务混合；本地未运行真实环境或策略训练。
教学例子：例如只有一个动作虽看不见动作间差异，也不能自造 w=0 替代约定；所有奖励一样则不应凭空产生局部修正。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
AdaStep 的回报统计路线与另训 critic 的步骤评价，在额外学习对象上有什么不同？
AdaStep: Adaptive Step Credit Weighting for Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：critic 路线要训练一个状态或动作价值估计器，再用其预测组织信用；AdaStep 直接从同锚状态多动作的经验回报统计估计局部修正可信度，不另训练 critic。它减少一个预测器，也受重复状态和样本覆盖限制，不能由无 critic 推出无噪声或普遍更准确。
教学例子：教学例：同一网页状态有多次不同动作及后续结果，可直接统计波动；若只出现一次，就没有足够样本凭空获得可靠局部估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
AdaStep 为什么要区分一个动作的作用与后续随机路径带来的运气？
AdaStep: Adaptive Step Credit Weighting for Agentic Reinforcement Learning
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：长任务相同中间状态下，一次动作后最终成败还受很多后续选择影响，直接把终局差异归给该动作会产生噪声。AdaStep 研究利用多条已观察轨迹判断局部信用有多可信，保留全局结果同时谨慎调整步骤信号。它不需要另训 critic，也不能凭少数样本证明动作真实因果效应。
教学例子：教学例：相同查找动作后，有人后续答对、有人误写答案，这种差异不能全怪查找；需要看动作间差异是否超出各自后续波动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
RPTune 为什么把高优商品按升序放到提示末端，而不是简单按相关性降序塞满上下文？
RPTune: Learned Context Curation for LLM Catalog Search
问答新增：2026-10-27 · Google
展开答案与例子
答案：目录选择与提示位置都会影响下游语言模型利用信息的方式。查询—商品得分加可学习调整项先决定保留谁，再把高优项靠近末端，让编排本身成为可优化变量；后训练适配这种目录输入。它不只是换排序展示顺序，本地只检验定义性编排算子，不能据此声称所有模型都必然有相同位置偏好。
教学例子：提示只能容纳三件商品，先删掉低相关候选，再把最符合预算的商品放在靠近回答的位置。模型看到的内容与位置同时变化，需要分别检查各自贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
RPTune选出top-k后为什么按分数升序摆放？
RPTune: Learned Context Curation for LLM Catalog Search
问答新增：2026-10-27 · Google
展开答案与例子
答案：规定高分靠末端，所以保留集合后再升序排列，不能习惯性降序。当前只执行rank/prune/position核，未调用原LLM或完成后训练，不能报告完整目录搜索收益。
教学例子：例如最高分被排在最前，会反转设计的末端优先位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
RPTune的商品打分与后续提示排序，是否都等同于普通向量top-k？
RPTune: Learned Context Curation for LLM Catalog Search
问答新增：2026-10-27 · Google
展开答案与例子
答案：不等同。打分除语义点积外还有查询与商品的可学习调整项；保留top-k后还要执行规定的位置编排。纯向量top-k既不包含该调整项，也不规定输入LLM的顺序。应分别对照集合选择和位置策略，不能把二者的作用合并解释。
教学例子：两个方案可保留相同十件商品却顺序不同；也可顺序规则相同但因调整项选出不同集合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
RPTune的prune与position分别决定商品是否出现，还是出现在哪里？
RPTune: Learned Context Curation for LLM Catalog Search
问答新增：2026-10-27 · Google
展开答案与例子
答案：prune决定哪些目录商品保留进提示，position决定保留商品的摆放顺序。前者改变可供下游选择的集合，后者改变模型读取同一集合的上下文条件；两者是独立可观察的编排动作。没进入上下文的商品不能靠调整位置重新获得曝光。
教学例子：先从一千件中保留十件，再把这十件按规定重排；第二步不会把第一步删掉的商品重新找回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Repair-State 为什么在冻结编码器和任务头的情况下，用历史状态差分修补当前 preference state？
Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：冻结模型避免重新训练整条链路，已有前向缓存则提供不同时间位置的证据。方法比较历史状态与当前偏好，选择长程、近期或突发片段，用加权残差把被压缩丢失的相关方向补回来。它纠正的是当前表示，不会创造缓存中不存在的信息；选择错误证据也可能把过时兴趣重新注入。
教学例子：当前汇总偏好被长期电影兴趣主导，但最近连续看育儿内容。无需重训编码器，可从缓存挑出这段突发证据，以差分残差补入当前状态，再交给原任务头。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Repair-State 的 Top-K 与 softmax mask，为什么要在修复前检查有效历史？
Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：padding、未来状态和不同用户缓存都不合法，选集必须先屏蔽；权重只在选中有效位置归一，差分与 z 维度一致。空历史需返回定义的原状态或失败，不应用随机填充值制造纠正证据。固定 encoder 也不能防数据本身泄漏。
教学例子：真实两条历史却选 K=5，若空位零分胜过负分事件，会把 padding 当强证据拉 z 向零；这不是有意义修复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
Repair-State 与重训整个 encoder，相比改动范围和限制在哪里？
Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：状态修复只对已有 forward cache 做后置调整，保持 encoder 和原头不变，部署更轻；重训能改变特征提取但更贵。缓存没记录的信息无法靠残差创造，选证据策略也未必适配所有任务。来源仅诊断，不支持正式模型能力排名。
教学例子：缓存保留了一段突发兴趣可修补，被编码器彻底忽略的稀有事件则无从恢复；重训也许可学回来，但属于另一成本路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Repair-State 中 ht 与当前偏好 z 都是向量，为什么不能随便互换？
Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：ht 是某个时间位置的上下文化状态，z 是当前供任务头使用的偏好汇总，两者维度相同但覆盖与时点不同。单个旧状态可能只反映当时局部需求，不能直接代表现在全部兴趣。修补需要选择相关证据并保留当前状态，而非见到同形张量就直接覆盖。
教学例子：去年的相机比较状态包含当时需求，当前用户已准备露营；直接用旧 ht 替换 z 会丢掉近期信息，同为 d 维并不让它们语义相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
GrIS把SID构造写成图划分，为什么要同时看内容节点和协同边？
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
问答新增：2026-10-27 · Huawei Ireland Research Centre
展开答案与例子
答案：内容相近与共同消费并不总重合，单纯内容量化可能错过偏好结构。图划分让语义特征与协同连接共同影响层级编码，保留两类信号间的折中；图缺失时则退回内容信息，而不能伪造协同关系。本地只检查划分与状态机制，层级结构本身并不证明生成推荐或线上效果已经成立。
教学例子：两件外观不同的露营用品经常被共同消费，协同边会提示它们的关系；刚上线的商品还没有边时，只能主要依据内容，而非假装已有行为支持。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
实现 GrIS 递归划分时，为什么每层要同时保存节点身份与父路径？
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
问答新增：2026-10-27 · Huawei Ireland Research Centre
展开答案与例子
答案：下一层只能在当前子图或节点组内继续细分，若丢掉父路径就可能把不同分支的局部编号混为同一码。图平滑、语义组合和空图处理也应显式执行。代码产生若干整数并不证明实现了内容—协同共同驱动的层级结构。
教学例子：两个父簇都有子编号二，完整 SID 应不同；只保存二会让两个不相关子簇碰撞，失去递归划分的地址含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
GrIS 图为空时退化为内容量化，与无图仍编造邻接有何不同？
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
问答新增：2026-10-27 · Huawei Ireland Research Centre
展开答案与例子
答案：退化路径承认缺少协同证据，只使用可用内容，保留定义清晰的对照。虚构边会把启发规则伪装为观测行为，改变学习目标。图有无应作为机制条件报告，本地诊断不意味着大规模推荐质量已验证。
教学例子：新品完全无互动时可按标题语义分层，不能随便连到几个热门商品再声称学到了协同图；两条路径证据来源不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
GrIS 为什么把 SID 构造看成层级图划分？
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
问答新增：2026-10-27 · Huawei Ireland Research Centre
展开答案与例子
答案：节点内容给出语义，协同边提供共同消费关系，递归划分将两者组织为粗到细的离散路径，使码不只优化内容重构。图结构也受曝光和热门度影响，层级不自动等同于真实兴趣 taxonomy，划分质量需独立检验。
教学例子：视觉不同的相机与镜头可能因共同消费连接，在上层形成相关兴趣区；下层再按内容区分，不能只按图片颜色分码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
GPU已经满负荷运行，为什么Effective Training Time仍可能很低？
Optimizing Effective Training Time for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：ETT关注总生命周期里真正用于消费新数据的训练时间占比，初始化、编译、保存、发布和故障恢复都会拉长分母。提高单步算子效率只优化其中一段，不能自动消除其他停顿；应先按阶段和负责方定位时间损耗。本地只有生命周期状态诊断，不能据此推算生产集群收益。
教学例子：一小时中20分钟训练新数据，40分钟反复编译和恢复，即使训练时GPU很忙，ETT仍只有约三分之一；应先减少生命周期损耗。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
ETT 如何利用阶段分解决定先优化编译、恢复还是训练算子？
Optimizing Effective Training Time for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：先把总时长分为新数据训练及各项生命周期损耗，再按可减少规模与负责方定位。若训练只占少数，继续优化算子未必最有价值；若生命周期开销已低，训练效率才是主要瓶颈。分解服务于实际进展，不把所有 GPU 活动都视为有效训练。
教学例子：一小时训练十分钟、恢复三十分钟，提速算子一成只能省少量时间；少一次恢复反而可能显著增加消费新数据的时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
ETT 计时为什么要明确重叠阶段与恢复重放的口径？
Optimizing Effective Training Time for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：分母是同一任务实际 wall time，分子只算消费新数据的训练区间；异步保存与训练重叠不能重复累加，恢复重放旧 batch 也不等于新进展。阶段归因可以重叠，但比例计算需一致。本地状态诊断不构成生产吞吐实测。
教学例子：保存与训练重叠五分钟，不能把一小时机械加成六十五分钟；恢复中重复旧数据也不能记为额外五分钟新数据训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
ETT 与稳定训练段 samples/s 或 MFU，为什么可能导出不同优化优先级？
Optimizing Effective Training Time for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：吞吐衡量单位训练时间速度，MFU 衡量算力使用，ETT 关注端到端生命周期的新数据训练占比。更快 kernel 若带来更多编译或重启，前两者可上升而整日新数据进展变差。三个指标互补，不能拿任一个自动推断另外两个。
教学例子：新内核每步快两成，却每天多次故障恢复；测稳定段吞吐很好看，总处理新数据反而减少，ETT 才能暴露损耗位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
AgentWebRec为什么只在私有记忆证据不足时才向邻居Agent协作？
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：目标用户的相关记忆通常比他人的概括偏好更直接，因此先按语义相关性与时间衰减检索本地证据。置信度不足才请求邻居提供紧凑模式，减少无关迁移与私有历史传播；协作是补证据而非把全网记忆无条件拼进提示。本地仅检验门控与证据融合，不等于验证完整推荐Agent能力。
教学例子：用户已多次记录素食偏好时无需询问邻居；若只留下模糊旅行兴趣，可借邻居的景点偏好模式补充，但不用发送用户原始行程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
AgentWebRec 的时间衰减与协作阈值实现中，哪些边界要分开检查？
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：记忆权重混合语义项和指数时间衰减，时间差应使用一致单位并避免未来事件得到反常增益；协作由本地置信 κ 与阈值比较，和记忆排序分不是同一个量。诊断需分别验证权重排序、过期行为处理与触发条件。
教学例子：一天与一小时若混用单位，旧行为可能几乎不衰减；即使检索到了最高分记忆，也仍要判断证据是否足够，不能把最高分自动视为高置信。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
AgentWebRec 的条件协作与始终聚合邻居信息相比，主要取舍是什么？
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：始终协作可能提高覆盖，却为每次请求增加通信与外部噪声；置信门控先使用个人证据，只在不足时扩展信息来源。代价是置信度若过于乐观会错过帮助，过低又近似总协作。来源本地仅诊断这条门控，不提供完整多 agent 能力提升证据。
教学例子：已有清晰摄影偏好时额外问邻居可能引入热门游戏内容；遇到全新需求再协作可以少传无关信息，但前提是系统能识别自己确实缺少证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
AgentWebRec 的私有记忆与邻居偏好模式分别提供什么证据？
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：私有记忆记录目标用户自身经历，候选语义与时间衰减用于检索当前相关部分；邻居模式补充本地证据不足时的群体线索。两者置信来源不同，协作不应覆盖已有强个人证据，也不应把邻居摘要当作目标用户已经发生的真实行为。
教学例子：用户自己明确偏好轻便相机时优先用这段记忆；只有新出现的户外需求缺少记录，才询问邻居的紧凑模式作为补充。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Where-OPD为什么让教师读文本化空间坐标，而学生只看图像与问题？
Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes
问答新增：2026-10-27 · Valeo.ai
展开答案与例子
答案：合成场景提供可精确描述的对象身份和位置，作为训练期特权信息帮助教师在学生前缀上给监督。学生部署时不依赖这些坐标，所以不能把它们混入原始学生输入。空间mask与信息边界要保留，随机logits的KL检查不证明模型学会视觉空间推理。
教学例子：教师知道球在盒子左侧的精确坐标，学生只能从图像判断；训练可借教师纠偏，测试不能直接把坐标告诉学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Where-OPD本地是否已经生成合成场景并加载MLLM？
Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes
问答新增：2026-10-27 · Valeo.ai
展开答案与例子
答案：没有，只执行spatial mask下的教师KL参考核。mask须对齐学生实际生成位置，教师冻结，随机logits只支持公式诊断，不能报告为视觉空间提升。
教学例子：例如给定左右两个数字logit不是一场真实看图推理实验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
空间特权文本与普通纯文本蒸馏有什么差别？
Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes
问答新增：2026-10-27 · Valeo.ai
展开答案与例子
答案：定义链路依赖真实场景图像与对应空间标签，单纯随机文本分布不能验证视觉落地。特权信息可帮助教师但不能证明学生真正看图，仍需独立视觉评估。
教学例子：例如同一空间描述配错图像，公式仍可运行却失去教学意义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Where-OPD为什么用合成场景的空间信息作教师条件？
Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes
问答新增：2026-10-27 · Valeo.ai
展开答案与例子
答案：程序场景能自动给出对象与坐标，教师获得准确结构线索，学生仍只看图像问题。目的是把空间提示内化到视觉行为，而不是让学生部署时读取答案坐标。
教学例子：例如教师知道两个物体位置，学生要从画面学会左右关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
视频token对冻结VLM奖励的梯度较大，为什么只能理解为敏感度而非必然正确的信用？
Token-Level Video Reinforcement Learning
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：梯度描述当前奖励模型对局部变化的敏感程度，可用于把同组优势稠密分配给生成token；按均值归一化控制总尺度。但评分模型也可能依赖捷径，敏感位置不一定是真正因果要素。本地只检验信用归一化，没有训练视频模型或证明感知质量提升。
教学例子：奖励模型可能对画面角落标记特别敏感；即使其梯度很大，也不能直接断定修改该区域就是提高视频质量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
TVRL本地信用核是否已经训练视频扩散模型？
Token-Level Video Reinforcement Learning
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：没有，只计算梯度信用及均值归一。实际还需真实视频输入、冻结VLM梯度与策略训练路径；输入范数全零等边界须明确，不能靠随机数替代后宣传视频能力。
教学例子：例如人工给几个梯度大小，可验权重，却没有执行任何视频生成训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TVRL梯度信用与把相同优势均匀发给所有token有什么差别？
Token-Level Video Reinforcement Learning
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：均匀广播忽略位置贡献差异，归一化梯度范数使敏感位置权重大、其他小。它仍依赖冻结VLM评价的质量，不能由梯度大直接断言真正因果贡献大。
教学例子：例如评价器特别在意某词，也可能是其偏差，而非任务必需证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
TVRL为什么用梯度敏感性分配token信用？
Token-Level Video Reinforcement Learning
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：视频终局奖励粗糙，冻结评价路径对生成位置的敏感度提供局部线索，再重分配组优势。敏感不等于该词必然正确，只表示奖励对相应变化更敏感。
教学例子：例如描述动作的词比连接词更影响视频奖励，可获得不同局部权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
pass@1提高时，Sharpening Tax为什么仍要比较固定预算下的任务覆盖？
Sharpening Tax in Post-Training
问答新增：2026-10-27 · Meta Superintelligence Labs / University of Wisconsin–Madison
展开答案与例子
答案：后训练可能把概率集中到熟悉解法，让一次命中更高，却失去某些只有多次采样才能找到的解。覆盖差比较基座与后训练策略在同一预算能解决哪些任务，再据难度调温。单次准确率、token熵和任务覆盖不是同一指标，不能用一个替代另一个。
教学例子：模型对常见题更确定，但再也采不到一类罕见正确解；只看首个答案的表现，可能完全看不见这部分覆盖损失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
Tax_K计算时为什么必须固定K及两策略输入集合？
Sharpening Tax in Post-Training
问答新增：2026-10-27 · Meta Superintelligence Labs / University of Wisconsin–Madison
展开答案与例子
答案：覆盖随采样次数和题目集合变化，两边预算或样本不同会混入比较偏差。定义为base覆盖减post覆盖，正负号应保留；本地仅执行指标核，不含原模型实验。
教学例子：例如base采很多次而post只采一次，得到的差不能解释为后训练本身的税。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
后验调温与简单所有题都提高温度有什么差别？
Sharpening Tax in Post-Training
问答新增：2026-10-27 · Meta Superintelligence Labs / University of Wisconsin–Madison
展开答案与例子
答案：按估计难度分配组采样温度，试图在利用与覆盖间做条件化取舍；全局升温对已掌握和困难题一视同仁。估计错误也会影响分配，不能视作保证恢复全部覆盖。
教学例子：例如熟练题无需同样强探索，困难题可能需要更多分支，而不是统一变随机。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Sharpening Tax为何同时观察单次成功与固定预算覆盖？
Sharpening Tax in Post-Training
问答新增：2026-10-27 · Meta Superintelligence Labs / University of Wisconsin–Madison
展开答案与例子
答案：后训练可能提高常见正确路径概率，却减少其他任务或解法的可达性。固定采样预算下的覆盖差揭示这种代价，避免只凭单次成功率判断能力边界扩大。
教学例子：例如某题从偶尔对变常对，但另一类题再也采不到正确解，覆盖可能下降。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RLCPR为什么只有全组都长且答案后验集中时才加相对长度惩罚？
RLCPR: Rethinking Probability-Based Reinforcement Learning From Posterior Concentration
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：后验接近说明这些推理给答案提供的区分有限，全组都长时才有理由压缩相对冗余。门控同时满足后，惩罚依据组内相对长度而非统一固定阈值；等号边界和分位数口径都重要。输入后验与熵须来自真实模型，手工数值只验证公式。
教学例子：同题几条回答都很长且答案概率近似，可尝试偏向较短者；若长回答明显提高答案支持，就不应照样惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
RLCPR门控遇到等于长度或后验阈值时是否激活？
RLCPR: Rethinking Probability-Based Reinforcement Learning From Posterior Concentration
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：原条件使用严格大于最短长度阈值和严格小于后验极差阈值，等号不激活。熵CDF也用严格小于处理并列值；本地手工量只验证公式，不是实际RL收益。
教学例子：例如组最短长度正好落在阈值上，不能改成大于等于以多惩罚一些样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
RLCPR的熵分层与长度门控是同一选择吗？
RLCPR: Rethinking Probability-Based Reinforcement Learning From Posterior Concentration
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：熵分层在采样数据前调节保留分布，长度与后验门控在生成组内决定奖励修正。二者时点和变量不同，不能用一个全局长度阈值替代整条流程。
教学例子：例如先决定更常抽哪类题，再判断该题本轮回答是否普遍冗长，是两步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RLCPR为什么不对所有长回答统一扣长度分？
RLCPR: Rethinking Probability-Based Reinforcement Learning From Posterior Concentration
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：长推理有时必要。只有全组都偏长且答案后验已集中时，额外长度更可能没有区分价值，才启用组内相对惩罚；因此它保留针对困难不确定推理的空间。
教学例子：例如一组都已很确定却反复解释，可与仍在探索关键分叉的长回答区别处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
奖励区间重叠时，Range-GRPO为什么不强行给两条回答排出先后？
Range-GRPO: Policy Optimization via Pairwise Relations among Reward Intervals
问答新增：2026-10-27 · Yonsei University
展开答案与例子
答案：点估计的微小差别可能只是裁判不确定性。Range-GRPO比较校准区间的可确定关系，重叠时不制造方向信号，再在组内聚合相对优势；区间退化为点时回到对应点奖励情形。区间可信性依赖校准协议，只有区间关系算子并不等于已训练可靠judge。
教学例子：两个回答的质量估计范围大幅重叠，不能因一个中心值略高就当作明确优例；先保留无法确定的关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
Range-GRPO本地实现是否已经校准conformal裁判？
Range-GRPO: Policy Optimization via Pairwise Relations among Reward Intervals
问答新增：2026-10-27 · Yonsei University
展开答案与例子
答案：没有。它接收给定区间并计算成对关系与点极限；区间覆盖保证还需真实校准数据和裁判流程。区间退化为点时应检查相应DR-GRPO极限，而非随意平滑。
教学例子：例如输入一个很宽区间通过测试，只说明关系核能处理，不证明其覆盖率正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
区间重叠置为不确定，与把区间中点排序有何不同？
Range-GRPO: Policy Optimization via Pairwise Relations among Reward Intervals
问答新增：2026-10-27 · Yonsei University
展开答案与例子
答案：中点排序总能给出方向，即使差异远小于不确定范围；区间关系选择保守地不给这类伪信号。代价是监督可能更稀疏，不能无对照就断言训练更快或更好。
教学例子：例如两区间中点一高一低但范围重叠，保守方法不把这个小差当确定胜负。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Range-GRPO为什么给奖励区间而非只信一个裁判分数？
Range-GRPO: Policy Optimization via Pairwise Relations among Reward Intervals
问答新增：2026-10-27 · Yonsei University
展开答案与例子
答案：单点评分掩盖估计不确定性，区间让组内关系承认哪些顺序尚不能确定。只有可判定的区间关系提供方向，避免将微小噪声差硬转成偏好。
教学例子：例如两个评分的可能范围大量重叠，就不强行说其中一个明显更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
My FAULT为什么要求自诊断claim先经证据验证，再进入error pricing？
My FAULT: Self-Diagnosis as Credit Assignment in Self-Evolving Agentic Reinforcement Learning
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：自诊断文本可能只是事后合理化，未经核对就估计错误成本会把偏见写进训练。验证后的类别与位置用于在线相对定价，再在步骤间重新分配终局信用，并保持总量守恒。它改变信用位置，不凭空创造成功奖励；本地没有联合训练完整诊断模型。
教学例子：失败后模型说“搜索错了”，但日志显示工具调用正确、最终汇总丢了事实；未经验证的归因不应指导搜索步骤受罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
My FAULT实现应检验哪条守恒不变量？
My FAULT: Self-Diagnosis as Credit Assignment in Self-Evolving Agentic Reinforcement Learning
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：逐步重分配之和应等于原回报，成本均值与步数需使用相同有效步骤集合。当前本地仅验证诊断筛选、成本及守恒核，没有共同训练策略和诊断模型。
教学例子：例如把padding也算进平均成本，会破坏有效步骤上的总信用关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
守恒重分配与额外加一份错误惩罚有何区别？
My FAULT: Self-Diagnosis as Credit Assignment in Self-Evolving Agentic Reinforcement Learning
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：守恒方式保持步骤信用总和等于原终局回报，只改变分布；额外惩罚会改变总目标。两者学习激励不同，不能把任意扣分称为同一error pricing。
教学例子：例如某一步多扣的信用需在其他步骤相对补回，而不是整条总分又少一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
My FAULT为什么先验证自诊断claim再定错误成本？
My FAULT: Self-Diagnosis as Credit Assignment in Self-Evolving Agentic Reinforcement Learning
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：模型自我解释可能编造原因，只有有证据支持的类别与位置才进入在线定价。终局信用按相对错误成本分配，防止未经验证的自责直接改变训练。
教学例子：例如模型说是工具错了，需要执行记录支持，不能仅因它这么说就惩罚工具步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GMC-GRPO为什么统一缩放整组重要性比，而不把每条轨迹各自截断？
Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：逐条截断会不均匀改变组内样本之间的比例。组质量封顶在总比率过大时用同一个因子缩放，保持相对比例而限制总权重。它控制的是组层面质量，仍依赖采样和矩条件；在公式上计算这一步，不代表已经搭建并验证异步训练系统。
教学例子：一组旧轨迹的比率总量过大，统一缩小可保留彼此相对贡献；分别裁平可能让原本不同的重要性看起来一样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GMC权重在总质量低于帽时应怎样变化？
Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：缩放系数为一，原比值不变；超过帽才乘帽除总和。需核对比值非负及分组边界，本地只验证质量帽核，未构建异步训练集群或测吞吐。
教学例子：例如两个不同提示组不能合并总和，否则一组极大比值会影响另一组。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
组质量帽与逐轨迹clipping保留的关系有什么不同？
Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：组帽让所有比值乘相同因子，组内相对比例不变；独立裁剪会改变彼此比例。其理论结论还依赖共同二阶矩等条件，不表示任何异步陈旧程度都能修复。
教学例子：例如大比值与中比值在独立截断后可能接近，而统一缩放仍保留它们比率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GMC-GRPO为什么按组限制重要性总质量？
Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：异步样本来自较旧策略，某些比值可能很大。按整个组同系数缩放，可约束总质量，同时保持组内原比值比例，减少逐轨迹各自截断带来的结构改变。
教学例子：例如一组所有比值一起放大时，统一缩小而非只切掉其中最大一条。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
被拒回答中的token如果支持优选方向，GAW-PO为什么反而少罚它？
GAW-PO: Preference Optimization with Gradient-Aligned Token Weights
问答新增：2026-10-27 · National University of Science and Technology POLITEHNICA Bucharest
展开答案与例子
答案：拒绝整条回答不代表其中每个token都坏。GAW-PO比较该token梯度与优选更新方向的夹角，对齐越强，负权重越小，从而减少把共享有用成分一并压低的冲突。它调整的是拒绝项信用，不把梯度相似度当成token事实正确性的证明。
教学例子：两份回答开头都正确，拒绝回答只在结论出错。若正确开头支持优选方向，就不应与错误结论同样强地受罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
GAW-PO权重中正部余弦会怎样处理同向、正交与反向梯度？
GAW-PO: Preference Optimization with Gradient-Aligned Token Weights
问答新增：2026-10-27 · National University of Science and Technology POLITEHNICA Bucharest
展开答案与例子
答案：权重是一减正部余弦：完全同向时趋于零，正交或反向时保持一，中间正对齐则部分减罚。需要真实梯度方向；本地只验证该权重核，未完成语言模型偏好训练。
教学例子：例如余弦为负并不会得到大于一的惩罚权重，正部操作先把它变成零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
GAW-PO的梯度对齐与按词元概率高低加权有何不同？
GAW-PO: Preference Optimization with Gradient-Aligned Token Weights
问答新增：2026-10-27 · National University of Science and Technology POLITEHNICA Bucharest
展开答案与例子
答案：概率描述当前模型有多常生成某词，对齐度描述惩罚它会否妨碍优选方向。二者不等价：常见词可能无关，罕见词也可能支持优选更新；这里只比较机制，不推断效果胜负。
教学例子：例如一个低频术语恰好支撑正确解释，不能只因概率低就加重负向惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
GAW-PO里的preferred与rejected是整条回答标签，还是每个词元的好坏标注？
GAW-PO: Preference Optimization with Gradient-Aligned Token Weights
问答新增：2026-10-27 · National University of Science and Technology POLITEHNICA Bucharest
展开答案与例子
答案：它们是同一提示下两条回答的相对偏好标签，并没有逐词标注。被拒回答仍可能含有正确步骤或共享措辞。因此输入的监督粒度与实际调整的词元粒度不同；梯度对齐是补充的信用分配信号，不能被解释成新增的人类逐词真值。
教学例子：两份解答都先写出正确公式，只在最后计算不同；整条拒绝标签并未把公共公式标成错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
依赖感知奖励塑形为什么只衰减破损依赖附近的信用，而不清空所有已完成进度？
Dependency-Aware Reward Shaping for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：任务以先决条件图表示，某个条件失效会影响依赖它的后续工作，却不必影响独立分支。按图距离衰减信用，再由势函数差分形成奖励，可反映破损与修复。它依赖谓词状态和依赖图是否正确，本地状态转移核没有证明真实智能体训练收益。
教学例子：例如订票失效会削弱依赖该行程的酒店安排信用，但不应抹掉独立完成的报销材料；修复后相关进度再按状态恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
DARS修复事件是否只改当前reward不改状态？
Dependency-Aware Reward Shaping for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：应更新依赖状态与势函数，再由相邻势差得奖，否则后续仍基于旧破损记录。当前只执行状态核，未训练原文模型；上游接口说明不等于作者训练代码已发布。
教学例子：例如航班修复后关联信用应按新状态恢复，而不只是额外加一次奖金。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
依赖距离衰减与全局失败扣分有何差别？
Dependency-Aware Reward Shaping for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：衰减针对离破损依赖不同距离的工作，全局扣分不分关联。图错也会误分信用，因此结构化不自动保证准确，仍需验证predicate和依赖。
教学例子：例如酒店安排依赖航班，另一分支的账户验证不该同受惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
DARS为什么把进度写成依赖predicate图？
Dependency-Aware Reward Shaping for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：已完成步骤可能依赖后来失效的条件，单纯累计进度无法反映破损。图状态让验证、失效和修复影响相关信用，同时保持独立分支，不一律清零。
教学例子：例如预订取消会影响依赖行程，却不必抹去独立完成的材料准备。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
CARM为什么先对每个token的log-ratio取绝对值，再求响应平均？
CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning
问答新增：2026-10-27 · Moore Threads AI
展开答案与例子
答案：一处概率上升与另一处下降可能在普通序列平均中抵消，让整条响应看似没有漂移。先取绝对值保留偏移幅度，再用响应gate筛出累积失配大的样本。它衡量的是策略变化而非回答质量；gate应冻结，不能借选择过程反向改变筛选依据。
教学例子：前半句概率显著上升，后半句等幅下降，总log-ratio接近零；绝对偏移平均仍会发现这条响应变化很大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
CARM的response gate应该进入梯度计算吗？
CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning
问答新增：2026-10-27 · Moore Threads AI
展开答案与例子
答案：作为冻结选择门控使用，不通过阈值判定求导。统计只覆盖有效响应词元，并按规定阈值保留；本地未训练Qwen3.5，不能把mask核通过当实际稳定收益。
教学例子：例如更新后概率变化不应在同一步通过gate支路额外推导一份梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
CARM与按序列几何比接近一筛样本有何差别？
CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning
问答新增：2026-10-27 · Moore Threads AI
展开答案与例子
答案：几何比保留方向相消，CARM关注不带符号的幅度；因此可拒绝总比值近一却内部变化大的响应。它不是任务质量评分，也不保证被保留回答正确。
教学例子：例如总账收支为零不表示没有大额流动，两个指标测的是不同性质。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
CARM为什么先对token log-ratio取绝对值？
CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning
问答新增：2026-10-27 · Moore Threads AI
展开答案与例子
答案：序列平均可让正负漂移抵消，看似接近旧策略却各位置已严重改变。先绝对再平均测总体偏离幅度，用响应门控识别这种相消风险。
教学例子：例如一个位置概率大升、另一个大降，平均log比可能恰好为零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
先帧内合并、再跨帧去冗余，为什么不是任意可交换的两步？
VETO: Video Efficient Token Optimization for Vision Language Models
问答新增：2026-10-27 · National Taiwan University
展开答案与例子
答案：帧内合并先减少每帧的候选数量，让跨帧匹配面对更短的表示，降低时间维比较成本。若先在所有原始 patch 间做全局时间匹配，就已经支付了更大的搜索开销，得到的对应关系也可能不同；两步顺序本身就是机制的一部分。
教学例子：例如每帧一百个 patch 先压成二十个，再找相邻帧重复内容；反过来先匹配全部原始 patch 就省不下同一部分计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
本地最远点代表验证保留了什么，又缺少什么？
VETO: Video Efficient Token Optimization for Vision Language Models
问答新增：2026-10-27 · National Taiwan University
展开答案与例子
答案：本地用确定性最远点代表检查空间先行、时间后继的双轴顺序与预算，并在 GPU 执行对应压缩。它没有加载论文 7B VLM 或真实视频 benchmark，代表点启发式也不能冒充完整语义合并能力；因此只报告机制诊断，不复述作者吞吐为本地收益。
教学例子：例如压缩后 token 数符合预算，可证明两阶段都运行；它不说明模型仍能识别被合并区域中的小物体动作。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
相同总 token 预算，保留更多帧或每帧更多位置，各偏向哪种信息？
VETO: Video Efficient Token Optimization for Vision Language Models
问答新增：2026-10-27 · National Taiwan University
展开答案与例子
答案：更多帧偏向时间覆盖，每帧更多位置偏向局部空间细节，总量相同并不意味着信息相同。本地输入为帧数、帧内 token 数、维度三轴，两个 keep 分别受原轴上限约束，输出保留两者乘积个位置。这是预算假设比较，不代表论文已验证某种分配对所有视频最优。
教学例子：教学例：四帧各保留十六个位置，与十六帧各保留四个位置都用六十四 token，前者看得细，后者可能更容易覆盖短暂事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
视频输入为什么同时存在帧内与跨帧两种冗余？
VETO: Video Efficient Token Optimization for Vision Language Models
问答新增：2026-10-27 · National Taiwan University
展开答案与例子
答案：一帧中的相邻区域可能描述相同背景，相邻帧又可能重复同一场景，二者都会延长视觉序列。VETO 希望从空间和时间两个轴减少重复信息，让后续模型面对更紧凑的视频证据。不同轴压缩会损失不同细节，不能只看总压缩率判断是否保留了任务所需运动和局部线索。
教学例子：教学例：固定镜头下，墙面在单帧占很多 patch，多帧又几乎不变；但一只手的短暂动作既需要足够时间覆盖也需要空间细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
TESS为什么先用两模型损失差作伪标签，再训练selector，而不直接优化选择结果？
TESS: Scalable, Transferable Meta-network for Data Selection Requires a Different Loss (and Why the Obvious Choice is Problematic)
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：一份模型只看训练数据，另一份得到验证目标指导；同初始化下的逐样本损失差提供价值信号，再用pointwise匹配训练可迁移selector。两阶段设计把价值估计与选择器学习分开，避免某些直接选择目标的病态优化。验证信息用于开发指导，不能把最终test偷偷当作这份指导数据。
教学例子：同一个样本在普通模型与验证指导模型上的损失变化不同，可用来学习哪些样本更贴近目标；上线选择新数据时则由selector预测，而非逐样本读取未来测试成绩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
TESS 的 Δ_i 可以一边拟合 selector 一边反传回 U/W 吗？
TESS: Scalable, Transferable Meta-network for Data Selection Requires a Different Loss (and Why the Obvious Choice is Problematic)
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：文档要求stop-gradient伪标签，并从相同初始权重顺序训练U/W；selector只拟合保存的损失差。分数可为负，不能未经转换就当采样概率，也不能把test冒充validation。
教学例子：一个样本价值差为负时，应先保留该监督含义，而非偷偷clamp成0。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
TESS 的损失差伪标签，与只选当前模型 loss 最大的样本有什么区别？
TESS: Scalable, Transferable Meta-network for Data Selection Requires a Different Loss (and Why the Obvious Choice is Problematic)
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：损失差比较两个同起点模型，尝试捕捉验证指导带来的变化；原始高loss只表示当前难度，未必意味着对目标任务有价值。两者的选择信号不能直接互换。
教学例子：一条噪声样本可能一直很难，但验证指导并未让它变得更有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
TESS 为什么把“哪些训练样本有价值”变成一个可学习预测任务？
TESS: Scalable, Transferable Meta-network for Data Selection Requires a Different Loss (and Why the Obvious Choice is Problematic)
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：它先用训练集模型与验证指导模型的逐样本损失差构造价值伪标签，再训练selector对独立候选池打分。这样把昂贵的价值估计转成可迁移的pointwise预测，而非直接在大池上反复试训。
教学例子：小规模教师产生一批价值标签，再让selector为未参与教师训练的候选样本估值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
TACO每列只保留一个梯度位置，为什么不是普通的逐元素sign更新？
TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
问答新增：2026-10-27 · University of Central Florida
展开答案与例子
答案：它先在每个二维权重列中找绝对值最大的分量，只保留该位置的符号，其余位置更新为零。这样得到列级one-sparse方向，并配合低精度列状态减少优化器存储。逐元素sign则会更新所有非零梯度位置，既不是同一方向，也不具有相同稀疏结构。
教学例子：一列梯度为0.2、负0.9、0.4时，该列只在第二行给负方向；普通sign会同时给出正、负、正三个更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
TACO 的 argmax 选择若误写成沿列轴，会发生什么？
TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
问答新增：2026-10-27 · University of Central Florida
展开答案与例子
答案：定义要求对每一列在行索引中取最大绝对值；轴写反会变成每行保留一项，改变优化几何。还需核对未选位置为0与低精度列momentum，而非只检查更新张量shape。
教学例子：一个3×5权重应每列最多一个保留位置，不是每行一个。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
TACO 的一稀疏列方向，与逐元素 signSGD 保留了什么不同信息？
TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
问答新增：2026-10-27 · University of Central Florida
展开答案与例子
答案：signSGD可在一列的所有非零位置更新；TACO先做列内绝对值最大选择，只在选中行保留符号。两者都可能使用符号，但支持集稀疏结构并不相同。
教学例子：列梯度为[1,-4,2]，逐元素sign有三项，TACO方向只在第二项为-1。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
TACO 为什么把每列更新压到一个梯度位置？
TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning
问答新增：2026-10-27 · University of Central Florida
展开答案与例子
答案：它为二维权重的每列选择绝对梯度最大的位置及符号，形成column-wise one-sparse方向，以列级低精度状态替代逐参数dense优化器状态。更新结构与普通稠密梯度下降不同。
教学例子：一列有很多非零梯度，本步只保留绝对值最大的那个位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
REA为何把全局指令保留为持久前缀，而不让它与聊天片段一起按相关性竞争？
Role-aware Heuristic Episodic Attention for Conversational LLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：聊天记忆的某次相关性排序不应顺便删除持续有效的全局约束。REA把持久指令和情节记忆分开，对后者检索，并按角色决定保留原文、压缩或省略。它控制的是构成当前上下文的材料，而不是保证压缩后所有信息都可恢复；角色和检索规则仍需核验。
教学例子：用户早先规定输出必须用中文，最近谈论电影；电影片段可按问题相关性选择，而中文约束不应只因和电影关键词无关就被挤出上下文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
本地 REA 的 top-k 与角色分离已经包含真实 LLM 压缩吗？
Role-aware Heuristic Episodic Attention for Conversational LLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：没有。文档只记录角色分离和episodic top-k执行，不调用压缩LLM。集成时应区分已执行的记忆选择与尚未提供的生成式压缩，不能把压缩占位当成模型能力。
教学例子：选中了三段历史，不等于已经让一个语言模型把三段压成忠实摘要。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
角色感知的 episodic 检索，相对只保留最近聊天窗口改变了什么？
Role-aware Heuristic Episodic Attention for Conversational LLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：最近窗口只看时间距离；episodic检索可取回更远但相关的交互，并保留独立持久指令。角色策略还区分不同来源内容的处理方式，但不保证压缩后一定无信息损失。
教学例子：较早的用户偏好可被取回，而很多刚发生但无关的工具日志可以省略。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
REA 为什么不把系统指令与所有聊天历史一起做 top-k？
Role-aware Heuristic Episodic Attention for Conversational LLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：全局指令需要持续约束后续交互，而普通历史可按相关性检索。REA把指令放在持久前缀，交互放在episodic memory，再按角色决定保留、压缩或省略方式。
教学例子：一条长期格式要求不应仅因与当前关键词不相似就被历史检索淘汰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
用描述文本作蒸馏目标，为什么能减少媒体适配对文本骨干的干扰？
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：冻结文本骨干提供稳定的语义坐标，媒体样本的稠密描述在该坐标中形成教师目标。投影器与受控 LoRA 学习把媒体映射过去，而不是让文本空间随每种模态任意漂移；教师目标停止梯度，仍需检验描述是否遗漏媒体中的关键信息。
教学例子：例如同一视频的动作与场景被写入描述，视频表示向冻结文本目标靠近；若描述漏掉小字，蒸馏也不会凭空补全。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
余弦蒸馏中 stopgrad 应施加在哪条路径？
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：目标来自冻结文本骨干编码的描述，应停止该目标路径的梯度；媒体表示与目标计算余弦损失，由允许更新的媒体接口接收梯度。本地只执行相同几何空间的稠密描述蒸馏诊断，没有训练完整六模态编码器或复现检索榜单。
教学例子：例如降低媒体向量与描述向量的夹角时，只移动待训练的媒体映射；若连目标也一起自由移动，就改变了固定语义锚点。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
冻结文本骨干的蒸馏与全参数联合多模态训练有何取舍？
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：冻结骨干给新模态提供相对稳定的语义坐标，减少改写既有文本表示的风险，训练重点落在投影器与分阶段适配上。全参数训练可调整更广，却也可能改变旧文本能力；这里是参数更新范围的取舍，不能直接推成任一方法效果必胜。
教学例子：例如接入音频时保持旧文本检索向量稳定较容易维护索引，但声音特有信息能否表达仍受现有目标空间约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
Omni-Embed-Mini接收媒体后，要输出一份新媒体，还是用于检索的向量？
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：这里学习的是媒体的语义embedding，媒体表示与描述文本目标在同一向量空间比较；不是根据描述生成图片、音频或视频。稠密描述在训练时提供目标表示，实际媒体路径仍要编码媒体输入，不能把“多模态”直接理解成具备各种媒体生成能力。
教学例子：给一段音频得到可与文字查询比较的向量，是表示任务；按一句文字合成一段音频，则是另一个生成任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
为什么剪完注意力路径后，还要重新估计 FFN 通道的重要性？
MWOP: Modality-aware Width-wise Operation Pruning for Efficient MLLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：注意力剪枝改变了进入 FFN 的信息分布，原先的重要性排序可能已经过时。MWOP 还把视觉到视觉、文本到视觉等路径和不同模态的 FFN 通道分开处理，避免用一个总分掩盖模态差异；剪枝后的质量与真实速度仍要分别验证。
教学例子：例如删除部分文本读取视觉的路径后，一些负责融合视觉的 FFN 通道贡献会变化，不能继续沿用手术前的通道排名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
MWOP的|w·∂L/∂w|为什么不能直接替换为|w|来排序剪枝？
MWOP: Modality-aware Width-wise Operation Pruning for Efficient MLLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：权重与损失梯度的乘积同时考虑参数幅度和当前损失对它的敏感性，只看|w|会丢掉后一个量。取绝对值避免正负方向在重要性幅度上相互抵消。这是局部近似指标，仍需指定校准数据与模态路径，不能把小分数理解为删除后质量必然不变。
教学例子：两个权重大小相同，但一个位置的梯度更大，乘积指标会区分它们；只按权重幅度则给出并列排序。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
与统一剪掉相同 FFN 通道相比，模态相关通道选择改变了什么？
MWOP: Modality-aware Width-wise Operation Pruning for Efficient MLLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：视觉与文本 token 可使用不同的 FFN 通道集合，允许共享模型在两类输入上保留不同计算容量。统一通道剪枝为所有模态使用同一掩码，可能忽略贡献差异；这种灵活性也需要实际执行支持，掩码稀疏不自动等于硬件更快。
教学例子：例如文本常用的通道与视觉纹理通道不重合，分别保留可以比统一交集更有表达空间，但 kernel 仍须真正跳过计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
MWOP 中同一个注意力头为什么仍能有不同模态路径的重要性？
MWOP: Modality-aware Width-wise Operation Pruning for Efficient MLLMs
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：一个头可同时承担视觉到视觉、文本到视觉和文本到文本的信息传递，这些路径对任务的贡献可能不同。MWOP 在头内分别评估并剪枝，而非把整个头视为单一不可分单元；保留某路径也不意味着该头所有模态交互都要保留。
教学例子：例如某个头主要用于文本读取图像，视觉内部交互贡献较小，按路径剪枝可保留前者而减少后者。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
LLM2Jev为何要把选项字符串的联合概率归一化，而不能随便取最后一个token？
LLM2Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them
问答新增：2026-10-27 · Microsoft（按作者邮箱）
展开答案与例子
答案：有限选项可以由现有语言模型的词元概率构成决策分布，但多词元选项需要按完整条件链计算联合分数。微调再用列表决策损失，并以基础模型的辅助分布作KL锚点，限制偏移。标签长度和分词协议会影响读出，本地候选核未运行完整检查点评测。
教学例子：例如选项标记被分成两个词元时，应计算两步条件概率的乘积；只取末尾那一片会遗漏前一片的可能性，产生不同排名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
LLM2Jev的reference在辅助KL中应该怎样使用？
LLM2Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them
问答新增：2026-10-27 · Microsoft（按作者邮箱）
展开答案与例子
答案：基础模型作为冻结分布，KL方向按基础到辅助输出计算。不得在同一次策略更新中一起训练reference，否则锚点随目标移动，改变正则含义。
教学例子：例如学生改变时基座保持原分布，而不是两边一起追着彼此更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
LLM2Jev的KL锚定与直接只训练listwise损失有何区别？
LLM2Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them
问答新增：2026-10-27 · Microsoft（按作者邮箱）
展开答案与例子
答案：列表损失推动当前候选决策，辅助输出相对基础模型的KL则限制其他输出漂移。加入锚定带来稳定性取舍，不能直接等同保住全部基础能力。
教学例子：例如工具选择训练变强时，辅助分布仍被约束，但其他开放任务仍应独立评测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
LLM2Jev为何说现有LLM可以用作有限决策模型？
LLM2Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them
问答新增：2026-10-27 · Microsoft（按作者邮箱）
展开答案与例子
答案：语言模型已有选项标记的词元概率，可从这些概率构成候选分布，不必先生成一段解释。微调进一步针对列表决策训练；这是一种读出和优化方式，不意味着原模型不需推理。
教学例子：例如只读括号编号的概率来选工具，而非要求模型先写完整工具名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
IrekoGPT为什么保留投影基，才能让一个检查点支持多种嵌套宽度？
IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：结构化剪枝若直接丢弃被裁方向，就固定了模型宽度。保留有序投影基后，不同宽度可取同一基的不同前缀，再用多压缩率校准与下游线性修正减轻切换误差。共享嵌套结构不保证所有宽度质量相同，本地只验证子网合同，未测原模型吞吐。
教学例子：例如同一检查点临时取较窄子网处理简单请求，再恢复较宽子网；若之前把其余投影永久删除，就无法靠切换参数恢复这些方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
IrekoGPT 的不同宽度为什么不能各自使用任意独立投影基？
IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：文档W_k=P_:kᵀWP_:k要求不同k共享同一嵌套基的前缀；若每个k独立选基，便失去这一共享合同。还需保留后续线性层的校准/ridge修正，本地仅执行嵌套子网诊断。
教学例子：较窄的前32维应是较宽64维基的同一前缀，不是重新抽一套32维方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
可伸缩嵌套宽度与针对单一比例剪枝，部署选择上有什么区别？
IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：单比例剪枝只保留一种宽度；嵌套方案保存基和多比例校准，使运行时可选择不同k。多宽度共享不代表每种宽度都未经校准就保持同样质量，也不等于已经测得吞吐提升。
教学例子：只验证k=64，不能直接宣称同checkpoint的k=32也同样有效。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
IrekoGPT 为什么想让一个 checkpoint 暴露多种嵌套宽度？
IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：不同推理预算可使用不同宽度，而不必分别维护完全独立的剪枝模型。保留投影基后，不同k选择同一基的前k维，再通过多压缩率校准适配这些子网。
教学例子：同一模型可使用较窄前缀或较宽前缀，两者共享一套有序投影基。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
AF-Muon为何不能把tied embedding当普通隐藏矩阵统一做Muon更新？
AF-Muon: An AdamW-Free Muon Optimizer for Tied-Embedding Models
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：共享词表同时承担稀疏输入查表与稠密输出分类，两种梯度结构并不相同。AF-Muon对隐藏矩阵保留Muon式谱方向，对共享词表使用support-aware有限帽方向，对一维参数另用RMS更新。不能仅按输入中出现的词判断支持集，因为输出分类路径也可能给许多词表行提供梯度。
教学例子：一个词没在输入中出现，却作为输出候选受到分类损失影响；若只更新输入命中的行，就会漏掉共享输出头的有效梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
AF-Muon 在零梯度词表行上，怎样避免归一化产生 NaN？
AF-Muon: An AdamW-Free Muon Optimizer for Tied-Embedding Models
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：公式中1[g_i≠0]对应显式支持分支：零梯度行方向应为0，不能先算g/‖g‖再指望乘0清掉NaN。当前记录验证的是support/cap方向，未完成论文规模预训练。
教学例子：本批次未出现也没有输出梯度的一行，应保持零更新方向，而不是出现0/0。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
support-aware 有限帽方向，与把每个词表行都归一化成同样长度有什么区别？
AF-Muon: An AdamW-Free Muon Optimizer for Tied-Embedding Models
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：它保留零梯度支持边界，并以cap限制行方向幅度；小梯度不必被强行放大到统一长度。简单逐行单位归一化会改变这一幅度控制，也可能给无支持行带来数值问题。
教学例子：梯度范数小于cap时，不能仅为了单位化就把它放大成与大梯度行相同长度。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
AF-Muon 为什么要为模型里的不同参数类型设置不同更新？
AF-Muon: An AdamW-Free Muon Optimizer for Tied-Embedding Models
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：隐藏矩阵、共享词表与一维参数的几何和梯度支持不同。文档分别使用Muon矩阵方向、词表support-aware有限帽方向及一维RMS更新，避免把所有参数都当普通稠密矩阵。
教学例子：只被少数输入词访问的embedding行，与一个每步都参与计算的hidden矩阵不同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
多个验证者达成共识后，为什么还需要 consensus challenger？
VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：共同结论也可能来自共享错误或共同遗漏，只有处理显式分歧无法发现所有人都没检查的要求。challenger 主动质疑共识与缺口，resolver 则针对冲突取证，职责互补；支持与反驳应来自证据工具，而不是把赞同票数当作真值。
教学例子：例如三名审查者都只看页面截图，没人检查下载文件；challenger 可提出产物遗漏问题，即使原讨论完全没有分歧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
实现 VeriHarness 的 claim 数量惩罚时，为什么要保留 claim 拆分口径？
VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：score包含epsilon乘claim数，拆分或合并同一内容会改变惩罚。应同时保留支持、矛盾和claim计数，才能解释选择；不能把fixture判定器的输出宣传成已核验真实世界事实。
教学例子：一句话拆成三条断言后长度惩罚会变，比较候选时必须使用一致的拆分规则。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
VeriHarness 的证据支持评分，与简单多数投票有什么区别？
VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：投票统计意见数量，文档评分同时考虑支持证据、与共识相关的矛盾及claim数量惩罚。更多人同意或写更多claim都不自动增加可验证性；本地fixture checker也不是论文真实工具环境。
教学例子：一条有证据的精确结论，可能比十条共同重复却互相矛盾的断言更值得保留。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
VeriHarness 为什么除了消解分歧，还要主动挑战共识？
VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：多个回答一致仍可能共同缺证据或遗漏要求。disagreement resolver查证冲突claim，consensus challenger质疑共同claim与遗漏，两者配合证据工具和workspace，避免把一致性当正确性。
教学例子：三个Agent都引用同一条未经核验的说法，一致投票仍需要查证。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么当前可执行版本与下一轮编辑源要分开选择？
Safety Must Survive Self-Improvement: Why Failures Persist and How Agents Recover
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：最有改进潜力的编辑父本未必在当前条件下安全可运行，运行版本必须重新验证后从合格集合选。无候选通过时回到 founder，而不是继续使用已经失败的 incumbent；恢复执行与继续搜索是两项职责，不能把历史曾通过当成永久有效资格。
教学例子：例如新环境使现任版本检查失败，仍可保留它作分析编辑来源，但实际任务应切到当前验证合格版本或执行 founder 回滚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
Safe Self-Improvement 可以直接复用候选上轮通过的布尔标记吗？
Safety Must Survive Self-Improvement: Why Failures Persist and How Agents Recover
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不能把旧验证状态当当前有效集，应绑定本轮条件重新检查，再在通过者中选分数最高者。本地执行验证与founder回退选择，未调用论文编辑模型或复现Bedrock实验。
教学例子：工具权限或任务条件改变后，旧的passed不能无条件带入新一轮。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
没有候选通过时回滚 founder，与继续运行 incumbent 有何差异？
Safety Must Survive Self-Improvement: Why Failures Persist and How Agents Recover
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：公式只在当前有效集合内取最高分；集合为空就走founder rollback。继续使用已失败incumbent会绕过当前验证；回滚是恢复协议，并不自动证明founder在任意新条件下绝对安全。
教学例子：评分最高的候选若当前验证失败，也不能因为过去领先而留在执行位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
Safe Self-Improvement 为什么区分下一轮编辑源与当前运行实现？
Safety Must Survive Self-Improvement: Why Failures Persist and How Agents Recover
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：一个程序可以提供有用的编辑起点，却不满足当前执行条件。方法将检测、当前可执行选择、下一轮编辑源分开，所有候选对当前条件重新验证，防止历史通过记录掩盖现在的失败。
教学例子：旧版本的某段代码值得借鉴，不代表整个旧版本今天仍可直接运行。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么记忆入库时安全，不能保证其内容在工具执行时有 authority？
PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：入库检查只处理当时内容，执行还要根据认证请求限制实际副作用，并追踪输入来源是否可信。provenance 与 authority 同时满足才放行，避免不可信记忆借合法工具越权；文本声称被授权不能代替系统认证，也不能只在写库时检查一次。
教学例子：例如网页文字被存入记忆后要求删除文件，入库未发现危险不代表用户授权删除；执行前仍须核对 effect 和来源。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
PACE 可以先执行工具，再用日志补做 gate 吗？
PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不能。pre-effect gate必须在副作用前得到完整effect集合并与authority、provenance比较；事后记录只能审计，无法撤销已发生的影响。本地仅执行选择协议，不运行系统工具或浏览器。
教学例子：邮件已经发送之后才发现来源不可信，已经失去执行前阻断的作用。
依据：背景与主要改动、核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
PACE 的 capability 检查与 provenance 检查，能只选其中一个吗？
PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：允许条件是effect属于authority且provenance可信。权限范围约束能做什么，来源检查约束当前调用依据是否可信；满足一侧不自动满足另一侧，二者是合取而非替代关系。
教学例子：某工具通常允许读文件，也不代表来自不可信页面的这次读请求应被放行。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
PACE 为什么在工具副作用发生前检查能力与来源？
PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：资料入库时可信，不表示当前调用有权执行所有动作。方法根据认证请求形成authority，并结合输入provenance在每次effect发生前检查，防止低信任内容扩张执行权限。
教学例子：网页里出现“发送文件”文字，不等于用户已授权发送文件。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
模型宣称完成后，为什么还要重新注入原任务与计划并检查产物？
Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks
问答新增：2026-10-27 · University of Science and Technology Beijing
展开答案与例子
答案：长轨迹中模型可能遗忘目标或把动作执行当成最终交付，重新对照原始要求能发现缺文件、缺验证和提前结束。循环检测与有限格式救援解决运行故障，不是直接提升基础模型知识；字节预算也必须按实际 UTF-8 计算，不能用字符数替代。
教学例子：例如模型成功创建文件后说完成，但原任务还要求生成测试报告；回看原任务才能发现产物清单尚未满足。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
重复调用签名与 prefill 预算分别怎么精确计算？
Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks
问答新增：2026-10-27 · University of Science and Technology Beijing
展开答案与例子
答案：签名由工具名和规范 JSON 参数组成，参数顺序不同仍视为同调用，第六次重复在执行前拦截；连续十五次无输出也触发纠偏。prefill 按 UTF-8 字节而非字符计，JSON 救援只解析注册工具、不 eval；本地非完整 GUI 产品或沙箱。
教学例子：例如两个 JSON 仅键顺序相反不应绕过重复检测；一个汉字通常占多个 UTF-8 字节，按字符数会低估输入预算。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
domain 路由与扁平 schema 相比把全部工具原样放入上下文，有何取舍？
Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks
问答新增：2026-10-27 · University of Science and Technology Beijing
展开答案与例子
答案：路由先缩小工具域，参数过多时保留 required 降低小模型格式负担，减少无关接口干扰；但 optional 参数有时影响任务语义，不能随意删必需约束。该方法改变 harness 输入与恢复，未创造新的基础模型结构。
教学例子：例如一个工具十个参数中两项必填，可先展示简化接口；若用户明确要求某可选过滤条件，仍须正确处理其需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
MingBird 为什么专门关注小模型完成多工具长任务的困难？
Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks
问答新增：2026-10-27 · University of Science and Technology Beijing
展开答案与例子
答案：小模型的上下文、工具理解与错误恢复能力都有限，把全部接口和长历史一并输入容易增加负担。MingBird 将工具组织、执行循环和完成检查纳入系统设计，帮助策略在受限资源下推进任务。流程组件存在并不表示小模型已能可靠完成任意长程工作，仍需真实产物核验。
教学例子：教学例：任务横跨文件和数据库，小模型先面对相关工具域，再逐步执行并检查交付文件，而不是一次读完整目录后宣布完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么读取时先按问题时间过滤，比事后提醒模型“别用未来信息”更可靠？
Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：未来文档一旦进入上下文，模型即使被提醒也可能利用其中线索。先做时间资格过滤，让 lexical 与 semantic 排名只作用在当时可见资料上，直接控制信息边界；原文、日期与作者完整保留还支持事后追溯，但不等于检索总能找到正确记录。
教学例子：例如回答三月时的组织决策，四月公布的调整不能进入候选，即使它与问题高度相似，也不能用于解释当时已知事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地全量写入与混合检索验证是否运行了 OrgMemBench 或外部 embedding 服务？
Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：没有。本地只执行原文保留、as-of 过滤和词法语义排名组合 reference，三 seed 输出验证机制不变量。原文组织记忆效果属于作者 benchmark，不能将本地预设向量或固定记录结果写成真实长期组织助理收益。
教学例子：例如输入未来记录后确认它被过滤，可验证时间规则；没有真实组织问答与编码器时，不能计算可比的 OrgMemBench 能力。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
Mem++ 为什么同时保留词法排名与语义排名，而不只依赖一种相似度？
Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：词法检索擅长精确名称、编号和原句，语义检索可覆盖改写或用词差异；融合排名让两类信号共同决定候选。它们都只在时间合格的原记录内工作，融合不能制造不存在的事实。不同排名可能返回重叠或冲突证据，最终回答仍须检查记录内容与来源。
教学例子：教学例：查询含工单号时词法可直接命中；用户只说“上次数据库故障”时语义可能找到写作“存储服务中断”的记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
Mem++ 的非破坏写入为什么同时保留日期和作者？
Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：原文内容提供事实，日期支持 as-of 查询与版本判断，作者保留来源责任和语境。写入不调用模型不可逆重写，因此后续问题可重新解释原记录；存原文仍不保证检索正确，也需要管理更多存储与读取成本。
教学例子：例如同一政策被两人在不同日期更新，保留日期和作者才有机会区分旧建议与后来正式通知，而非把两者压成一句混合结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
提供“后继状态新出现的可用动作”，比只给下一观察多了什么？
Code Owns the Simulation, Jev Owns the Evaluation
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：下一观察描述眼前变化，新动作集合则揭示该步打开了哪些后续通路，有助于比较短期无收益但长期有价值的动作。代码在克隆状态中负责真实模拟，决策模型只评公开后果；模拟器 reward 或正确计划不能作为偷偷提供给评分器的答案。
教学例子：例如拿到钥匙暂时没有完成任务，却新增“打开侧门”的合法动作；看见这一机会才能评价取钥匙的长期意义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
fork 返回不同对象是否已经足以保证分支隔离？
Code Owns the Simulation, Jev Owns the Evaluation
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：不足。深层可变状态、随机数生成器和外部资源也要隔离，不能因对象身份不同就共享真实文件或模拟状态。step 只返回可观察字符串，reward、gold plan 和成功标签不传给决策器；选择结果还需属于合法候选，并由调用方执行。
教学例子：例如两个浅拷贝共享同一背包列表，在副本拿钥匙会修改真实背包；这种实现虽有不同对象，仍破坏前瞻隔离。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
与纯语义动作打分相比，一步模拟增加什么信息而仍不保证最优？
Code Owns the Simulation, Jev Owns the Evaluation
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：语义打分主要依据动作名称与任务描述，一步模拟额外给出下一观察和新可用动作，可揭示解锁后续机会。它仍只前瞻有限一步，评分模型也可能误判，因此不能把新增动作列表当完整长期规划 oracle。
教学例子：例如“拿钥匙”看似不接近终点，但模拟后出现开门动作；若门后还有未知障碍，一步信息仍不能保证最终成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
代码模拟和模型评价在 lookahead 中分别承担什么责任？
Code Owns the Simulation, Jev Owns the Evaluation
问答新增：2026-10-27 · The Chinese University of Hong Kong
展开答案与例子
答案：代码在当前状态的独立副本执行合法动作，产生实际后继观察；模型比较公开后果并选择动作。分工减少仅凭文字想象环境变化的错误，但依赖模拟器正确隔离与忠实转移，选择函数本身不应擅自改变真实环境。
教学例子：例如打开抽屉先在副本中检查出现了什么，再决定是否真实打开；评分器不负责凭空编造抽屉内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么结构感知 role credit 要看 workflow 拓扑，而不是把终局回报平均给所有角色？
It Takes Workflows to Evolve Better Workflows
问答新增：2026-10-27 · William & Mary
展开答案与例子
答案：不同角色的位置与下游影响不同，平均分配掩盖了某个无效节点或关键上游。拓扑权重把有效性和后继关系纳入分配，使单角色改进与上下游协同共享控制框架；这种分摊仍是信用规则，不等于已识别各角色的真实因果贡献，须用执行对照检验。
教学例子：例如检索者的错误传给三个下游，修复它可能比润色末段更重要；拓扑能提示这种传播范围，而非按人数平分奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
valid_i(1+children_i) 的实现需要核对什么，本地没有完成什么？
It Takes Workflows to Evolve Better Workflows
问答新增：2026-10-27 · William & Mary
展开答案与例子
答案：应让无效角色权重为零，并按全部有效权重归一化，检查信用守恒及无有效项边界。当前本地只执行这个分配算子，不生成 workflow、不训练 Qwen3.5 或运行 DataWright；结构统计通过不能当多 Agent 共同进化能力提升。
教学例子：例如一个无效节点有十个孩子也不应因拓扑大获得信用；若所有节点无效，要显式处理而不是除以零。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
单角色自进化、上下游协同与多角色共同进化，各改变哪些参与者？
It Takes Workflows to Evolve Better Workflows
问答新增：2026-10-27 · William & Mary
展开答案与例子
答案：单角色更新把其他参与者固定，便于观察局部变化；上下游协同关注依赖接口，多个角色共同变化则可调整整体配合，但更难区分收益来源。FlowRight 用统一工作流和信用表达支持这些范围，不能把某一范围有效直接推为所有联合更新都有效。
教学例子：教学例：只改写作者与同时改检索者和写作者，可能需要不同验证；后者也许适配了新证据格式，不能只归功于写作能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
多 Agent 工作流只在末尾得到结果时，为什么很难知道该改进哪个角色？
It Takes Workflows to Evolve Better Workflows
问答新增：2026-10-27 · William & Mary
展开答案与例子
答案：终局成败由多个角色及其依赖共同形成，把同一奖励发给所有人会掩盖谁真正推动或阻碍了流程。FlowRight 研究利用工作流结构组织角色信用，支持不同范围的协同改进。结构权重是一种归因规则，不是每个角色真实因果贡献的直接测量。
教学例子：教学例：检索者找到证据，写作者却误读结论；若只给所有角色同一失败分数，后续更新可能连有效检索习惯也一起改坏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么定位 decisive error 要保留依赖传播子图，而不是只标最后一个失败动作？
DeFA: Dependency-Guided Failure Attribution for LLM Agents
问答新增：2026-10-27 · Qwen DianJin Team, Alibaba Cloud Computing
展开答案与例子
答案：最后失败可能由早期错误事实、参数或跨 Agent 消息导致，逆向依赖把责任源和受影响节点连接起来。协议关系提供结构，语义依赖补信息流，二者结合才能更具体解释传播；启发式最大错误分仍需证据，不是自动获得完整因果证明。
教学例子：例如最后部署失败来自最早读取了旧配置，单责怪部署命令会漏掉源头；传播图可指出旧字段怎样一路传到错误参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
DeFA 构建传播图时，为什么不能只保存事件文字而丢弃依赖与责任？
DeFA: Dependency-Guided Failure Attribution for LLM Agents
问答新增：2026-10-27 · Qwen DianJin Team, Alibaba Cloud Computing
展开答案与例子
答案：公式候选集由Ancestor(V)决定，缺边会漏掉上游来源，错边会引入无关事件。应保留protocol/语义依赖、事件ID、error量与responsible agent；本地不读gold plan也不运行多模态judge。
教学例子：两个Agent先后写文件，必须知道失败消费了哪个版本，才能追到相关写入。
依据：背景与主要改动、核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
DeFA 的 decisive error 选择，与直接挑最后一次报错有什么区别？
DeFA: Dependency-Guided Failure Attribution for LLM Agents
问答新增：2026-10-27 · Qwen DianJin Team, Alibaba Cloud Computing
展开答案与例子
答案：文档在违规节点的祖先集合内按error量选择，并保留责任及传播关系。最后事件仅是时间位置，未必承载导致失败的依赖；图上选择仍依赖输入关系与error定义，不等于独立因果证明。
教学例子：最后的重试超时可能只是结果，真正决定性错误在更早生成的错误参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
DeFA 为什么要从最终违规沿依赖边反向追踪？
DeFA: Dependency-Guided Failure Attribution for LLM Agents
问答新增：2026-10-27 · Qwen DianJin Team, Alibaba Cloud Computing
展开答案与例子
答案：最终报错节点可能只是上游错误传播的受害者。方法结合protocol关系与语义依赖形成事件图，逆向寻找来源并保留下游传播子图和责任Agent，帮助区分触发位置与决定性错误。
教学例子：部署失败源于更早写错配置，最后一个执行部署的Agent未必是错误源。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么不能因某条记忆经常出现在失败任务中，就直接把它删除？
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
问答新增：2026-10-27 · Illinois Institute of Technology
展开答案与例子
答案：困难任务本来更可能检索特定记忆，关联成败含选择偏差。均衡随机曝光为处理和对照提供可比样本，再用标准误保护不确定条目；固定槽位下替换一条也改变其他记忆分布，因此估计的是该设计的净效应，不是孤立记忆的普适加性价值。
教学例子：例如故障手册总在最难事故中被调用，成功率低可能因为事故难；随机控制曝光后才能判断它是否真的有害。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
固定 k 曝光槽为什么使效应不能直接视作独立加性系数？
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
问答新增：2026-10-27 · Illinois Institute of Technology
展开答案与例子
答案：多曝光一条记忆意味着固定槽内其他记忆的分布也变化，处理效应包含该随机设计下的替换净影响。设计每行 k 条、各列次数近似均衡，估计还需每臂至少两个观测；本地合成效用恢复不是跨 query 长期策略或真实答题准确率。
教学例子：例如总共两个槽，加入甲会挤走其他候选，观察收益是“甲替代某些内容”的净效应，而非凭空新增甲的孤立贡献。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
保护不确定记忆与按估计均值为负就删除有什么差别？
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
问答新增：2026-10-27 · Illinois Institute of Technology
展开答案与例子
答案：均值负但方差大、样本少时，真实效用可能仍为正，贸然删除有代价。CMP 的决策结合标准误与非对称删除代价，支持不足拒绝估计，无限不确定性返回 noop；它不是把每次负反馈都转成永久遗忘。
教学例子：例如处理组两次恰好失败不足以证明有害，宽不确定性应促使继续保留或收集证据，而不是立即删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
清理记忆库之前，为什么需要知道一条记忆对执行究竟有何影响？
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
问答新增：2026-10-27 · Illinois Institute of Technology
展开答案与例子
答案：记忆会占上下文，也可能提供帮助、干扰或只是无关，删除决策需要其对结果的效用证据。CMP 关注怎样通过检索曝光实验使这种效用可估计，并在证据不足时谨慎保留；它研究的是固定设计下的记忆干预，不是按出现频次整理档案。
教学例子：例如两份旧指南都很常用，一份帮助恢复错误，另一份只是重复背景，只有使用结果对照才能支持不同的保留决策。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
显式 unresolved requirements 为什么比只保存一段历史摘要更容易检测停滞？
Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：历史摘要描述做过什么，未解决要求则提供任务进度的可比较目标。连续动作若未减少这些要求，就可识别在相似状态间打转，并触发针对缺口的恢复；这不是把动作数当进展，事实与未完成要求也须随真实观察更新，不能凭模型自信划掉。
教学例子：例如 Agent 重复搜索五次却始终没确认日期，未解决列表仍有“核实日期”，系统就能发现忙碌并未带来目标推进。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
Δ|unresolved|≥0 的信号能直接证明任务无解吗？
Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不能。它只标记该窗口未减少未决项，可能是必要准备、证据缺失或更新器错误，应触发针对性恢复而非宣布无解。本地仅执行 belief 更新与停滞检测，没有外部工具环境或 learned 状态抽取，规则触发不能当成长程任务成功率。
教学例子：例如准备身份验证暂未减少要求，但为下一步查询创造条件；把一次停滞信号直接当失败会过早终止合法路线。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
Belief Trapping 与单纯动作重复检测有什么不同？
Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：动作重复看表面行为相同，belief 停滞看任务未决要求是否减少。不同动作可能一直围绕同一无效假设打转，而同一查询在状态变化后也可能有用；因此进展诊断不应只按动作字符串判定，仍需正确维护要求与事实。
教学例子：例如换三个搜索词都未确认付款状态，动作不同但任务仍停滞；稍后重新查询状态可能因交易完成而真正有进展。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
显式 belief 为什么同时保存 facts 和 unresolved requirements？
Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：facts 描述当前相信的世界状态，unresolved 描述尚未满足的任务要求，二者分别回答“知道什么”和“还缺什么”。只保存历史文字可能让 Agent 重复行为却以为有进展；显式要求集可辅助检测停滞，但其更新仍需证据支持，不能凭自信删掉要求。
教学例子：例如已知用户地址属于事实，尚未确认库存属于未决项；多次重读地址并没有减少库存这个缺口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么 judge 要把压缩时机、摘要内容和下一步动作放在一起纠错？
AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：三者相互影响：过早压缩会丢证据，摘要遗漏会诱发错误动作，正确摘要也可能被后续行为浪费。联合纠错后直接把结果放回环境，训练才能看到这套决策的实际后果；仅评价摘要是否流畅，无法判断它对长程编码任务是否足够。
教学例子：例如马上要修改某接口时，摘要若漏掉参数限制，即使文字清楚也会导致下一步改错；judge 应同时修正记忆和动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
judge 修正三元组后，环境应该执行原动作还是修正动作？
AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：应执行纠正后的决策、摘要和动作组合，否则训练记录与实际后果不一致。SFT 加结果 RL 需要基于真实执行反馈，本地只验证三字段原位纠错合同，没有训练 Coding Agent 或运行 SWE 容器，不能将字段测试说成代码修复效果。
教学例子：例如 judge 将“立即提交”改为“先跑失败测试”，若环境仍提交旧动作，后续奖励就不能归到修正后的策略上。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
学习压缩时机与固定到长度阈值就压缩有什么取舍？
AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：固定阈值只响应容量，不能判断当前是否处于容易丢失关键承诺或未完成操作的节点；学习决策可结合任务状态，但需要可靠监督且可能判断失误。不能只看上下文缩短比例评价，应同时看后续真实编码任务结果与成本。
教学例子：例如工具结果刚返回、尚未写入结论时压缩风险较高，等状态明确后再压缩可能更容易保留必要信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长程编码 Agent 为什么不能等到上下文彻底装满才考虑压缩？
AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：编码过程中还有未完成修改、测试反馈和待交付要求，压缩时机不当可能正好丢掉下一步需要的状态。AutoCompact 把何时压缩以及怎样继续工作作为可学习决策，目标是在上下文压力下保持任务连续性，而非仅让文本变短。
教学例子：例如刚看到一份失败测试但尚未整理原因时就强制压缩，可能漏掉关键报错；合适时机要结合当前工作进度判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
失败模式作为非平稳 bandit arm，为什么必须允许发现新场景并重访旧弱点？
ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
问答新增：2026-10-27 · POSTECH
展开答案与例子
答案：harness 修复后旧失败的收益会变化，固定课程可能不断测试已经解决的问题，又漏掉新暴露的缺陷。控制器用价值与探索项安排预算，周期性引入未见场景，保持发现和验证两种需求；次数或优先级只是课程信号，不能当模型能力指标。
教学例子：例如超时问题已修好后应降低重复练习，但仍偶尔复测防回退，同时探索此前没有覆盖的权限错误场景。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地动态 arm 调度是否包括 AutoSaddler 的真实修复链？
ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
问答新增：2026-10-27 · POSTECH
展开答案与例子
答案：不包括。本地只执行失败 arm 创建、探索利用和优先级更新，没有调用 AutoSaddler 或真实 GAIA2、Terminal-Bench。观察次数和选择权重验证调度规则，不能用合成反馈声称 harness 已被修好，真实 rollout 成本也仍须另计。
教学例子：例如人为降低某 arm 收益后选择次数减少，说明控制器响应变化；它没有证明任何实际工具失败被解决。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
固定难题采样与修复后动态调整失败优先级，面对的回报是否平稳？
ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
问答新增：2026-10-27 · POSTECH
展开答案与例子
答案：固定采样通常沿用预先设定的难度或频率，而修复会改变旧失败模式的价值：曾经常错的场景可能不再值得反复投入，新缺陷又可能出现。动态调度要跟随这种非平稳反馈更新，不能把历史失败率永久当作当前收益，也不保证每次再访都有新信息。
教学例子：教学例：解析器问题修好后，原难例已连续通过，继续占满课程会浪费预算；新发现的认证问题可能更值得安排。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
有限修复预算下，ActiveSaddler 为什么需要选择下一批该暴露哪类失败？
ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
问答新增：2026-10-27 · POSTECH
展开答案与例子
答案：harness 不可能对所有场景同时做同等深入修复，反复只测熟悉问题又会漏掉新弱点。ActiveSaddler 把训练课程当作动态决策，利用已有失败和修复反馈安排后续任务。选中困难场景只提供学习机会，不表示修复已实现，也不能把调度计数当成真实能力增长。
教学例子：教学例：文件编辑故障已多次修好，浏览恢复问题刚出现；课程需要决定继续验证旧问题还是拿预算探索这个新故障。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GEAR为什么把码本写成共享正交基，而不是任意更新每个码向量？
Generative End-to-end Ad Retrieval at Douyin
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：共享基使码本变化受到整体几何结构约束，便于在更新中保留较稳定的表示关系；层级生成仍负责粗到细选择，碰撞组再交给上下文重排区分。结构化码本不自动消除碰撞，也不能代替推荐目标训练。本地只验证量化、状态与梯度组件，不支持将其说成完整广告检索收益。
教学例子：多个码共享一套坐标基，更新更像有组织地调整坐标而非各自乱漂；两件广告若仍落在同一码，必须根据当前用户再排，不能只返回一个固定热门广告。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GEAR 计算 zB 与回映射时，为什么要统一行向量约定并检查 B 的正交性？
Generative End-to-end Ad Retrieval at Douyin
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：投影、最近码选择和从坐标回到原空间需要一致转置，方阵形状相同也可能写反。B 的正交误差、残差量化和碰撞候选映射应分别核验，不能用一个 loss 代替全部。来源诊断范围不包含生产生成器规模效果。
教学例子：若先按行向量乘 B，重建却又乘同一方向而非对应逆变换，数值可运行但坐标没回去；应拿已知向量验证往返。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GEAR 的碰撞 reranker 与无限扩大 codebook，相比怎样分配区分能力？
Generative End-to-end Ad Retrieval at Douyin
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：大码本尝试在离散地址直接区分更多物品，reranker 允许有限码内先共组，再按用户上下文细分。后者节省离散容量却增加桶内计算和召回限制，二者没有无条件优劣。来源本地仅验证机制状态，不能拿正交误差或碰撞展开当推荐质量证据。
教学例子：两件同码相机由用户用途再选，而非为每件都分独立大词表编号；桶太大时精排成本也会增长，不能只说短码总便宜。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GEAR 的 BasisVQ/BasisRQ 为什么把码表示为共享正交基上的坐标？
Generative End-to-end Ad Retrieval at Douyin
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：共享基使更新可在统一结构内协调，正交性约束旋转，码字不再完全独立任意漂移。分层生成提供候选地址，碰撞组再用上下文精排。正交基并不保证语义独立或无碰撞，仍需检查量化与排序两个阶段。
教学例子：像共用一套坐标轴表达各商品，转动基可一致调整布局；即使坐标系统稳定，两件近似商品仍可能落入同一码桶。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
T2SPO成功终止把后继距离置零，为什么失败终止却把步骤进展直接置零？
T2SPO: Trajectory-to-Step Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：成功终止确实到达目标，距离归零表示完成；失败结束只是无法继续，若同样当作到达成功，会制造虚假正进展。距离估计来自历史成功支持集，本轮先完成评分再更新历史，避免自我泄漏。时间截断还需按所用GRPO或PPO语义分别处理。
教学例子：代理因工具耗尽而退出，并不意味着离成功只差零步；若把退出统一当作成功终点，最后一个失败动作可能被错误奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
T2SPO本地optimizer=ppo是否已包含完整PPO训练器？
T2SPO: Trajectory-to-Step Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：没有，该开关只改变信用的截断语义，未实现critic与GAE。GRPO对截断信用置零，PPO语义用真实后继预测；支持标准化和SVD仅在历史支持集拟合。
教学例子：例如切换字符串参数不会自动产生value模型，不能报告PPO能力已接入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
距离改善信用与只奖励最终成功有何互补？
T2SPO: Trajectory-to-Step Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：相邻距离变化可指导中间步骤，轨迹奖励仍评价最终结果；预测距离有误时需mask和缩放限制。TabPFN预测误差不是任务成功率，也不能代替真实环境评测。
教学例子：例如某动作明显接近目标却未终局完成，可得过程线索，但仍需最终验收。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
T2SPO为什么用成功轨迹剩余步数估计距离？
T2SPO: Trajectory-to-Step Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：距离提供比终局成败更密集的进度信号，成功历史中的状态与剩余步数可作为支持集，让冻结上下文内预测器评估新状态离成功多远。失败不能伪标为接近成功。
教学例子：例如一个成功路线中还剩三步的状态，为后续距离预测提供监督例子。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SHARPO借同组成功轨迹重评segment，为什么仍用有界因子缩放原GRPO优势？
SHARPO: Segment-Level Credit Assignment for Agentic Reinforcement Learning
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：成功轨迹为同一学生前缀提供额外教师上下文，segment内师生log-prob差反映局部支持差异。有界缩放限制这种自蒸馏信号对原优势的放大，不把教师评分直接变成无限新奖励。成功上下文仅用于训练评分，不是给推理Agent展示gold计划。
教学例子：同一失败轨迹中的检索段可能接近成功策略，而汇总段偏差较大；按segment调信用，比整条回答统一放大更细。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SHARPO的segment边界与gold plan访问有什么要求？
SHARPO: Segment-Level Credit Assignment for Agentic Reinforcement Learning
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：师生差按同一交互段平均后广播，不能混入工具观察或错接分段。当前本地执行段信用，未读取gold plan也未训练7B智能体，不能把固定片段核当完整能力。
教学例子：例如一轮工具调用和下一轮答复若被拼错，平均差就不再对应原段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
SHARPO有界乘法与直接相加教师优势有何差别？
SHARPO: Segment-Level Credit Assignment for Agentic Reinforcement Learning
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：二倍sigmoid位于零到二之间，缩放保留原优势符号；相加项可能翻转正负。它调整强度而非重新决定终局好坏，零优势也不会凭缩放变非零。
教学例子：例如原失败段仍为负，只是惩罚程度变化，不会因教师偏好变成正奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SHARPO为什么以成功同组轨迹作为教师上下文？
SHARPO: Segment-Level Credit Assignment for Agentic Reinforcement Learning
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：组内成功示范提供当前任务可用指导，在环境交互段内比较师生logp，调节该段原GRPO优势。教师信息用于训练信用，不是评测时读取标准计划。
教学例子：例如同题一条成功路线可提示学生某段行为值得加强，但不直接塞进部署提示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
为什么 drafter 要在自己提出 token 后的 shifted trajectory 上训练？
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：草稿会把系统带到自己的前缀分布，始终在教师理想前缀训练会掩盖这些偏移。移位后的轨迹让监督与实际提议后的状态对齐，多层教师状态混合再提供压缩视觉信息；草稿是否被接纳仍须目标模型验证，不能靠训练损失替代接受率测量。
教学例子：例如草稿第一步选了另一种说法，第二步就应在这个真实前缀上学习目标分布，而非假装第一步与教师完全相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
多层混合与 shifted target 的本地验证包含专用解码 kernel 吗？
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不包含。层权重经过 softmax 后对 target 隐状态加权，监督目标来自移位后的 target 分布，并要保持目标路径隔离。本地只验证该混合及目标隔离，不含完整投机验证循环或专用 kernel，因此不能用算子通过声称端到端无损提速。
教学例子：例如三层混合权重和为一可检查表示计算；它没有测量一次实际生成能接受几个草稿 token 或节省多少时间。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
HAWK学习混合target多层状态，与固定只取最后一层给drafter，有何接口区别？
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：HAWK以softmax归一化的可学习层权重组合target各层隐藏状态，drafter接收的是这种混合表示；只取末层相当于固定选择一个来源。层权重总和为一并不等于每层贡献相同，也不能由混合存在就断言接受率或端到端速度已提高。
教学例子：某层权重较高说明该层状态在接口里占更大份额；这不是把所有层拼接成更长token序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
HAWK 的 target 与 drafter 在投机解码中分别负责什么？
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：drafter 用较低成本提出候选 token，target 负责验证候选并保持最终生成分布的约束。HAWK 从 target 多层隐藏状态学习压缩表示供浅层 drafter 使用，重点是提高有效提议，而不是把 drafter 当作无需验证的替代大模型。
教学例子：例如浅层模型一次提出几个词，大模型统一检查能接受多少；草稿更准可减少浪费，但未被接受的词不能直接当最终输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么 mutator 生成的 coding rule 不能依据生成者自评直接回写？
Self-Evolving Coding Rules for AI Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：规则看似合理可能只适合少数样例，甚至损害旧行为。隔离 validation evaluator 对候选池和变体统一测量，再选择回写，把提议与接纳的依据分开；用于选择的数据也已属于开发反馈，最终测试不能继续交给 mutator 反复调整。
教学例子：例如新规则要求所有函数都重试，文字上强调鲁棒性，却可能让非幂等调用重复执行；独立验证才能发现这种退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 mutation 后选择能否称为 LLM 规则进化已运行？
Self-Evolving Coding Rules for AI Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不能。本地仅验证候选变异后的 validation 选择，不调用 LLM mutator 或完整 Coding Agent。argmax 在给定真实分数上正确是控制流证据，若分数来自 fixture 就不能解释为代码质量；旧规则和失败候选也应保留审计。
教学例子：例如三个预设候选分数中选最大，只证明选择器；没有模型提出规则、实际修代码，就未验证整条自进化路径。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
维护规则候选池与每次立刻覆盖唯一规则，在搜索和回退上有何区别？
Self-Evolving Coding Rules for AI Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：候选池让多个版本在相同评价口径下竞争，旧规则可作为比较和保留对象；立即覆盖把提案直接变成运行状态，失败后可能丢掉可用基线。候选池并不自动提供正确裁判，仍需隔离 evaluator，且不能用候选数量替代真实工具任务效果。
教学例子：教学例：一条新规则更重视搜索、另一条更重视测试，可先保留两者比较；若每次生成即覆盖，就难区分是哪次修改造成退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
RuleEvolve 为什么把 coding rule 当作可以检验和迭代的开发经验？
Self-Evolving Coding Rules for AI Coding Agents
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：编码 Agent 的工作规则会影响反复发生的定位、编辑和测试行为，手写一句建议未必适合当前任务分布。RuleEvolve 研究从规则变体中选择有实际证据的版本，使经验能持续修订。规则文字更详细不代表执行更好，选择还需隔离验证，不能依生成者自信直接回写。
教学例子：教学例：新增“修改前先查调用点”的规则后，要看是否在相同开发任务上帮助修复，而不只评判这句话听起来是否合理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
append-only 原始 turn 与可检索 segment summary 为什么要分开保存？
MemFit: Efficient Long-Term Agentic Memory
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：摘要适合建立紧凑索引，却可能遗漏细节；原始记录不改写，使后续精读仍有可追溯依据。写入不反复调用昂贵模型重构全部历史，读取再融合词法、语义和重排信号；索引命中只是入口，不能把摘要缺失的内容当成从未出现过。
教学例子：例如摘要只标“讨论支付接口”，搜索后仍能读原始 turn 找到确切超时值；若只保留摘要，该数值就可能不可恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 hybrid retrieval hook 能否表示已运行 embedding 与 cross-encoder？
MemFit: Efficient Long-Term Agentic Memory
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：不能。hook 只是接入词法、语义和重排信号的接口，本地没有调用实际 embedding 或 cross-encoder。可检查追加不改写和排名组合，但语义分数若由 fixture 提供，不能据此声称真实长期对话检索质量或论文延迟已经复现。
教学例子：例如给三条记录预设语义分后排序正确，验证的是组合函数；尚未测试模型能否从自然语言算出可靠的这些分数。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
便宜写入与每轮用 LLM 重写长期记忆有什么取舍？
MemFit: Efficient Long-Term Agentic Memory
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：append-only 避免反复生成摘要的成本和不可逆改写，代价是原文规模持续增加，读取与索引承担更多筛选工作。LLM 写入可提前抽象，但可能遗失细节；应把写入成本、存储和最终读取质量一起比较，而非只看某一步调用少。
教学例子：例如保存一千轮原文很便宜，但后续必须从中快速找到一次更改地址；便宜写入不等于查询成本自动很低。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
MemFit 为什么特别关注高频会话的记忆写入成本？
MemFit: Efficient Long-Term Agentic Memory
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：长期助理持续接收新 turn，若每次都调用昂贵模型重写整份记忆，尚未发生读取就已经花掉大量费用并可能改丢细节。MemFit 希望让写入轻量、原文可追溯，把查询相关的筛选放到读取阶段，同时面对原记录规模增长的检索问题。
教学例子：例如一天新增数百轮客服对话，很多内容此后不会被询问，逐轮做复杂语义重写可能比真正有用的查询还贵。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么保留多个动作分支，而不在第一次分布输出后立刻只留最高分？
JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：早期概率可能不准，多个组合动作保留了遇到反证时恢复的余地。新反馈对先验重新加权，后验应影响后续探索而不是回写过去的成功标签；分支数同时消耗预算，因此并行保留是风险与计算的取舍，不是自动穷尽所有可能。
教学例子：例如先保留“搜索资料”和“检查本地文件”两条路，搜索无结果后仍能转向已保留的检查分支，而不必从零重建计划。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
p(a)·exp(feedback) 更新后为什么仍需归一化与分支预算？
JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：乘法只给未归一化权重，必须除以所有候选权重和才能得到分布，再按有限预算保留分支。零先验分支无法仅靠这种乘法恢复，极大反馈也要注意数值稳定；本地仅验证有限后验和 top-branch retention，未调用 Jev checkpoint。
教学例子：例如两分支原概率各一半，反馈分别为零和一，权重变为一比 e，不能直接把后一项 e/2 当合法概率。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
保留分支与每轮重新独立采样方案，恢复机制有何不同？
JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：保留分支保存早期未选方案的概率和状态，反馈后可继续利用；独立重采样可能重复旧错误或丢失已有进展。分支保留也占计算和记忆，不能只因保留更多候选就声称成本更低，需在相同预算下比较。
教学例子：例如搜索分支失效后可转向已有文件检查分支；重新采样则可能又提出同一次无效搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
Agent 一条执行路线走不通时，JevSpawn 希望保留怎样的选择余地？
JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces
问答新增：2026-10-27 · 原文首页未列第一作者机构
展开答案与例子
答案：长任务的早期判断可能不准，若过早把预算押在唯一行动，遇到反证就得重新寻找方案。JevSpawn 关注自适应推理分配：把任务的可选行动组织成可保留的组合分支，再根据执行反馈调整投入；保留的是备选机会，不是保证穷尽所有路线。
教学例子：例如先检查本地资料或先联网搜索都可能合理，第一条路受阻后还应能接续另一条已准备路线，而不从空白计划重来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
RECAP-CTR 为什么共享递归 block 却平均多个 route 的预测，还保留训练轨迹 EMA？
Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
问答新增：2026-10-27 · Georgia Institute of Technology / Google Research
展开答案与例子
答案：单个大预测器可能仍缺少互补估计。共享递归结构用不同路径产生多个 logit，在控制参数开销的同时增加估计差异，推理平均降低单一路径波动；轨迹 EMA 则沿训练时间平滑参数。路径平均和时间平均作用于不同变化来源，但相关路径的收益有限，本地仅验证状态与算子不变量，不能冒充规模效果。
教学例子：同一共享 block 经两条递归路径得到略不同点击预测，平均可减小某一路径偶然偏高。EMA 另行平滑相邻训练步的模型，它不是又增加一个完全独立的模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
RECAP-CTR 的 EMA 状态为什么需要在训练与恢复时单独保存？
Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
问答新增：2026-10-27 · Georgia Institute of Technology / Google Research
展开答案与例子
答案：EMA 是跨步累积参数，恢复若丢掉会改变模型历史，不等于继续同一估计器。route 输出数量与平均分母也须一致，不能把缺失路径当零贡献。应分别核验递归共享、EMA 更新和导出模型，而非只用最终有限分数算全部机制通过。
教学例子：中断后直接将 EMA 重置成当前参数，会丢前几千步平滑；即使训练能继续，恢复后的曲线不再是原运行的无缝延续。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
route 平均与训练轨迹 EMA，为什么不能互相代替？
Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
问答新增：2026-10-27 · Georgia Institute of Technology / Google Research
展开答案与例子
答案：前者在同一时刻组合不同路径输出，后者沿训练时间平滑参数，减少的变化来源不同。路径共用参数时收益受相关性限制，EMA 也可能滞后新分布。来源本地仅不变量诊断，不可据平滑更稳定就宣称 CTR 或推荐能力提升。
教学例子：三路都同时偏高，输出平均仍偏高；时间 EMA 可抑某步异常，却不能弥补所有路线缺少同一类特征，两种平均都各有限制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
RECAP-CTR 平均 route 的 logit，与平均各 route 的点击概率是同一件事吗？
Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction
问答新增：2026-10-27 · Georgia Institute of Technology / Google Research
展开答案与例子
答案：不是。sigmoid 是非线性，先平均 logit 再变成概率，通常不同于先逐路变概率再平均。来源用 route logit 的均值，不能无说明替换运算顺序；这只是聚合定义，也不代表多个共享 route 是相互独立的完整模型。
教学例子：两路 logit 为零和四，先平均再 sigmoid 约零点八八；各自 sigmoid 后平均约零点七四，顺序变化会实质改变预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HELIX让序列状态流向候选混合token，为什么禁止候选反向写回共享序列？
HELIX: Purified and Unified - Rethinking Feature Interaction and Sequence Modeling for Large-Scale Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：单向依赖使昂贵的用户历史编码保持候选无关，从而一次请求内可复用于多候选；候选侧仍能在多层读取用户信息，保留深交互。若允许反向写回，序列状态就随候选变化，复用前提被破坏。本地只验证候选敏感性和缓存不变量，不代表已获得生产吞吐或推荐提升。
教学例子：评相机和鞋时共用同一份历史状态，各候选分别读取；若相机信息先改写了历史，再把该缓存用于鞋，就混入了另一候选，已不再是共享用户证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HELIX 本地为何同时检查候选 delta、user cache 不变与有限梯度？
HELIX: Purified and Unified - Rethinking Feature Interaction and Sequence Modeling for Large-Scale Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：候选变化应能影响输出，公共用户状态应不受候选变化影响，两项缺一可能分别表示候选被忽略或缓存污染。有限 loss 与梯度再检查训练可执行性。这些是不变量诊断，没有公开效果指标，不能把通过率当推荐质量提升。
教学例子：换两件商品分数完全相同可能没用候选；分数不同但 cache 也变则失去共享条件，两者都不能只凭前向成功算验收。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
HELIX 的单向跨分支通信与 WHALE 式双向交换，缓存条件有何差别？
HELIX: Purified and Unified - Rethinking Feature Interaction and Sequence Modeling for Large-Scale Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：HELIX 禁止候选条件 mix 写回公共序列，保持 user-only 状态可复用；双向交换可更充分共同演化，却会改变候选依赖。两者是信息与服务取舍，不能只按都有 cross-attention 就说等价，也没有来源支持任意场景效果排序。
教学例子：相机候选读历史后不改公共用户记忆，跑鞋可读同份缓存；若相机状态写回历史，跑鞋再复用就带入不该共享的候选信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HELIX 为什么同时扩展 sequence 与异构特征交互两条轴？
HELIX: Purified and Unified - Rethinking Feature Interaction and Sequence Modeling for Large-Scale Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：长历史和字段组合各含不同信息，单独扩大任一分支会遇到表示瓶颈。交错模块让候选混合状态在多层读取用户序列，结合两轴知识，同时保留用户状态候选无关。它不是两套模型末端简单拼接，交互方向也受缓存要求约束。
教学例子：用户历史揭示旅行兴趣，价格与设备字段逐层结合这些证据；只扩字段无法读取更多历史，只扩序列也未必学会异构条件组合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GRP的logged-target单边margin为什么只在原目标召回被牺牲时激活？
GRP v0.1 Technical Report
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：奖励优化可能把策略推向少数高分输出，同时降低原日志目标的概率。单边保护只惩罚超过容忍区间的下降，给新偏好改进留空间，又避免任意损伤基础召回；排序reward头停止梯度并冻结，也减少奖励与生成器相互追逐。本地仅验证目标与梯度组件，不能据此证明生产漏斗已被替换。
教学例子：新策略发现更有价值的候选且未明显损伤原目标时无需额外束缚；若只是把概率全部挪给一类高奖励物品，margin才对这种基础能力退化施加保护。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GRP 的 MHP 排序头为什么读取 stop-gradient 的生成表征？
GRP v0.1 Technical Report
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：排序损失若直接反传共享编码与 SID 路径，可能破坏生成器已有召回能力。stop-gradient 让头学习排序关系而不从该损失改写生成主干，后续冻结为 RL reward 时也需明确版本。只注册排序头却不检查梯度隔离，不能验证这一机制。
教学例子：改变排序头权重可调整其判断，但一次排序 BCE 更新不应让生成 SID 的主干梯度发生变化；可用独立梯度检查确认。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GRP 的单边 margin 与对称约束所有概率变化，相比保留哪类改进自由？
GRP v0.1 Technical Report
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：单边保护只在 logged target 相对参考下降超容忍区间时惩罚，不压制所有其他偏好改善；对称约束则连有益变化也可能限制。它防止牺牲已知目标，却不保证新奖励全面可靠。本地只检验 surrogate 目标与梯度，不是生产策略效果。
教学例子：新策略提高更优候选且原目标没明显下降时保护项不启动；若为奖励大幅抛弃原目标，才被拉回，而非任何变化都罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GRP 为什么采用逐步迁移推荐漏斗，而不是一次替换全部阶段？
GRP v0.1 Technical Report
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：成熟系统承担多种目标和风险，先以额外召回源接入，再替换弱源、增配额和逐步绕过排序，可阶段性观察影响。统一模型仍需保护原目标召回，不能将架构愿景当作已完成替换。不同阶段证据和业务权限也应独立。
教学例子：生成器先只占少量候选，验证后再扩大，不因一轮离线好分就删掉全部已有召回器和精排路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
CohortMix-TS为什么用固定强度的混合Beta先验，而不直接搬来历史群组的全部计数？
Challenges and Solutions for Bandits in the Wild: Warm-Started Mixture Bandits for Cross-Cohort Slate Recommendation
问答新增：2026-10-27 · DFKI / RPTU Kaiserslautern-Landau
展开答案与例子
答案：新用户可借相似群组的经验热启动，但历史样本规模若直接变成先验强度，会让个人新反馈长期无法改变判断。方法先混合群组均值，再用受控伪计数形成先验，并按个人曝光反馈独立更新。Thompson采样保留探索，不是永久按群组平均值确定推荐；本地只检验后验机制。
教学例子：群组有十万次反馈，新用户只有三次；若全部继承，三次反馈几乎不起作用。用固定先验强度，群体经验能引路，也允许个人兴趣逐渐接管。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
CohortMix-TS 更新 Beta 后验时，为何每位新用户应有独立计数并排除已曝光 slate？
Challenges and Solutions for Bandits in the Wild: Warm-Started Mixture Bandits for Cross-Cohort Slate Recommendation
问答新增：2026-10-27 · DFKI / RPTU Kaiserslautern-Landau
展开答案与例子
答案：群组先验只初始化个人状态，之后成功与失败应写入该用户对应 arm，避免一人反馈修改所有新用户。每轮在未曝光集合选 slate，才符合连续探索口径；没有曝光的 arm 不应凭空记失败。共享先验与共享后验是不同设计。
教学例子：甲点击喜剧只增加甲的成功计数，不能替乙也加一次；本轮未展示的动作片没有反馈，不应自动记成负例来压低它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
CohortMix-TS 的 Thompson sampling 与总选后验均值最高 arm，探索方式有何不同？
Challenges and Solutions for Bandits in the Wild: Warm-Started Mixture Bandits for Cross-Cohort Slate Recommendation
问答新增：2026-10-27 · DFKI / RPTU Kaiserslautern-Landau
展开答案与例子
答案：均值贪心忽略估计不确定性，Thompson sampling 从每个后验抽样，反馈少但潜力高的 arm 有机会被选中。随着数据增加不确定性下降，探索自然收敛。它并不保证每轮结果更好，来源本地只核验状态转换，不可据三种子诊断宣称推荐能力。
教学例子：甲均值略高且很确定，乙均值略低但样本少。抽样偶尔会让乙胜出以收集证据，贪心则可能永远不再尝试乙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
CohortMix-TS 为什么为新用户构造群组混合先验，而不是等待个人数据充足？
Challenges and Solutions for Bandits in the Wild: Warm-Started Mixture Bandits for Cross-Cohort Slate Recommendation
问答新增：2026-10-27 · DFKI / RPTU Kaiserslautern-Landau
展开答案与例子
答案：新用户反馈少，个人成功率极不稳定；元数据得到群组 membership，再混合历史各组对 item arm 的估计，为初始探索提供方向。固定先验强度控制借用多少信任，后续个体反馈可逐步改写。群组信息是起点，不代表同组用户偏好必然相同。
教学例子：新用户尚未点击，可按其元数据混合两个兴趣群组的电影成功率；获得几次个人反馈后，后验应开始偏离群体平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
The Weakest Link为什么前缀一旦违约就持续惩罚，不能靠后面的容易token把平均成本拉回来？
The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning
问答新增：2026-10-27 · Huawei Noah’s Ark Lab
展开答案与例子
答案：每个前缀都需满足教师成本约束，最终平均合格可能掩盖早期严重偏离。吸收惩罚阻止事后稀释，让关键链条受局部约束。反事实即时奖励只枚举真实访问前缀的当前动作，不能为每个候选编造不同历史；教师低概率仍不自动等于事实错误。
教学例子：先写一段极不受教师支持的错误推导，再追加很多常见词，可能降低整句平均成本；前缀约束不允许这样补票。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
枚举反事实当前动作时能为每个动作更换历史成本吗？
The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning
问答新增：2026-10-27 · Huawei Noah’s Ark Lab
展开答案与例子
答案：不能，都从真实访问前缀的已发生成本出发，只改变当前候选动作。即时奖励全词表期望可精确求导，未来回报仍采样；当前接口尚无完整语言模型训练。
教学例子：例如给不喜欢的动作另造一段更坏历史，会人为改变其反事实评价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
吸收惩罚与普通可恢复滑动平均门控有何不同？
The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning
问答新增：2026-10-27 · Huawei Noah’s Ark Lab
展开答案与例子
答案：吸收标记一旦为真持续有效，不因后续平均回落恢复；滑动门控则可能重新放行。它是严格前缀约束选择，不说明教师成本与真实任务价值完全一致。
教学例子：例如下一步写一个高概率词，不能把上一前缀的违规状态清除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Weakest Link为什么要求每个前缀都满足平均成本约束？
The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning
问答新增：2026-10-27 · Huawei Noah’s Ark Lab
展开答案与例子
答案：只看最终平均可先写坏推理，再靠后面容易词稀释。前缀约束首次违约后吸收惩罚，防止这种先破坏后补平均的策略。成本来自教师负logp。
教学例子：例如前半很不受教师支持，后半加大量常见词也不能洗掉已发生违约。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
SIPO为什么对同一学生rollout构造正负两份教师上下文，而不只给一份正确提示？
SIPO: Unifying Reinforcement Learning with On-Policy Self-Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：单份特权教师可能带有共享置信和风格偏差，正负上下文的log-prob对比尝试抵消共同部分，得到更聚焦的token证据。终局环境奖励决定主要方向，密集证据在位置间重分配；两份上下文都只用于训练评分，不能让学生原始采样读取gold。
教学例子：两种教师提示都偏爱礼貌措辞，只有涉及关键证据时支持不同；对比可减少把共同文风当作需要学习的主信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
SIPO组内reward全相同时还可能有token信号吗？
SIPO: Unifying Reinforcement Learning with On-Policy Self-Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：可能，对比教师中心化证据可非零，即便outcome优势为零。必须保证标准解只在教师或评分端，不能为获得这种信号先把gold喂给学生rollout。
教学例子：例如整组都失败，教师差异仍可定位一些方向，但不能宣称学生独立答对了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
SIPO对比教师与单份特权教师有何假设差别？
SIPO: Unifying Reinforcement Learning with On-Policy Self-Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：单份可能把所有高置信都当有益，对比希望提取与条件差异有关的部分。但正负构造不可靠时仍会误导，不是两份教师就等于独立验证。
教学例子：例如正负上下文只换无关措辞，差值不一定对应真实解题价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
SIPO为什么给同一rollout两份正负特权上下文？
SIPO: Unifying Reinforcement Learning with On-Policy Self-Distillation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：两种教师条件的logp差尝试抵消共享自信与风格偏差，形成更有区分的稠密证据；环境奖励仍提供任务方向，学生采样不读取这些特权信息。
教学例子：例如正负条件都偏好同一套口头禅时，差值可削弱这部分共同倾向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
RIDE把教师超过基座的hidden residual继续外推，为什么不是放大输出概率比？
The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：残差定义在逐层逐token表示中，是RL教师相对其pre-RL基座的变化方向；学生回归到基座加放大残差的目标。输出概率比没有保存这条内部表示路径，不能互换。教师和基座停止梯度，外推系数超过一也不保证超过教师能力，仍需独立任务验证。
教学例子：先比较同一模型RL前后某层表示的位移，再沿该方向延长；这与把教师更喜欢的输出词统一加大权重不是一回事。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
RIDE的teacher与base分支为什么都stop-gradient？
The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：目标应代表固定的RL变化，学生只回归这个目标；若两分支跟着更新，会让残差自身移动。层、token和表示维度还需对齐，不能任意跨层相减。
教学例子：例如学生误差通过教师分支反传会改变靶子，而非只改善学生。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
α大于一的表征外推能保证比教师更强吗？
The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：不能，线性方向超出教师点可能扩大有益变化，也可能离开可靠区域。它是构造目标的假设，需独立任务检验，不能仅因几何上更远就称能力递增。
教学例子：例如同一方向走过头可能破坏信息，超越坐标不等于超越表现。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
RIDE外推的是输出概率还是隐藏表征残差？
The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：每层每token比较RL教师与其pre-RL基座的隐藏差，再把基座加放大残差作为学生回归目标。它借的是RL表征变化方向，不是扩大logits比率。
教学例子：例如在某层把学到的方向再延长，而不是把教师最喜欢词概率乘常数。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RFPO冻结critic后，为什么还需要去长度偏置和二值化，不能直接最大化它的连续分数？
Unlocking the Critic: Reward-Free Policy Optimization for LLM Post-Training
问答新增：2026-10-27 · University of Luxembourg
展开答案与例子
答案：冻结只阻止critic参数继续变化，不能消除其评分偏差。策略仍可能通过冗长或其他捷径提高分数，因此方法对前缀成功估计去偏并二值化，同时把critic用于基线和未完成轨迹预报。reward-free不等于无监督来源，而是复用已校准critic提供信号。
教学例子：critic偏爱长推理，学生即使不更正确也可靠加长拿高分；固定critic之后，这个可利用的偏差仍然存在。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
RFPO为什么冻结critic，并区分未完成轨迹的预报？
Unlocking the Critic: Reward-Free Policy Optimization for LLM Post-Training
问答新增：2026-10-27 · University of Luxembourg
展开答案与例子
答案：冻结保证策略训练期间评价基准明确，未完成预报用于处理尚无终局结果的轨迹，不能冒充已验证成功。当前本地只执行去偏、二值奖励和GAE核，未训练长推理模型。
教学例子：例如截断轨迹的高成功预报要保留估计身份，不能直接标成真实答案正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
critic同时作奖励与baseline会带来什么额外风险？
Unlocking the Critic: Reward-Free Policy Optimization for LLM Post-Training
问答新增：2026-10-27 · University of Luxembourg
展开答案与例子
答案：两种角色共享偏差时，策略可能利用critic盲点。去长度偏置和二值化用于限制这种利用，但不能保证评价器不受攻击，也不能用critic自身得分证明真实能力提升。
教学例子：例如把冗长文字误判成更可能成功，策略就可能只学会拖长输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RFPO的reward-free是不是不需要任何质量信号？
Unlocking the Critic: Reward-Free Policy Optimization for LLM Post-Training
问答新增：2026-10-27 · University of Luxembourg
展开答案与例子
答案：它用已校准且冻结的critic预测前缀成功概率，替代训练时昂贵的外部终局奖励。监督被转移到critic而非消失，critic可靠性仍决定信号质量。
教学例子：例如未完成解答可获得成功预估，但这来自已有评价能力，不是凭空知道答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
PR-OPD为什么对同一response做普通与hindsight skill两次forward，而不是直接模仿技能文本？
PR-OPD: Privileged Representation On-policy Self-Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：skill是完成轨迹后得到的训练专属视图，目标是比较它怎样改变同一响应各层各token表示，再蒸馏到无skill学生。若改成复制技能文本或另一条教师答案，就换了监督对象。教师分支停止梯度，并与任务奖励结合，推理时移除skill和教师。
教学例子：失败复盘总结“先验证工具返回格式”，可以让教师借此重新解释旧决策；学生训练后应在没有这条提示时自己做出判断。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
PR-OPD逐层投影hidden对齐需注意哪些mask？
PR-OPD: Privileged Representation On-policy Self-Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：只对同一response有效词元和对应层处理，观察或padding不能算学生生成监督。skill来自已完成训练轨迹，不能把gold plan直接当自生成技能；本地核不代表完整Agent训练。
教学例子：例如教师多出的skill token不与学生response按原位置硬对齐。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
PR-OPD两次forward与把skill直接拼给学生训练有什么区别？
PR-OPD: Privileged Representation On-policy Self-Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：普通context学生与skill教师分开，教师stop-gradient；若学生也读skill，就改变部署条件并可能只学依赖提示。表征匹配也不等于输出答案监督。
教学例子：例如评测不再提供skill时，学生应靠参数，而非靠训练期额外文字。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
PR-OPD为什么蒸馏表征而非只对最终token分布？
PR-OPD: Privileged Representation On-policy Self-Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：hindsight skill让同一模型形成特权表示，逐层逐响应位置对齐投影hidden state，可传递内部结构信号，再与任务奖励结合。skill只供训练教师，推理去掉。
教学例子：例如成功后归纳的工具原则帮助教师内部表征，不直接成为部署输入。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OASIS为什么用最短已验证轨迹作scaffold，却可把另一条未验证尝试放进教师上下文？
Overcoming Scaling Limits in On-Policy Self-Distillation for LLM Reasoning
问答新增：2026-10-27 · North South University
展开答案与例子
答案：scaffold决定在哪条可信学生轨迹上监督，教师上下文决定额外参考什么，两者被刻意解耦。未验证尝试可以提供可比较思路，但不能自动成为正确解；没有任何verified rollout的题不产生该训练信号。只需最终答案验证，也不代表学生能读取gold solution。
教学例子：同题一条短回答已通过验收，另一条探索较长但未确认；可在短回答前缀上评分，同时让教师参考探索中的信息。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OASIS实现应在选scaffold前还是后按长度排序？
Overcoming Scaling Limits in On-Policy Self-Distillation for LLM Reasoning
问答新增：2026-10-27 · North South University
展开答案与例子
答案：必须先确认已验证资格，再从合格轨迹中取最短；先取最短后忽略失败会错选。teacher context与监督轨迹身份也需分别记录，不得把未来答案泄露给学生。
教学例子：例如最短回答只有一句错误结论，不应压过较长但确实通过验证的轨迹。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
OASIS没有gold solution，为何仍要求最终verifier？
Overcoming Scaling Limits in On-Policy Self-Distillation for LLM Reasoning
问答新增：2026-10-27 · North South University
展开答案与例子
答案：它依赖rollout中出现可验证成功，才能选scaffold；不需完整标准步骤不表示不需正确性检查。没有任何verified轨迹时不产生训练信号，而非自封一条为正确。
教学例子：例如多个答案都未验过，不能仅因最短就称它是有效scaffold。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OASIS为什么把scaffold与teacher context分开？
Overcoming Scaling Limits in On-Policy Self-Distillation for LLM Reasoning
问答新增：2026-10-27 · North South University
展开答案与例子
答案：监督位置选最短已验证轨迹，而教师上下文优先取另一条未验证尝试。何处学习与教师看到什么是两种选择，避免把两者机械绑定成同一标准解。
教学例子：例如用一条简洁成功路线定位监督，却让教师借另一尝试提供不同条件线索。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
MAESTRO为什么把top-k覆盖与Bhattacharyya相似度同时用于教师介入判断？
From Dissonance to Orchestration: Teacher Intervention in On-Policy Distillation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：覆盖衡量学生候选是否包含教师支持，归一化相似度再看共同支持中的质量分配，两者不能相互替代。分歧分数与靠前位置权重帮助集中有限教师介入预算。分歧高只是需要关注的线索，不保证教师一定正确，本地PDS算子也没有生成完整教师rollout。
教学例子：两模型top-k词完全相同，却给这些词很不一样的概率；只看候选是否重叠，会误判它们没有重要分歧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
MAESTRO本地是否真的生成教师接管rollout？
From Dissonance to Orchestration: Teacher Intervention in On-Policy Distillation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：没有，只计算top-k覆盖、归一化相似度和PDS。真实介入还需模型生成、状态衔接与成本统计；不能从分数核通过推断已获得论文教师调用节约。
教学例子：例如人工输入两份概率得到高分，不表示系统已执行一次教师帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
覆盖度与Bhattacharyya相似度为何要一起看？
From Dissonance to Orchestration: Teacher Intervention in On-Policy Distillation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：覆盖关心教师支持是否落在学生候选中，相似度关心共同支持内的质量分配；单独一个会漏掉另一类差异。高PDS不保证教师路线一定优质。
教学例子：例如候选身份都相同却权重完全相反，仍应视为有明显分歧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
MAESTRO为什么只在高分歧位置让教师介入？
From Dissonance to Orchestration: Teacher Intervention in On-Policy Distillation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：整段教师rollout昂贵，学生与教师top-k覆盖及相似度可定位更需要帮助的前缀，并偏重早期位置。介入策略是一种预算分配，不是所有分歧都等于学生错误。
教学例子：例如开头分叉可能影响长后续，比末尾标点差异更值得有限教师计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
LEGO-OPD为什么让语言专家给先验、视觉专家给似然，而不直接平均两个教师？
LEGO-OPD: Factorized Teacher Composition for Multimodal On-Policy Distillation
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：语言专家负责一般词语和推理的先验，视觉专家提供与画面有关的证据修正；两者按专家乘积组成蒸馏目标，避免把视觉模型的语言偏差一起照搬。角色分解仍依赖视觉似然是否可靠，本地仅验证组合目标，不能据此认定已获得真实视觉能力。
教学例子：例如识别杯子颜色时，语言专家让句子通顺，视觉专家提高画面所支持颜色的概率；这个例子解释分工，不代表实际识别成绩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
LEGO本地是否真实加载语言与视觉专家？
LEGO-OPD: Factorized Teacher Composition for Multimodal On-Policy Distillation
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：没有，只执行因子化目标组合。实现应对候选维度对齐、在log空间相加后归一，并区分视觉似然因子与完整VLM后验，不能把随机logits称为视觉能力。
教学例子：例如两向量乘积能验公式，却没有让任何模型实际看图。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
LEGO-OPD把grounding权重α设为零，与只用视觉专家有什么区别？
LEGO-OPD: Factorized Teacher Composition for Multimodal On-Policy Distillation
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：当α为零且概率计算有效时，视觉因子不再影响归一化结果，教师退化为语言先验，而不是视觉独占。只用视觉专家则移除了语言先验，是另一种目标。α控制证据因子的影响强度，不能被读成两个完整教师的投票比例。
教学例子：将视觉项的log贡献乘零后，剩下的是语言专家分数；并不会因为“零语言占比”而变成纯视觉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
LEGO-OPD里的grounding likelihood可以直接当最终答案概率使用吗？
LEGO-OPD: Factorized Teacher Composition for Multimodal On-Policy Distillation
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：它在分解中承担视觉证据因子的角色，最终教师目标还要结合语言先验并归一化。不能因为它也是一个分数，就把它解释成完整语言回答的后验置信度。先分清先验、证据因子与最终分布，才能正确读取两位专家的责任。
教学例子：视觉因子支持“红色”，语言先验约束当前句子可接什么词；只有组合并归一后才是最终词元分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
IPD逐token混合师生概率，为什么不等同于整条回答随机选一个教师或学生来生成？
Interpolated Policy Distillation: A Controllable Continuum Between Off-Policy and On-Policy Distillation
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：条件分布在每个前缀处插值，后续状态随已采到的token改变；整条轨迹只选一次来源，会产生另一种序列分布。概率混合也不同于logits平均。精确采到目标混合策略需要对应采样协议，本地端点与归一化检查没有复现高吞吐speculative sampler。
教学例子：第一步可能从教师更支持的词采到，第二步仍按新前缀重新混合；并不是开头掷一次硬币后整段只听同一个模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
IPD本地验证的端点是否包含高吞吐投机采样器？
Interpolated Policy Distillation: A Controllable Continuum Between Off-Policy and On-Policy Distillation
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：没有，只执行精确token mixture的端点、归一与总变差关系；γ零为学生、一为教师。原文验证感知speculative sampler与完整训练仍未复现。
教学例子：例如能算出混合向量，不表示真实模型能以论文吞吐采出它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
token分布混合与整条轨迹二选一混合一样吗？
Interpolated Policy Distillation: A Controllable Continuum Between Off-Policy and On-Policy Distillation
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：不一样。逐步混合允许同条轨迹交替师生偏好，轨迹级先选一个模型则整段来自同一策略。它们的联合状态分布通常不同。
教学例子：例如第一步偏学生、第二步偏教师的路径，在整段固定选模型时未必同样可达。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
IPD为什么插值师生采样分布？
Interpolated Policy Distillation: A Controllable Continuum Between Off-Policy and On-Policy Distillation
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：纯学生状态与纯教师状态各有覆盖取舍，逐状态混合提供连续控制的采样政策。γ调节数据来自何种分布，不只是对两个损失做加权平均。
教学例子：例如学生偶尔走自己路线，教师也可给另一些下一词选择，比例可控。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GRAFT为什么交换同题完整peer组，而不只挑peer的一条成功回答？
Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：receiver全错组缺少区分信号，完整peer组同时保留成功与失败及其内部相对优势。只取成功例会改变组结构和信用。跨模型尤其跨tokenizer时，还需序列兼容性与token比率裁剪处理错配；交换来的数据不能被标成receiver自己的在策略采样。
教学例子：模型甲同题全错，模型乙有对有错。把乙的整组连同组内信用交给甲学习，与单独塞入一份标准答案不同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
跨tokenizer的GRAFT为什么先用序列平均似然衡量兼容性？
Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：不同分词造成词元级一一对应困难，序列平均似然提供整体兼容信号，再用重要性比裁剪限制更新。它不使两模型策略自动相同，来源、组内优势和文本重评分需可追踪。
教学例子：例如同一句话被拆成不同数量词元，不能按位置直接相减两个模型词元概率。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
借完整peer组与只塞一条成功答案有何差别？
Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：完整替换保留peer原组内部优势关系；只加正例会改变组分布及信用基准。借用仍是跨策略数据，不能标成receiver自身的on-policy生成。
教学例子：例如peer失败轨迹也保留，才能解释为什么组内成功轨迹获得相对正优势。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GRAFT什么时候才借用peer轨迹组？
Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：receiver全失败而peer同题组内既有成功又有失败时，才有可迁移的相对优势信号。不是每次都借最强模型答案，也不是只复制peer的一条正确轨迹。
教学例子：例如receiver四条都错，peer组内有对有错，后者才提供组内可区分反馈。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
GATS为什么使用滞后一拍的学生成功率，并在赶上教师后永久撤出教师？
Guide, Then Let Go: Gap-Adaptive Teacher Scheduling for Sparse-Reward Agentic RL
问答新增：2026-10-27 · Dalian University of Technology / Kuaishou
展开答案与例子
答案：滞后移动平均避免当前批次结果立即改变同批教师权重，固定教师参考使差距有稳定基准。差距缩小时蒸馏线性减弱，达到参考后永久关闭教师而继续奖励训练，避免短期波动反复开关。成功率受估计噪声影响，本地只验证调度状态机。
教学例子：例如本轮表现改善，下轮才减少指导；一旦达到设定教师参考，即使随后小幅波动也不重新叫回教师，这与逐批动态开关不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
GATS为什么用滞后一拍学生EMA与固定教师尾部成功率？
Guide, Then Let Go: Gap-Adaptive Teacher Scheduling for Sparse-Reward Agentic RL
问答新增：2026-10-27 · Dalian University of Technology / Kuaishou
展开答案与例子
答案：当前批奖励不能即时反向改变同批调度，固定参照使差距可解释。需处理教师基准为零等边界，当前仅验证调度核，未执行Qwen Agent RL。
教学例子：例如先完成本批记录，下一批权重再读更新后EMA，避免数据时序混乱。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
GATS永久withdrawal与每批按成功率重新开关有什么区别？
Guide, Then Let Go: Gap-Adaptive Teacher Scheduling for Sparse-Reward Agentic RL
问答新增：2026-10-27 · Dalian University of Technology / Kuaishou
展开答案与例子
答案：永久状态避免短期波动反复调用教师，动态开关可在下降后恢复指导，二者政策不同。成功率有估计噪声，不能把一次达到就解释成所有能力超过教师。
教学例子：例如下一批稍降也不会重启教师，这是状态机规定而非忘记调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
GATS为什么让教师权重随学生差距下降？
Guide, Then Let Go: Gap-Adaptive Teacher Scheduling for Sparse-Reward Agentic RL
问答新增：2026-10-27 · Dalian University of Technology / Kuaishou
展开答案与例子
答案：教师在稀疏奖励初期提供方向，学生接近固定教师参考后减少模仿，避免继续限制自身探索；达到参考后永久撤出，后续只做奖励训练。
教学例子：例如学生已掌握教师水平，继续每步跟随可能妨碍自主改进。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
FlowMap-OPD为什么冻结rollout状态，只让比较kernel向学生反传？
FlowMap-OPD: Rollout-Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：rollout负责提供符合所需边缘分布的状态，局部kernel负责在这些状态比较flow map或速度，两者承担不同职责。若沿状态生成路径也反传，就增加了未定义的轨迹梯度项，改变估计器。状态虽停止梯度，后续仍可由更新策略重新采集，并非永久固定数据。
教学例子：先由当前生成器采一批中间状态，再冻结它们做局部教师比较；不应让该次局部损失回头穿过整个状态采样过程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
本地FlowMap核能代表真实图像flow-map生成器训练吗？
FlowMap-OPD: Rollout-Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：不能，当前只验证状态detach和局部KL路径，没有图像生成器训练。教师应冻结，rollout状态边缘条件由调用方承担，随机状态并不自动满足论文假设。
教学例子：例如给一个任意向量算KL，不能证明它来自正确的生成分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
rollout-state detach与端到端穿过采样器有什么区别？
FlowMap-OPD: Rollout-Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：detach只优化局部kernel的学生参数，不沿产生状态的路径传播；端到端会引入额外状态依赖梯度。两者是不同目标近似，不能仅看同一loss数值判断等价。
教学例子：例如当前模型既影响状态又影响预测，冻结状态会有意切掉前一条通路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
FlowMap-OPD为何分开rollout分布和优化kernel？
FlowMap-OPD: Rollout-Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators
问答新增：2026-10-27 · Georgia Institute of Technology
展开答案与例子
答案：采样部分负责给出具有规定边缘的状态，局部kernel负责在状态上比较师生流映射或速度。分离可澄清何处提供数据、何处求导，不能任意把采样路径也反传。
教学例子：例如先拿到一个冻结生成状态，再比较两模型在该状态的局部预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
DriftOPD为什么在当前动作chunk的reverse-KL之外，还加入future potential？
DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：一步动作匹配只能比较眼前分布，无法完整反映动作对后续状态的影响。future potential由离线示范学习的critic估计长期后果，使序列级目标分解保留时间信息。critic质量和示范覆盖仍是前提，本地目标分解并未运行机器人环境验证长期控制。
教学例子：两个抓取动作当下都像教师，一个却把物体推到后续够不到的位置；仅看当前chunk相似度可能分不出长期差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
DriftOPD本地是否执行机器人环境闭环？
DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：未执行，只验证目标分解和教师停止梯度。真实升级还需离线示范训练未来critic、动作chunk与状态对齐及环境评估，不能把候选核当VLA部署。
教学例子：例如计算未来势的符号项，不等于机械臂已经按该势完成任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
future potential与直接加当前动作奖励有什么差别？
DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：前者估计后续动作后果，是序列分解的一部分；即时奖只描述当前表现。近似critic误差会影响指导，不能把加一项value自动等同精确序列KL。
教学例子：例如把物体举起得到即时分，不代表后续路线仍能完成任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
DriftOPD为什么在当前chunk蒸馏之外加入future potential？
DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：动作影响后续机器人状态，当前一步接近教师不保证长期后果相近。序列reverse KL分解引入未来势，使短步策略也考虑后续影响，critic来自离线示范。
教学例子：例如当前抓取姿势看似合理，却可能导致后面放置无法完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Dr. OPD为什么按下游reward对token更新方向的JVP加权，而不只看师生分歧大小？
Dr. OPD: Learning What to Follow for Optimal On-Policy Distillation of Large Language Models
问答新增：2026-10-27 · Rutgers University
展开答案与例子
答案：分歧大可能只是措辞不同，未必值得花监督预算；JVP估计沿该纠偏方向对下游回报的影响，把学习价值与差异结合。闭式权重再经限制和归一化后用于OPD。它依赖所用回报与局部近似，不能把较大权重解释为已证实的全局因果贡献。
教学例子：老师学生对结论运算符与礼貌词都分歧，只有前者改变任务奖励；单看分歧大小可能把预算花在无关表述上。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Dr. OPD权重更新与学生更新应怎样排序？
Dr. OPD: Learning What to Follow for Optimal On-Policy Distillation of Large Language Models
问答新增：2026-10-27 · Rutgers University
展开答案与例子
答案：每轮先由固定批信号闭式求权重、裁剪并均值归一，再执行加权RKL学生更新。不能在同一步让学生通过权重反向改变选择目标，本地d乘g是明确代理记号。
教学例子：例如先定本批该学哪处，再更新学生，而不是把评价权重也一起随意下降。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
reward JVP加权与只按KL分歧挑词有什么区别？
Dr. OPD: Learning What to Follow for Optimal On-Policy Distillation of Large Language Models
问答新增：2026-10-27 · Rutgers University
展开答案与例子
答案：分歧衡量差多少，JVP描述沿相关更新方向回报可能怎样变。组合同时考虑差距与下游价值，但近似梯度不是独立正确性保证，不能免去验证。
教学例子：例如教师学生对无关措辞分歧大，收益方向仍可能很弱。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Dr. OPD为什么给不同teacher token不同权重？
Dr. OPD: Learning What to Follow for Optimal On-Policy Distillation of Large Language Models
问答新增：2026-10-27 · Rutgers University
展开答案与例子
答案：纠正关键推理与替换同义措辞对下游回报价值不同，权重以学生更新后预期回报为目标，通过双层近似决定，而不只按师生差大就多教。
教学例子：例如相同概率差下，修复运算符可能比换连接词更影响最终结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
AdviSD为什么固定同一条执行器回答，比较有无建议时的概率？
AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：固定回答能把差异集中到建议如何改变执行器对这条回答的偏好，避免两次生成的随机差异混入效果估计。顾问只学习超过校准阈值的反思建议，执行器保持冻结。概率提升是筛选信号，不等价于任务成功，阈值也依赖所用建议分布。
教学例子：例如执行器已给出一次工具调用，分别在有建议和无建议的上下文中给这次调用打分；不另生成两次回答后直接相减。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
AdviSD有无建议对照能分别重新生成两条回答吗？
AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不能替代固定记录响应的成对评分，否则随机生成差异混入建议效应。按同一响应有效词元均值计算，阈值来自donor绝对contrast分位，本地未调用真实executor。
教学例子：例如一边生成长代码另一边生成短代码，分数差不再仅是上下文建议作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
建议有影响与建议提高成功率是一回事吗？
AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不是，似然对照只测对同一记录响应的偏好改变，影响大小并不独立证明结果更好。donor校准筛掉弱变化，仍需任务评估检查有益性。
教学例子：例如建议令执行器更喜欢原动作，但原动作本身也可能是错的。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
AdviSD为什么只训练advisor而冻结executor？
AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：目标是学会给固定强执行器有用建议，将改进归因到顾问而非同时改变执行器。多轮反思提供候选建议，但只有足够影响执行器决策的部分进入自蒸馏。
教学例子：例如工具调用模型不改权重，只改善旁边提醒它检查参数的顾问。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
动作专家读取预测未来潜变量，与直接读取训练视频未来帧有何区别？
V-JEPA Policy: Building Effective World-Action Models on Predictive Visual Latents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：预测未来由当前观察与指令生成，部署时也能获得；真实未来仅作为训练目标，用于塑造预测器。动作 flow expert 因而使用可计算的前瞻上下文，而非提前观察结果。冻结视觉编码器稳定表示，却不保证预测误差不会在控制过程中累积。
教学例子：例如根据当前桌面预测抓取后的杯子位置，再产生动作；不能把实际抓取结束后的照片先传给策略再评价成功率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
future target 的梯度隔离与本地实现边界应怎样表述？
V-JEPA Policy: Building Effective World-Action Models on Predictive Visual Latents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：真实未来经冻结视觉编码器产生目标并 stop-gradient，masked 位置上做 L1，同时训练动作速度损失。本地只执行 future-latent 隔离和 flow 机制诊断，没有加载 V-JEPA 2.1 或机器人数据，不能将三 seed 小张量更新说成 LIBERO 策略已验证。
教学例子：例如检查目标张量没有梯度可确认监督边界，但没有任何机器人 rollout，就不能计算实际动作成功率。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
联合世界与动作训练与先训预测器再独立训动作头有什么区别？
V-JEPA Policy: Building Effective World-Action Models on Predictive Visual Latents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：联合训练让未来预测与动作 flow 在同一训练框架中协调，动作专家使用 predictor 提供的未来信息；两阶段独立训练则可能让预测表征未适配控制需要。这里视觉 encoder 仍冻结，不能将联合 predictor/action 训练扩大为所有视觉参数都端到端更新。
教学例子：例如动作头需要未来抓取位置，联合训练可协调预测上下文；但冻结 V-JEPA 编码器的权重依然不会因动作损失而变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
机器人动作策略为什么会从“预测将看到什么”中获得额外条件？
V-JEPA Policy: Building Effective World-Action Models on Predictive Visual Latents
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：仅靠当前图像选择动作，可能缺少目标执行后场景如何变化的线索。V-JEPA Policy 将指令条件未来表示预测与动作学习联系起来，让动作专家读取预测上下文。未来信息必须来自模型预测，不能在控制时偷读真实后续视频；预测有误也会影响动作，因此仍需实际执行验证。
教学例子：教学例：指令要求把杯子放入盒子，未来表示可帮助描述目标视觉状态；机器人尚未行动，不能直接读取任务结束后的真实画面。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Triadic Linear Attention增加第二个key，容量和检索条件如何改变？
Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling
问答新增：2026-10-27 · MIT / MIT-IBM Watson AI Lab
展开答案与例子
答案：普通线性attention把key与value写入二维状态；Triadic再加入第二个key轴，查询时用两组query共同收缩。这样关联同时受两种地址条件约束，状态容量随第二key维度增大，而不是免费扩容。第二维退化为1时应回到普通线性attention，是检查实现是否保留核心机制的边界。
教学例子：用人物和场景作为两种地址，同一个人物在不同场景对应不同value；第二key可帮助区分，但也需要保存更大的联合状态。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
Triadic 的 E=1 退化测试为什么比“前向没有报错”更有用？
Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling
问答新增：2026-10-27 · MIT / MIT-IBM Watson AI Lab
展开答案与例子
答案：该边界应严格还原普通线性注意力，可检查第二key轴的构造与收缩是否正确。还应对照显式历史求和、因果性和梯度；这些算子测试不证明长书语言建模效果。
教学例子：移除第二key的实际自由度后，输出应与同输入的二维记忆参考一致。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
三阶状态增加的容量，与只增大普通线性注意力的 value 维度有什么不同？
Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling
问答新增：2026-10-27 · MIT / MIT-IBM Watson AI Lab
展开答案与例子
答案：第二key维度E新增一个可被独立查询收缩的轴，状态容量乘E；只增大value维度扩充的是输出内容维度，不提供相同的双key寻址结构。
教学例子：给每条记录增加更多内容，与给记录再加一个独立检索条件，是不同的扩展。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
线性注意力的“状态”是逐条历史列表，还是累积的关联记忆？
Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling
问答新增：2026-10-27 · MIT / MIT-IBM Watson AI Lab
展开答案与例子
答案：普通线性注意力把key与value的外积写入累积二维状态，读取用query收缩，而不是逐条保留原始KV列表。Triadic在此基础上增加一个key轴，讨论的是关联状态容量与寻址条件。
教学例子：状态像把多次写入叠加到一张关联表；新增key轴相当于增加一种联合寻址条件。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
TADM周期缓存anchor后，为什么还需要依当前扩散状态进行门控修正？
Time-Anchored Diffusion Language Models: Latent-Space Caching for Fast Generation
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：跨多个反向步复用昂贵潜表示可减少主网络调用，但当前状态不断变化，旧anchor会陈旧。轻量融合模块用当前条件预测修正并门控，再交给较小去噪器，平衡复用与适配。门控不能保证陈旧信息完全恢复，本地修正核未运行完整大模型生成评测。
教学例子：例如早期缓存只表达粗略句子结构，后续已确定更多词元，融合模块据新状态修正旧表示；一直原样复用可能忽略这些新约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
TADM 的 g 与 Δ 两个输出，怎样用边界检查避免写成另一个融合？
Time-Anchored Diffusion Language Models: Latent-Space Caching for Fast Generation
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：文档是h_t′+g⊙Δ：g=0回到旧anchor，Δ=0也回到旧anchor。若把g乘整个h_t′或删除残差就改变公式；本地仅执行cache correction，没有加载DiffusionGemma-26B。
教学例子：将gate全置0时，输出不应变成全零表示。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
TADM 的门控陈旧缓存修正，与直接原样复用 h_t′ 有什么差别？
Time-Anchored Diffusion Language Models: Latent-Space Caching for Fast Generation
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：原样复用忽略当前扩散状态变化；门控修正根据c_t与旧anchor产生增量，允许调整过期信息。它仍可能需要刷新，不能把fusion当作无误差替代所有anchor前向。
教学例子：去噪状态已明显变化时，旧表示可被修正，而不是一直当作刚算出的新表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
TADM 为什么让昂贵 anchor network 不必每个扩散步都运行？
Time-Anchored Diffusion Language Models: Latent-Space Caching for Fast Generation
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：相邻反向扩散步可复用部分潜表示。方法周期性刷新anchor，在间隔步用轻量fusion结合当前状态修正缓存，再交给较轻denoiser，以复用昂贵计算。
教学例子：连续几步共用一次anchor结果，但每步仍根据当前状态形成不同修正。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
STEPQuant为什么同时看状态的剩余寿命和key行影响，再分配bit预算？
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：递归状态误差能持续传播，而不同方向对输出的影响也不相同；只按当前幅度分配精度会漏掉时间与空间两类重要性。方法在平均bit约束下分配块精度，并用行列两轴scale拟合状态。本地预算与误差诊断未复现论文吞吐，也不是统一INT8改名。
教学例子：例如一个不大的状态方向会影响许多后续步，可能比即将被遗忘的大值更值得保留精度；预算有限时需要比较累计风险。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
STEPQuant 的预算优化，为什么要核对实际平均 bit 而不是只看高精度块比例？
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：不同候选bit与块大小共同决定预算，目标是在给定平均bit约束下最小化加权误差。还需区分key-row与value-column尺度，不可把两轴广播位置交换后只因shape可运行就通过。
教学例子：4-bit和8-bit块混合时，需按实际元素数加权计算平均位宽。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
STEPQuant 的时空 bit 分配，与对所有状态统一 INT8 有何不同？
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：统一INT8忽略不同时间和位置的重要性；STEPQuant在固定平均bit预算下为高风险块分配更高精度，再用key-row/value-column双轴scale拟合。它改变精度分配，不只是换一个位宽标签。
教学例子：剩余寿命长且读出影响大的块，可比很快遗忘的块获得更多bits。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
STEPQuant 为什么研究固定大小递归状态的量化，而不是只压缩增长的 KV？
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：线性注意力状态虽不随序列无限增长，但会被每个并发请求长期持有，并在递推中反复更新。量化误差可沿时间传播，所以需同时关注状态剩余寿命和不同空间块的影响。
教学例子：一个小状态乘上很多并发请求仍占显存，早期误差也可能持续影响后续输出。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
SPLASH为什么要把布局切换成本摊到剩余生成步数，而不能只选当前最快布局？
SPLASH: Switching Parallel Layouts of Attention with Seamless Handoff for LLM Serving
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：不同并行布局分配注意力权重与KV所有权的方式不同，切换会引入搬运和交接成本。剩余步骤足够多时，后续收益才可能覆盖一次转换；只看单步速度会频繁切换而更慢。内存可行性也需同时满足，本地只有规划器，没有真实CUDA交接与服务吞吐证据。
教学例子：例如请求只剩少量词元，搬一次缓存可能比继续旧布局更贵；长请求则可能值得转换，不能让两者仅按相同单步耗时决策。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
SPLASH 本地 transition-aware planner 应怎样与真实布局切换区分？
SPLASH: Switching Parallel Layouts of Attention with Seamless Handoff for LLM Serving
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：planner计算内存与含切换成本的布局决策；真实系统还需搬运权重/KV并保持请求状态一致。当前未实现CUDA handoff或B200/H200性能验证，决策日志不等于服务切换已执行。
教学例子：输出“切到DOP”的计划，不证明缓存已被实际迁移到新的所有者。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
DOP 与 TP 的简化内存式，KV 项上有哪些不同？
SPLASH: Switching Parallel Layouts of Attention with Seamless Handoff for LLM Serving
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：文档TP为W_A/T+Bks，DOP为W_A/T+Bks/T：两者权重都分片，KV分配不同。该式只是模型口径，还需考虑实际handoff与执行，不能仅由容量公式推导实测吞吐。
教学例子：当KV项远大于权重项时，两种分配的内存差异会更突出。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
SPLASH 为什么把 attention 权重和 KV 的所有权一起纳入布局模型？
SPLASH: Switching Parallel Layouts of Attention with Seamless Handoff for LLM Serving
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：不同并行布局对权重、请求与KV的分配不同，会随batch和序列长度改变内存与通信成本。统一所有权描述后，调度器才能比较TP/DP/CP/DOP及切换代价。
教学例子：同样四张设备，KV是否按请求独占或分片，会改变每设备内存需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
PUMBA为什么要让梯度穿过多个去噪步骤的carry，而不把每步当独立训练样本？
On Trajectory-Aware Training for Masked Diffusion Language Models
问答新增：2026-10-27 · Apple
展开答案与例子
答案：隐藏carry会影响后续去噪，独立训练只要求当前步预测好，未必鼓励它留下对下一步有用的状态。沿模型自身逐步揭示轨迹展开，在固定窗口内反传，可让早期carry承担后续损失；窗口间仍截断，以限制成本。本地未训练完整扩散语言模型。
教学例子：例如前一步留下某种实体约束，后一步据此填空，后一步误差应能指导前一步如何编码约束；每步都detach会丢掉这种关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
PUMBA 应在每步还是窗口边界 detach carry？
On Trajectory-Aware Training for Masked Diffusion Language Models
问答新增：2026-10-27 · Apple
展开答案与例子
答案：文档梯度在固定窗口内穿过carry，窗口间截断。每步detach会删除关键跨步梯度，完全不截断又改变内存与训练配置；当前本地reference未训练LLaDA-8B。
教学例子：窗口长度3时，第3步可反传到本窗前两步，但不继续穿过上一窗口。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
trajectory-aware carry 训练与把每一步单独当样本，优化的依赖有何不同？
On Trajectory-Aware Training for Masked Diffusion Language Models
问答新增：2026-10-27 · Apple
展开答案与例子
答案：独立训练切断前后carry关系；窗口内BPTT让后续loss影响前一步产生的carry。它需要真实连续展开，不能只把多个独立CE相加就声称已学习跨步信息传递。
教学例子：第2步loss应能影响第1步留下的carry，而非只更新第2步局部计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
PUMBA 为什么使用模型自己的 progressive-unmasking 训练轨迹？
On Trajectory-Aware Training for Masked Diffusion Language Models
问答新增：2026-10-27 · Apple
展开答案与例子
答案：独立随机噪声样本不一定覆盖模型实际多步去噪会遇到的状态。沿自身轨迹展开并传递carry，使训练面对连续决策及前一步为后一步留下的表示。
教学例子：前一步揭示了某些词后，下一步看到的状态由模型自己决定，而非重新随机造一份无关噪声。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
LIFT为什么同时预测下一token和下一连续state，推理时的state又来自哪里？
Pretraining Latent Information Feedback Transformers with Teacher Supervision
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：训练把教师下一token的top-k分布变为连续状态，与token并行输入，并监督token预测和状态预测。这样深层信息可以经连续反馈进入后续步骤，不只依赖一个离散token。推理时改为模型自己的state，因此教师提供的是训练目标，不能在部署时继续假定能免费读取教师未来分布。
教学例子：离散采样选了一个词，但连续状态还能携带其他高概率候选的信息；下一步使用模型自己预测的状态，错误也可能随反馈累积，需要单独检查。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
LIFT 训练时的 teacher state 可以接收学生 loss 的反向更新吗？
Pretraining Latent Information Feedback Transformers with Teacher Supervision
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：文档测试要求teacher stop-gradient，学生以token CE和teacher top-k分布前向KL学习；top-k状态需保留并归一化。推理使用模型自身state，不能继续偷偷提供teacher状态作为能力证据。
教学例子：学生犯错时更新学生参数，而不是把作为监督的teacher分布一起改到迎合学生。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
LIFT 的 state 反馈，与只把上一步采样 token 喂回有什么区别？
Pretraining Latent Information Feedback Transformers with Teacher Supervision
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：采样token只保留一个离散选择；state保留teacher top-k分布的连续信息，经共享embedding投影后参与下一步。它仍需单独的state监督，不能只增加一个额外输入向量就称为同一训练方法。
教学例子：两个候选概率接近的状态，比单独一个已采样词携带更多备选信息。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
LIFT 想让深层信息通过什么通道回到下一步的浅层？
Pretraining Latent Information Feedback Transformers with Teacher Supervision
问答新增：2026-10-27 · Tel Aviv University
展开答案与例子
答案：普通生成主要通过下一离散token传递；LIFT增加连续state反馈。训练时输入teacher的下一token top-k分布状态，并同时预测token与下一state，推理改用自身state。
教学例子：除了生成一个词，还把更丰富的候选分布状态带入下一步处理。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
LeapQuant为什么把窗口内更新保留高精度，而不在每个递归步骤重新量化？
LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：递归状态被反复舍入时，误差会反馈到后续更新。窗口内以低比特基态加高精度增量表示，只在边界重量化，可减少重复舍入；补偿项另保护显著异常方向。窗口缓冲与补偿也有存储成本，本地截断SVD是诊断构造，未实现作者专用内核或复现吞吐。
教学例子：例如一段连续的小更新先积累后再舍入，避免每次都被低位宽抹掉；强异常方向单独补回，并非把所有状态都偷偷保留全精度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
LeapQuant 的补偿项 C 加回后，低比特部分应量化 S 还是 S-C？
LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：文档先由截断SVD构造低秩C，再对剩余S-C量化，读出时加回C。若仍量化完整S再加C，会重复计入补偿方向；窗口边界也需按原规则合并未量化更新。
教学例子：大方向已由高精度C保存，低比特残余不应再完整保存一次同样方向。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
LeapQuant 的窗口缓冲，与每步都对整个递归状态低比特写回有什么取舍？
LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：窗口缓冲增加暂存更新的高精度开销，换取较少的整状态重量化；逐步写回则更频繁地累积舍入。比较需统计基态、窗口更新与补偿项总存储，不能只报低比特基态大小。
教学例子：窗口内保留8次小更新，边界才合并量化，与连续8次整状态量化不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
LeapQuant 为什么同时处理时间上的重复舍入与状态里的 outlier？
LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization
问答新增：2026-10-27 · UC Berkeley
展开答案与例子
答案：递归状态反复量化会累积误差，少数离群方向又可能主导量化尺度。它用窗口高精度更新缓冲减少舍入频次，并把少量大方向分成高精度补偿项后再量化剩余状态。
教学例子：不必每读一个token就重新压缩整份状态，也不让一个大方向挤占全部低比特范围。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
Chinese-Jev为什么在候选marker上直接评分，而不是生成选项名称再解析？
Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：封闭输出任务需要的是候选之间的决策分布。编码器读取上下文与候选后，用对应标记的隐藏状态评分，再对候选归一化，可省去自由生成和格式解析。软标签还能保留标注中的概率信息；候选概率是集合内份额，不天然等于独立正确率，本地目标核也不代表通用预训练已复现。
教学例子：例如把工单分到退款、物流或账户三类，模型直接输出三项分布；增加一个类别后份额会变化，不能把原退款概率当作固定置信度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
Chinese-Jev的softmax应该沿哪个维度计算？
Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：沿同一请求的有效候选维度计算，标记状态经同一评分函数形成分数。不同请求候选不能串成一个分母，软标签顺序也必须与候选一致。
教学例子：例如两张工单各有三类，应分别归一化，不能把六个分数放进同一分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
Chinese-Jev用one-hot标签与软标签分布训练，向模型提供的信息一样吗？
Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：不一样。one-hot只保留一个目标候选，软标签还保留候选之间的概率质量分配，可表达犹豫或标注差异。二者都通过同一候选读出接口训练，但监督信息不同；软分布也需来源可靠，不能因为数值更细就把它当真实正确率。
教学例子：甲乙候选的标签为0.6与0.4，会保留接近的偏好；把它改成1与0便丢掉这种接近关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
Chinese-Jev主要适合怎样的输出任务？
Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：适合分类、路由和候选选择这类有限输出决策。输入包括中文上下文与候选，模型直接返回各候选概率，而不负责自由生成完整长回答。
教学例子：例如把咨询分到物流或退款，候选先给定；写一篇开放文章则不是同一种接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
CE-guided MoE为什么在原路由分数之外再预测每个expert的错误？
Cross-Entropy Guided Routing in Mixture-of-Experts Large Language Models
问答新增：2026-10-27 · Bar-Ilan University
展开答案与例子
答案：原affinity表示路由倾向，却未必反映专家处理该token的预期损失。方法用token-error head预测专家误差，在Top-K前对高预测错误专家的logit衰减，再由真实next-token交叉熵训练误差头。选择时用的是可提前预测的误差，不能偷偷读取当前未知正确答案的真实CE。
教学例子：两个专家的原路由分数接近，一个误差头预期它不擅长当前片段，修正后可让另一专家进入Top-K；真正答案只用于训练误差预测，不作为线上路由输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
error penalty 加在 Top-K 之后，与文档中的前置修正等价吗？
Cross-Entropy Guided Routing in Mixture-of-Experts Large Language Models
问答新增：2026-10-27 · Bar-Ilan University
展开答案与例子
答案：不等价。修正a后再softmax和top-k，才能改变入选集合；先选再惩罚最多重权已选专家，无法把漏选专家换进来。误差头需由真实next-token CE监督，不能把任意启发式当成该监督。
教学例子：第三名可能因第一名误差大而晋级；选完前两名后再缩权就无法实现这次替换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
误差感知路由与只按负载均衡分配专家，有什么目标差异？
Cross-Entropy Guided Routing in Mixture-of-Experts Large Language Models
问答新增：2026-10-27 · Bar-Ilan University
展开答案与例子
答案：误差感知项关心专家对当前token的预测质量；负载均衡关心计算如何分散。均匀使用专家不能自动保证任务正确，质量路由也不自动替代系统容量与均衡控制。
教学例子：让每个专家处理相同数量token，仍可能把某类难题交给不擅长它的专家。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
CE-guided MoE 的 affinity 与 token-error 分别表达什么？
Cross-Entropy Guided Routing in Mixture-of-Experts Large Language Models
问答新增：2026-10-27 · Bar-Ilan University
展开答案与例子
答案：affinity是原路由的专家偏好，token-error是额外头预测该专家处理当前token的错误程度。前者高不保证后者低；方法将预测错误用于Top-K前的路由修正，并用真实next-token CE监督误差头。
教学例子：某专家与输入表示很相近，却可能在这一类token上预测不准，两个信号不能直接等同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么只读失败 trace 可能不足以确定视频 Agent 的取证问题？
Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：trace 只记录旧 harness 选择看到的部分，没看到的关键帧无法从日志中重新推断。回访训练视频补观察，可检验是漏证据还是推理错，再改接口；接纳保持准确率与成本双门槛，不能用加权总分掩盖明显质量或费用退化。
教学例子：例如旧策略只取视频开头，关键动作在末尾，失败日志没有该动作；回看原训练视频才能验证应修改采样而非答案措辞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 Pareto gate 已通过，为什么仍不登记可执行 Evolve operator？
Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：当前缺真实视频解码、代码改写沙箱与跨代停止条件，控制器不能完整执行和评估候选。gate 仅检查给定指标的接纳关系，不能用 fixture 分数证明视频 Agent 提升，也不能把注册名或三 seed 规则检查称为端到端进化。
教学例子：例如输入两组数字可以算支配关系，但没有从候选 harness 真跑视频获得数字，就没有可晋级能力证据。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
accuracy/cost 双门槛与单一加权分数相比保护了什么？
Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：候选须准确率不降且成本不升，并至少一项严格改善，防止一个目标的大幅好转掩盖另一个明显退化。允许误差阈值要预先声明，不能事后为接纳调松；双门槛也依赖同协议测量，不自动保证泛化。
教学例子：例如准确率下降十点但帧数减半，可能在加权和中胜出，却不符合此处不恶化要求，应拒绝。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
视频 Agent 为什么可能需要改取证流程，而不只是换一个更强回答提示？
Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：长视频包含大量时刻和细节，错误可能发生在选帧、定位、读取或证据组织，而非最后一句回答。Video RSI 研究依据执行过程改进视频任务的 harness，让有限成本用在真正需要的证据上。观察到流程变化不等于理解能力已提高，需要同时检查准确性和真实成本。
教学例子：教学例：问题问某人离开前做了什么，Agent 若只取开头和结尾，改写最终提示也看不到中间关键动作，需要先改取证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么用户模拟器提前透露私有字段，可能提高任务成功却降低 UFS？
UserProxyBench: Evaluating LLM User Simulators for Agent Benchmarks and Training
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：Agent 原本应主动询问信息，模拟器抢先给出就绕过了被测的信息收集能力。UFS 单独检查每 episode 全部适用用户合同，而非复用任务回报，能暴露这种捷径；任务完成和用户扮演忠实是两条不同证据，不能只看成功率就认定模拟器好。
教学例子：例如 Agent 尚未问订单号，模拟用户已主动报出，退款容易成功；但评测不再检验 Agent 是否知道何时询问关键字段。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
审计 premature disclosure 时，为什么必须保留 request 与 disclosure 时间顺序？
UserProxyBench: Evaluating LLM User Simulators for Agent Benchmarks and Training
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：是否过早披露取决于相关请求是否先发生，不能只看字段最后有没有出现。本地按公开交互事件与rubric判定，私有blueprint留在评测侧；未执行原文企业任务和闭源proxy矩阵。
教学例子：同一字段在被询问之后给出和之前给出，最终文本相同，保真判定却不同。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
UFS 的 all-criteria product 与逐条件平均通过率有什么区别？
UserProxyBench: Evaluating LLM User Simulators for Agent Benchmarks and Training
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：每个episode所有适用条件都通过才计1，一项失败就使该episode为0；逐条件平均允许其它通过项抵消关键违规，是另一种口径。最终仍须把UFS与任务reward分别报告。
教学例子：10项适用条件通过9项，逐项平均为90%，该episode的严格UFS仍为0。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
UserProxyBench 为什么把用户模拟器保真度与 Agent 任务奖励分开？
UserProxyBench: Evaluating LLM User Simulators for Agent Benchmarks and Training
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：模拟器可能提前泄露私有字段，让Agent少做信息收集却仍完成任务。独立UFS检查用户契约是否全部满足，避免把被简化任务上的高reward误认成真实交互能力。
教学例子：Agent还没问订单号，模拟用户就主动给出隐藏订单信息，任务成功也不能说明澄清能力充分。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么 memory set 的效用不能直接等于各条记忆相关性之和？
UpliftMem: Learning Set-Level Uplift for Agent Memory Retrieval
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：条目之间可能互补、重复或冲突，集合整体对执行的影响不是单项分数简单相加。方法用同一冻结 executor 的有记忆与无记忆结果差作监督，额外 rollout 再按能否改变局部选择分配；相关性只是候选线索，不等于实际任务增益。
教学例子：例如一条给接口名、一条给参数约束，合用才可执行；两份重复接口简介即使都相似，也未必比这组互补证据更有用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
set_level_uplift 为什么必须要求 paired treatment/control？
UpliftMem: Learning Set-Level Uplift for Agent Memory Retrieval
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：同一任务、冻结 executor 与匹配条件下比较有记忆和无记忆，才能减少任务或模型变化带来的混杂。本地只实现配对差与固定 posterior 的 EVSI，没有完整集合构造、共享 scorer 或真实环境 executor，因此组件计算不能当 Agent 成功率提升。
教学例子：例如甲集合在难题上、无记忆在简单题上跑出的分数差没有可比性；必须让两种条件面对同一个任务实例。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
EVSI 分配额外 rollout 与平均给每个候选相同次数有什么不同？
UpliftMem: Learning Set-Level Uplift for Agent Memory Retrieval
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：平均分配不考虑不确定性会否影响最终选择，EVSI 关注一次新观测预期能否改变局部检索决策。相关 Gaussian 后验还表达候选之间依赖；这是一种预算分配规则，不意味着预测均值最高的集合已经实际执行成功。
教学例子：例如两个集合差距很大时继续探测可能价值低，两个接近且不确定的候选更值得花一轮执行来区分。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
UpliftMem 为什么把“检索得相关”与“帮 Agent 做成任务”分开？
UpliftMem: Learning Set-Level Uplift for Agent Memory Retrieval
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：相似记忆可能重复当前已有信息，也可能与其他记录冲突，因此相关性分数不等于执行价值。UpliftMem 关注一整组被提供的记忆是否让固定执行器获得额外收益，以便将有限上下文留给真正改变结果的证据组合。
教学例子：例如三条都讲正确接口名称却都缺认证步骤，检索相似度很高，提供它们后任务仍无法完成，不能据相关性认定有用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么推荐 Agent 要同时改 item perception 和有界记忆，而不能只把用户历史压短？
ReMem: Rethinking Perception and Memory in Long-Context Recommendation Agents
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：页面信息若提取错误，后续偏好记忆再精巧也只是在保存错误语义。OCR 驱动的感知先形成紧凑 item 表示，动态记忆再在预算内更新用户偏好；多记忆视图共享策略训练，用不同证据视角评价行为，但不应把测试偏好答案注入记忆来制造提升。
教学例子：例如商品价格藏在图片小字里，单压缩浏览历史无法纠正读错价格；先提取可靠属性，再保留与用户预算有关的信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
Multi-Memory GRPO 为什么不能把所有记忆视图混成一个优势组？
ReMem: Rethinking Perception and Memory in Long-Context Recommendation Agents
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：同一 query 的不同 memory view 应分别做组内奖励标准化，再共享 clipped policy 更新；混为一组会把视图难度差当动作优势。本地只验证预算、时间更新与目标公式，未运行 OCR、浏览器或真实推荐 episode，不宣称推荐能力提升。
教学例子：例如稀疏记忆视图奖励整体较低，若与丰富视图直接混组，可能把难度差错误归给同一策略的具体回答。
依据：核心公式、本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
动态固定预算记忆与完整历史上下文有什么取舍？
ReMem: Rethinking Perception and Memory in Long-Context Recommendation Agents
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：完整历史保留多但成本随交互增长，动态记忆依据相关性和近期性更新，在预算内突出当前偏好，也可能丢失低频但重要限制。保留最近观测不能替代长期事实审计，是否提高推荐质量仍需真实用户 episode 而非记忆长度检查。
教学例子：例如最近买了跑鞋不应自动抹去长期过敏材质限制；压缩后还需确认这些约束是否被可靠保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长上下文推荐 Agent 面对的输入困难为什么不仅是历史太长？
ReMem: Rethinking Perception and Memory in Long-Context Recommendation Agents
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：它既要理解异构商品页面，也要从不断积累的用户行为中追踪偏好，任何一端信息不可靠都可能推荐错误。ReMem 把物品感知与时间演化记忆一起纳入研究，目标是在固定预算下获得足够决策依据，而不是简单多塞历史。
教学例子：例如网页重量藏在图片里，用户近期又开始偏好轻便产品，只缩短聊天记录既读不到重量，也未必更新新偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么 meta-skill 要显式写 when、provide、use，而不只留一句“以后多验证”？
Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI
问答新增：2026-10-27 · Apodex / University of Illinois Urbana-Champaign
展开答案与例子
答案：when 指出触发条件，provide 说明该补什么资源，use 规定如何把它接进流程，三者把宽泛建议转成可检索的设计知识。技能库在开发后冻结，测试只检索构建 harness；若再用测试成败改库，就不再是对未见任务的固定技能迁移。
教学例子：例如“当工具输出不完整时，提供原始日志入口，并先核对再重试”比一句“更谨慎”更容易形成具体运行组件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地开发 refine 与冻结检索如何限定证据结论？
Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI
问答新增：2026-10-27 · Apodex / University of Illinois Urbana-Champaign
展开答案与例子
答案：本地仅验证技能库接受开发反馈、冻结后检索不写回及相关状态不变量，fixture reward 不是 AI4AI benchmark。没有真实 harness proposer 和任务模型时，when 字段匹配成功不能算已学会可泛化设计策略，更不能复制原文提升数值。
教学例子：例如检索器找到带“长文本”标签的 meta-skill，可检查路由，但未验证它在真实长上下文任务里改善结果。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
冻结开发技能库后测试只检索，与测试边做边写回有什么区别？
Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI
问答新增：2026-10-27 · Apodex / University of Illinois Urbana-Champaign
展开答案与例子
答案：冻结用于检查开发经验能否迁移，测试反馈写回会让后续任务利用评测结果，改变测试时信息合同。可以在当前任务利用允许的执行观察构建 harness，但不能把私有 test 得分用于长期修订或重选已报告结果。
教学例子：例如 test1 错了后新增精确对应规则再跑 test1，就不再是固定库泛化，应另列为新的学习协议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Meta-Skills 为什么关注“怎样配置 Agent 工作方式”的可迁移经验？
Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI
问答新增：2026-10-27 · Apodex / University of Illinois Urbana-Champaign
展开答案与例子
答案：相似任务可能共享规划、取证或验证习惯，若每次只保留具体答案，下一任务仍需重新设计流程。Meta-Skills 把这种如何工作的经验作为可复用对象，让检索结果指导 harness 使用。经验必须有适用条件，不能将某题有效的提示无条件施加到所有任务。
教学例子：教学例：处理多源数字比较时先建证据表是流程经验；具体表中的数字只属于原任务，不应一起作为新任务答案复用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么控制器使用紧凑状态，却把完整工作成果放到 artifact memory？
Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：控制决策只需掌握进度、候选动作和剩余预算，完整材料若反复进入提示会增加成本。持久工件保存可复用证据，控制器按需引用，再通过 Assess、Propose、Evaluate、Dispatch 分工决定继续或分叉；压缩控制状态不应把真实成果一并丢掉。
教学例子：例如两名 worker 已各写一份分析，控制器只保留结论与文件引用，需要核对时再打开原工件，无需每轮重抄全文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
本地选择器如何处理预期价值与调用成本，哪些能力尚未验证？
Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：实现先排除预算不可行的 action，再按预期价值与调用成本选择，完整 artifact 留在持久 memory、控制 state 保持紧凑。预期值来自明确输入，不是已训练前沿 worker 的真实成功预测；当前三 seed 诊断只验证调度和状态分离。
教学例子：例如剩两次调用时，需要三次的候选应直接不可行，即使预期价值最高；不能先派发后把超预算部分从账中删掉。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
分成 Assess、Propose、Evaluate、Dispatch 与单次直接控制有什么取舍？
Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：拆分使状态总结、候选生成、比较和执行责任更明确，也能分别检查预算可行性；但增加控制步骤并非免费，任务过简单时可能不划算。直接控制更紧凑却可能混淆评估与执行，比较应计入全部调用与最终任务结果。
教学例子：例如只有一步计算的任务可能无需四轮控制；复杂研究中先评估是否值得分叉则可能避免昂贵重复实验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
对象级 worker 与元推理控制器的任务有什么不同？
Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：worker 直接完成检索、编码或分析等任务内容，控制器则评估当前进度、提出继续或分叉动作、比较收益并派发。控制也会消耗模型调用预算，不能把控制器成本排除后再声称同预算更高效；持久工件帮助避免反复重复已有工作。
教学例子：例如 worker 写测试文件，控制器决定下一步修失败、开另一方案还是停止；二者产物和成本不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
让模型直接编辑 context file，为什么也会改变 KV 复用成本？
Context Language Models
问答新增：2026-10-27 · University of Washington / Meta Superintelligence Labs
展开答案与例子
答案：上下文文件的前缀决定已计算缓存是否仍匹配；改动早期 token 后，后缀通常需要重新 prefill。模型因而不仅决定记住什么，还在用文件变换控制后续运行成本；删除更短未必总便宜，若破坏了大量缓存，重算代价也要算入。
教学例子：例如在文件尾追加新观察可保留已有前缀缓存，若重写开头摘要，则即便总字数更少，也可能需要重算后面的整段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
为什么 suffix cache reuse 必须从首个 token mismatch 起重算？
Context Language Models
问答新增：2026-10-27 · University of Washington / Meta Superintelligence Labs
展开答案与例子
答案：因果隐藏状态依赖先前 token，首个变化之后即使文本片段再次相同，其 KV 也可能不同。实现据最长共同前缀保留有效缓存，显式检查文件容量；本地仅做编辑和边界诊断，没有训练 CLM 或运行长时间多 Agent swarm。
教学例子：例如第一百个 token 改了一个词，第一百零一个之后的状态都可能受影响，不能只重算被替换的那个位置。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
context 编辑与直接丢弃 KV cache 在逻辑记录上有何不同？
Context Language Models
问答新增：2026-10-27 · University of Washington / Meta Superintelligence Labs
展开答案与例子
答案：文件编辑改变模型下一次看到的逻辑 token 序列，后续 cache 需要按前缀匹配重算；直接丢 KV 可保留逻辑记录却改变活跃缓存状态。二者操作对象不同，不能因为都降低活跃上下文就假设同样缓存身份或恢复语义。
教学例子：例如删掉文件开头一段文字后，后续 token 前缀已变化，不能照搬原先整段 KV；只 drop KV 则可能仍保留原文本记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
context file 为什么是模型行为的一部分，而不是固定外部摘要？
Context Language Models
问答新增：2026-10-27 · University of Washington / Meta Superintelligence Labs
展开答案与例子
答案：模型可以直接决定保留、删除、重组上下文文件，后续行动读取它编辑后的状态。传统固定 harness 由外部规则决定何时压缩和保留什么，行为责任不同；让模型编辑也带来丢失关键约束的风险，仍要有容量与执行合同。
教学例子：例如模型发现旧日志无用可主动删该段并保留结论，而不是等外部长度阈值统一摘要整段历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么全分支都解决的开发样本可移除，仍要保留有分支区分度的样本？
Mixture of Self-Improving Branches for Agent Harness Optimization
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：共同已会样本对判断分支差异的信息量较小，持续占预算会稀释真正弱点。各分支保留有辨别力的子集与提议策略，部署 router 再按输入选择开发冠军；这种适应性开发集不能被当独立最终测试，路由也不能读取测试标签来挑赢家。
教学例子：例如所有分支都能做简单排序，只有图搜索任务能区分两套策略，课程可把更多预算留给后者而不重复刷共同强项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
部署 router 可以读取各分支在当前 test 的真实得分来挑冠军吗？
Mixture of Self-Improving Branches for Agent Harness Optimization
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：不能。router 只看输入特征并选择开发期冠军，test 标签和未来执行分数不得进入。当前本地仅实现子集分化与线性输入路由，没有 LLM 生成 harness 或 SWE-bench，分支选择正确的 fixture 不代表真实混合模型收益。
教学例子：例如先跑所有分支再看隐藏 judge 选最好，是 oracle ensemble，不是只依据请求输入的部署路由。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
输入路由多个专门分支，与始终运行一个全局冠军，有何假设差异？
Mixture of Self-Improving Branches for Agent Harness Optimization
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：全局冠军假设同一 harness 能覆盖各类输入，分支混合则允许不同流程各擅长一部分任务，再由公开输入特征选择。专门化可能改善匹配，也引入路由错误与维护成本；路由只能用部署时可见信息，不能读当前测试真实分数再挑赢家。
教学例子：教学例：代码题和浏览题分别有开发集冠军，router 可据任务特征选择；若先看两者在本题的金标得分才选择，就不是可部署路由。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
为什么多分支要维护不同开发子集和 proposal policy？
Mixture of Self-Improving Branches for Agent Harness Optimization
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：如果所有分支看同样样本并采用相同提案，很容易收敛成重复 harness；差异化子集与策略保留专长，后续由输入路由选择。分支数增加也消耗开发成本，不能把多次搜索的总预算隐去再与单分支比较。
教学例子：例如一支专攻工具格式，另一支专攻长程验证，输入路由才有不同能力可选，而不是多个同名副本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
PromptShift 为什么固定行为历史，只改变身份提示，再分别测量 Drift 与 SliceShift？
Measuring and Mitigating Identity-Cue Preference Drift in LLM-based Recommender Systems
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：同时更改历史和身份无法区分列表变化来自真实偏好还是身份线索。固定历史后，Drift 描述列表重叠与位次变化，SliceShift 描述群体流行度方向的变化，再按主流度调整相关性和逆流行度混合。它提供受控敏感性诊断，不足以单独证明社会因果歧视；本地也明确只做诊断。
教学例子：同一段电影观看历史分别附上与不附上身份描述，比较推荐是否系统性偏向某群体热门片。保持历史不变，才便于观察额外身份线索带来的列表移动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
PromptShift 的 reference 列表与身份提示列表，哪些输入必须保持相同？
Measuring and Mitigating Identity-Cue Preference Drift in LLM-based Recommender Systems
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：历史、候选、模型与解码条件应尽量一致，只改变待检身份线索，否则差异无法归因。共同条目位次与集合变化要按定义处理，不能把不相交项强行配位置。缓解参数也不能看 test 最有利结果再选。
教学例子：一组还多给最近点击，另一组没有，那就不再只检身份；即使发现明显漂移，也可能来自额外行为而非提示线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
自适应逆流行度混合与一律给冷门加分，相比用户条件在哪里？
Measuring and Mitigating Identity-Cue Preference Drift in LLM-based Recommender Systems
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：按主流度 m 决定原相关与逆流行贡献，意在让不同用户采取不同缓解强度；固定冷门奖对所有人同样操作。两者都可能牺牲相关性，诊断不等于真实公平或满意改善，来源本地不能进入正式能力排名。
教学例子：主流兴趣强用户可能需要不同校正，极小众用户再强推冷门可能没意义；先估用户状态而非统一给所有低流行内容同分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
PromptShift 发现列表 Drift 很大，能直接断定推荐准确率下降吗？
Measuring and Mitigating Identity-Cue Preference Drift in LLM-based Recommender Systems
问答新增：2026-10-27 · University of Electronic Science and Technology of China
展开答案与例子
答案：不能。Drift 描述相对参考列表改变多少，不含每个新旧物品是否更相关的完整判断。新列表可能更好、更差或只是不同；SliceShift 也只补群体流行度方向。若要讨论质量，需要独立相关性或用户反馈证据，不能把敏感性指标直接改名为准确率损失。
教学例子：两部同样适合用户的电影互换会增加位次漂移，却未必伤体验；换成无关热门片也会漂移，但要靠相关性评价才能分清。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Skill genome为什么必须检查相邻技能输入输出类型，而不能任意拼接高分模块？
EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：单个模块有效不代表组合后语义与形状兼容，类型合同先排除无法执行的技能链。控制器随后实际构造候选、评估validation，并只把超过晋级门槛的组合写入复用库。注册一个名称或通过类型检查都不等于完成集成；本地三种子只检查组合与状态转换，不是正式能力排名。
教学例子：输出item向量的技能不能直接接一个要求完整行为序列的技能；即使两者各自得分高，也要先有正确适配，再验证组合是否保留预期语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
技能类型检查为什么不能只比较最后一维大小？
EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：B×d 用户向量、B×C×d 候选向量与 B×T×d 序列状态有不同角色，即使末维相同也不等价。契约要覆盖批、候选与时间语义，实际执行组合再评估。本地只验证状态转换，不能将诊断标签升级为正式能力排名。
教学例子：把用户向量广播成所有候选表示可能不报错，却没有候选差异；程序能跑不能证明技能组合完成了预期的用户—物品交互。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
验证晋级与立即保存所有新 skill，相比如何控制复用库质量？
EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：未经验证模块可能无效或有害，只有达到相对基准门槛的创新才能进入可复用库，减少噪声经验误导后续。验证门槛仍受预算与数据限制，类型通过不代表提升，也不能反复用 test 决定晋级。失败可以记录，但不该冒充已证实技能。
教学例子：一个形状正确模块让验证分下降，应保留失败经验而非作为默认推荐技能；否则下一代会把坏结果当成功知识继续扩散。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
EvoSkillRec 为什么要求 skill 具有可执行的输入输出契约？
EvoSkillRec: Skill-Genome Evolution for Recommender Architecture Discovery
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：自然语言技能名无法保证模块可组合，类型约束把基因组变成能运行并被统一评估的程序。兼容只是第一道检查，不说明信息语义或推荐效果正确，还需独立验证和晋级。结构合法与能力证据应始终分开。
教学例子：序列编码器输出向量后可接向量评分头；若下一模块要求候选集合，名称看似相关也不能直接拼，必须有明确转换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
ROSS为什么保留历史轨迹的完整上下文，却只监督筛出的续写片段？
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
问答新增：2026-10-27 · AllSpark Team（原文以团队署名，未列机构）
展开答案与例子
答案：历史上下文说明续写发生在什么状态，删掉它会改变条件分布；只对选中续写计算损失，则避免把旧轨迹中的错误或冗余步骤都当标签。上下文可见与梯度监督需要独立掩码。本地选择掩码是固定诊断输入，没有实现论文选择器，不能据此宣称自动筛选能力。
教学例子：例如早期有一步错误但后续成功纠正，训练可读到整段经过，只学习被选的纠正续写；不能把可见上下文全部纳入模仿损失。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
ROSS当前本地selector是真实学习出来的吗？
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
问答新增：2026-10-27 · AllSpark Team（原文以团队署名，未列机构）
展开答案与例子
答案：不是，选择mask是fixture，只验证full-context与selective-loss边界。不得把固定mask的梯度隔离通过，写成自动筛选历史有效步骤的模型能力。
教学例子：例如测试明确指定学最后两句，只说明程序遵从mask，不说明会自己挑句。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
ROSS与直接删掉未选span再SFT有什么差别？
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
问答新增：2026-10-27 · AllSpark Team（原文以团队署名，未列机构）
展开答案与例子
答案：删span改变后续条件，完整上下文加选择loss则保留真实轨迹状态。选择器质量仍决定监督可靠性，mask准确不等于选择算法已经实现。
教学例子：例如移除错误前缀后，纠错句的含义和生成概率都可能改变。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
ROSS为什么重用历史self-rollout却不整段模仿？
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
问答新增：2026-10-27 · AllSpark Team（原文以团队署名，未列机构）
展开答案与例子
答案：旧轨迹包含错误与冗余，完整上下文仍决定后续状态，选择性续写监督只吸收有价值部分。可见文字与应学标签应分开，不能把历史存在就当正确。
教学例子：例如保留一次失败经过作背景，只学习后来被选中的纠正。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
ROFT为什么只监督自我回顾词元，而不把轨迹里的动作和环境反馈一起训练？
Shockingly Simple Self-retrospection Improves Agentic Models Without RL
问答新增：2026-10-27 · Rensselaer Polytechnic Institute
展开答案与例子
答案：完整轨迹与反馈是回顾所需的条件，监督对象则是模型事后归纳的经验。分开上下文掩码与目标掩码，可避免把环境文本或历史错误动作当成应模仿标签；损失按所有回顾词元统一平均。本地没有完整智能体数据闭环，注册名称也不代表已接入演化控制器。
教学例子：例如一次工具调用失败后，模型回顾应先检查参数；训练读取错误调用和报错，却只学习这段回顾，不模仿报错内容或错误动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
ROFT多个长短回顾的loss如何归一？
Shockingly Simple Self-retrospection Improves Agentic Models Without RL
问答新增：2026-10-27 · Rensselaer Polytechnic Institute
展开答案与例子
答案：按全部有效回顾词元全局平均，任务、动作、观察、反馈mask为零但保留输入。若先各回顾平均再等权，会改变长度权重；当前没有完整Agent数据或Evolve闭环。
教学例子：例如一条很短和一条很长回顾，两个平均方案赋予的词元总贡献不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
ROFT与用原轨迹动作做行为克隆有何不同？
Shockingly Simple Self-retrospection Improves Agentic Models Without RL
问答新增：2026-10-27 · Rensselaer Polytechnic Institute
展开答案与例子
答案：行为克隆模仿曾经采取的动作，回顾监督可学习避免这些动作的经验，两者标签对象不同。回顾若错误仍会误导，并非自我解释就天然可靠。
教学例子：例如失败动作是删错文件，回顾可教检查路径，而不是再模仿删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
ROFT为什么把环境反馈转成自我回顾再学习？
Shockingly Simple Self-retrospection Improves Agentic Models Without RL
问答新增：2026-10-27 · Rensselaer Polytechnic Institute
展开答案与例子
答案：直接终局奖励难表达可复用经验，模型事后写回顾将失败或成功转成文字监督。学习对象是回顾，不是把全部历史动作当作正确行为重放。
教学例子：例如执行错误后归纳应先检查文件权限，可成为下次任务的经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OLIVE的学生前缀参与条件输入，为什么不一起计入监督损失？
Learning from Teacher Continuations at Student States
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：学生先生成前缀，教师从这个真实学生状态继续，监督只落在教师续写的词元上。这样既保留学生容易遇到的偏离状态，又不把学生自己写错的前缀当作正确标签。教师续写质量仍是前提，掩码正确也不能替代完整语言模型实验。
教学例子：例如学生把计算写到一个可修复的中间步骤，教师接着纠正并完成；训练读取整段上下文，但只学习教师接续的部分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
OLIVE的prefix虽然不计loss，能从输入里删除吗？
Learning from Teacher Continuations at Student States
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不能，它仍决定教师续写和学生监督条件；只关闭prefix目标mask。需要明确拼接边界、EOS和padding，当前本地仅验证精确mask，未调用闭源教师。
教学例子：例如保留三步错误背景但不模仿这三步，才是在该学生状态继续学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
教师续写CE与教师给学生原token分布评分有何不同？
Learning from Teacher Continuations at Student States
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：前者新增教师生成的后缀作为监督文本，后者仍对学生实际采样token和状态评价。两者数据对象不同，不能把重评分核当成真实教师续写已执行。
教学例子：例如教师接下来写了新步骤，与只给学生旧步骤打分，不是同一数据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
OLIVE为什么让教师从学生到达的状态续写？
Learning from Teacher Continuations at Student States
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：学生错误分布与教师理想轨迹不同，在真实学生前缀上续写可提供更贴近部署状态的监督，帮助学习如何继续或修复，而非只背完整标准答案。
教学例子：例如学生已走到不常见中间式，教师从这里接着完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
MAS-OPD为什么把角色冲突归因放进教师视图，而不是直接改所有角色的奖励？
MAS-OPD: On-Policy Distillation for Multi-Agent Systems
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：多角色协作失败时，整体奖励难以说明哪个角色应改变行为。教师借助额外冲突信息形成角色相关的优势信号，让目标角色与其他角色的贡献有所区分。额外归因属于训练期信息，本地只验证角色优势和掩码，不能当作多模型协作能力复现。
教学例子：例如规划者路线合理但执行者选错工具，教师可把冲突归到执行动作；不能因为团队失败就同样惩罚规划和执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
MAS-OPD本地role advantage是否包含真实多模型联训？
MAS-OPD: On-Policy Distillation for Multi-Agent Systems
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：没有，只验证角色优势与特权冲突mask。需对齐角色、轨迹和有效生成位置，不能把非目标角色分数误加到目标输出，也不能把registry映射叫团队训练完成。
教学例子：例如数组里两角色交换顺序，计算可运行但信用会分给错误成员。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
协作冲突特权信息与直接给所有角色看完整归因有什么区别？
MAS-OPD: On-Policy Distillation for Multi-Agent Systems
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：原设计只让教师读取额外冲突说明，学生仍按自身公开角色历史行动。若所有学生先知道归因，会改变实际可用信息，并掩盖是否内化协作。
教学例子：例如训练教师知道是哪位误解需求，部署成员不能预先拿到事后答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
MAS-OPD为什么引入角色相关优势？
MAS-OPD: On-Policy Distillation for Multi-Agent Systems
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：团队结果难区分各成员责任，目标与非目标角色教师信号差提供局部协作监督。最终任务失败不应自动等量惩罚所有角色，角色归因质量仍需核验。
教学例子：例如检索成功但汇总漏信息，应区分搜索与总结责任。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
LSPD为什么对师生log-prob残差使用平方区间加Huber尾部，而不一律平方？
An RL View of OPD: Least Square Policy Distillation for Sample-Efficient LLM Reasoning
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：平方项在小残差附近直接收缩差距，但极端log概率差可能产生过强梯度。线性尾部限制异常值影响，同时保留纠偏方向；回答内先平均，再跨回答等权，避免长度改变样本权重。重放旧轨迹可以节约数据，但不能把它们说成当前策略新采样。
教学例子：多数token师生接近，仅一个词被教师赋极低概率；一律平方可能让这个异常位置主导整批，而稳健尾部控制其影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
LSPD怎样处理教师梯度和不同响应长度？
An RL View of OPD: Least Square Policy Distillation for Sample-Efficient LLM Reasoning
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：教师logp冻结，学生差可微；先各响应有效token平均，再批内等权平均，并按规定减熵项。控制器未实际执行和验证前，不能把登记名称叫Evolve已接入。
教学例子：例如长回答不因词元多就在该均值目标中自动加倍贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
LSPD稳健平方与普通reverse KL在尾部行为有什么不同？
An RL View of OPD: Least Square Policy Distillation for Sample-Efficient LLM Reasoning
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：稳健回归显式限制残差尾部斜率，KL依其分布和概率权重定义；不是把KL数值裁一下就自动相同。历史回放还改变状态来源，需要单独说明。
教学例子：例如log差翻倍时，尾部线性项与未限制平方项的梯度增长不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
LSPD为什么把teacher-student logp差当稳健回归残差？
An RL View of OPD: Least Square Policy Distillation for Sample-Efficient LLM Reasoning
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：平方项直接压缩差距，但极端差可能产生大梯度，Huber式尾部改成线性增长。它把蒸馏重写为可优化残差并允许历史轨迹复用。
教学例子：例如一个极罕见词造成巨大log差，不应无限支配整批更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Telescopic LM为什么要训练多个深度前缀，而不直接把训练好的深模型截短？
Telescopic Language Models
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：普通深模型主要在完整路径上接受监督，中间层截断后未必形成可用语言模型。Telescopic训练时抽取不同深度前缀做next-token监督，并保留全深度anchor，使同一checkpoint的多个深度都被显式训练。它提供可选计算预算，但浅层与深层的能力差距仍需分别评估。
教学例子：服务可按预算运行前8层或全部24层；如果训练一直只监督24层输出，前8层未必能独立预测。对不同前缀训练，才给这种切换提供依据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
Telescopic LM 怎样检查 full-depth anchor 没有被随机前缀训练覆盖掉？
Telescopic Language Models
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：需确认每步按设计保留全深度监督及其梯度路径，同时记录抽样深度。只见某个浅层loss下降不够；当前本地仅做随机深度与anchor梯度诊断，未完成20B-token预训练。
教学例子：抽到浅前缀的那一步，也要核对全深度anchor相关参数确实收到对应训练信号。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
随机抽深度前缀训练，与每步同时训练所有深度有什么预算差别？
Telescopic Language Models
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：随机前缀把一部分监督分配给当前抽到的深度，同时保留全深度anchor；每步遍历全部深度会有不同计算成本。比较时需对齐训练预算，不能只比较共享参数数量。
教学例子：一轮抽3层与一轮把1到12层每个出口都计算，单步开销不能视为相同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Telescopic LM 为什么希望一个 checkpoint 支持多个执行深度？
Telescopic Language Models
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：不同预算或输入可能只需要部分深度。方法在训练时让不同网络前缀都接受next-token监督，并保留全深度anchor，使截取后的前缀也被训练成可用语言模型。
教学例子：同一checkpoint可选择浅一些的前缀，而不必每种深度都从零训练一份模型。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
MS-GLA把几个token池化到一起后，怎样避免把未来信息漏给块前部？
MS-GLA: Multi-Scale Gated Linear Attention for Addressing Representational Bottlenecks via Multi-Temporal Resolution
问答新增：2026-10-27 · International Institute of Information Technology Hyderabad
展开答案与例子
答案：粗尺度分支先对不重叠块做masked平均，再运行GLA；一个块的汇总只有在块末token到达后才能对外可见。恢复token分辨率时使用因果hold，而不是把整块结果提前填回每个位置。多个时间尺度最后由输入相关权重融合，从而兼顾细粒度变化和更长时间范围。
教学例子：尺度4的块包含位置1到4；位置2不能读取由位置3、4共同形成的平均值。必须等到位置4结束后，后续位置才能使用这块的粗尺度状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
尺度为4的 pooled 表示何时才能供第一个块里的 token 使用？
MS-GLA: Multi-Scale Gated Linear Attention for Addressing Representational Bottlenecks via Multi-Temporal Resolution
问答新增：2026-10-27 · International Institute of Information Technology Hyderabad
展开答案与例子
答案：只有块末token到达后才可见，否则池化会泄漏块内未来。恢复token分辨率需使用因果hold，再按当前输入的softmax权重融合；不能直接把完整块均值广播给块内每个位置。
教学例子：第1词预测时不能使用第1到4词的平均值；第4词到达后才允许读取该块表示。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
多尺度 GLA 相对单一尺度，多出的并不只是更大的窗口，为什么？
MS-GLA: Multi-Scale Gated Linear Attention for Addressing Representational Bottlenecks via Multi-Temporal Resolution
问答新增：2026-10-27 · International Institute of Information Technology Hyderabad
展开答案与例子
答案：各尺度先对输入做不同粒度的无重叠池化，再分别执行GLA；这改变了状态更新的时间分辨率。只扩窗口仍按同样的token粒度更新，不能等价替代这条多尺度路径。
教学例子：每四词形成一次粗更新，与每词更新但多看四词，是不同的信息组织方式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
MS-GLA 为什么让不同 head 处理不同时间尺度？
MS-GLA: Multi-Scale Gated Linear Attention for Addressing Representational Bottlenecks via Multi-Temporal Resolution
问答新增：2026-10-27 · International Institute of Information Technology Hyderabad
展开答案与例子
答案：单一时间分辨率可能成为表征瓶颈。MS-GLA把头预算分配到多个尺度，让一部分保留逐token变化，另一部分处理池化后的较粗历史，再融合这些信息。
教学例子：短语内部细节与跨多个短语的趋势，不必都由同一种更新频率承担。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
有限个递归状态，怎样近似分数阶系统很长的幂律记忆？
Fractional State Space Transition for Long Sequence Modeling
问答新增：2026-10-27 · Huawei Noah's Ark Lab, Montreal Research Center
展开答案与例子
答案：单个指数模式只有一种衰减时间尺度；方法用对数间隔的多个指数模式共同逼近幂律尾部。快速模式追踪近期变化，慢速模式保留更远历史，组合后获得更宽的有效记忆范围。它仍是有限模式近似，因此状态容量和近似区间有限，不能据此宣称无限精确记忆。
教学例子：用快、中、慢三条衰减通道同时记录一次事件；短期主要由快通道贡献，过很久后由慢通道贡献。三者相加能比单一衰减更接近长尾影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
测试有限模态递归时，应该检查哪些内容而不是只看输出形状？
Fractional State Space Transition for Long Sequence Modeling
问答新增：2026-10-27 · Huawei Noah's Ark Lab, Montreal Research Center
展开答案与例子
答案：应检验递归更新与对应有限模态计算一致、长尾记忆不变量以及状态跨步传递。当前记录属于这类算子诊断，不能把它标成1.3B语言模型效果或完整训练复现。
教学例子：向序列早期注入一次脉冲，检查多个状态随时间衰减后的合成贡献是否符合所定义的近似。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
为什么多个不同衰减速度的状态，比单个指数衰减更适合近似长尾？
Fractional State Space Transition for Long Sequence Modeling
问答新增：2026-10-27 · Huawei Noah's Ark Lab, Montreal Research Center
展开答案与例子
答案：单个指数状态只有一种时间尺度；多个对数间隔的模态可分别覆盖近期与远期，组合后更接近幂律。有限模态仍只在一定范围内近似，不等于精确实现无限历史。
教学例子：快状态记短期波动，慢状态记长期趋势，两者相加而非强迫一个衰减率兼顾全部。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Frac-SSM 所说的幂律记忆，与只记住最近窗口有何区别？
Fractional State Space Transition for Long Sequence Modeling
问答新增：2026-10-27 · Huawei Noah's Ark Lab, Montreal Research Center
展开答案与例子
答案：幂律尾部表示旧事件的影响衰减较慢，不在固定窗口边界突然消失。Frac-SSM用有限指数模态近似这类长尾，在有界递归状态中保留多个时间尺度。
教学例子：很久前的一次事件仍可能有较弱影响，而不是离开最近100步后立即归零。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
失败后为什么只编辑相关子目标的后缀，而不重写整条计划？
SAGE: Symbolic Action-Gating and Editing for LLM Task Planners
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：已完成前缀对应真实执行状态，全部重写容易重复动作或假设环境回到了起点。符号门先依据前置条件拦截并给类型化原因，再让规划器修复受影响的后续部分；保留前缀不是盲目坚持旧计划，而是维持与当前世界一致的执行历史。
教学例子：例如杯子已经洗净、下一步发现柜门锁住，应修改放置方案，而不再把“洗杯子”重复执行并假设柜门早已打开。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
零 token gate 能证明完整 LLM 规划器已低成本复现吗？
SAGE: Symbolic Action-Gating and Editing for LLM Task Planners
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：不能。零 token 只指符号门自身不调用语言模型，计划生成与后缀改写仍有各自成本。本地只执行 gate 和局部后缀编辑 reference，未运行 AI2-THOR；三 seed fixture 通过不能当真实具身任务成功率或端到端推理成本。
教学例子：例如门用一个布尔检查拒绝开柜子，并不包含生成新计划的模型调用；只统计该检查会遗漏实际恢复成本。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
类型化失败原因与一段自由文本“失败了”相比有什么用？
SAGE: Symbolic Action-Gating and Editing for LLM Task Planners
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：类型化原因把缺少资源、前提不满足或相关子目标问题区分开，局部编辑器可据此重写受影响后缀。泛化失败文本容易引发整计划重写或重复已完成动作；更明确的反馈也依赖符号状态正确，不能替代真实环境反馈。
教学例子：例如“柜门上锁”应触发取钥匙或换位置，而“物体不存在”应触发重新感知，两者不是同一种恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
符号 action gate 为什么要在动作执行前检查前置条件？
SAGE: Symbolic Action-Gating and Editing for LLM Task Planners
问答新增：2026-10-27 · 原文首页未列机构
展开答案与例子
答案：前置条件用于判断当前世界是否允许动作，执行前拦截可避免已知不合法或不安全操作，并给规划器类型化原因。门只覆盖已建模规则，不能因为符号检查通过就宣称现实绝对安全；环境状态与规则若不完整仍可能失效。
教学例子：例如抓取前要求手为空且物体可达，门可在执行前拦截“手里已有物体”的动作，而不是撞错后再解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么慢速搜索规划与快速记录判断要拆开，而不是每条记录都长推理？
Mnemon: Raw Records, Fast Judgments, Slow Thoughts
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：搜索规划决定下一步去哪里找证据，逐条资格判断则更适合受限快速决策；分开能把推理预算集中在检索方向，而非重复解释每份候选。原始带日期记录仍保留，最终回答只读预算内小视图；快速判断本身不保证证据完备或时间边界正确。
教学例子：例如先决定查某次发布会议，再快速筛选几十条记录是否相关，最后把少量原文交给回答器，而不对每条写长篇分析。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 bounded view 验证是否覆盖 Jev 语义判断与原回答模型？
Mnemon: Raw Records, Fast Judgments, Slow Thoughts
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：没有。本地只执行 raw-record 检索与预算内视图构造，未加载 Jev checkpoint，也不复述 LoCoMo 分数。记录顺序、日期与预算可以独立核对，但需要真实模型才可评价哪些记录语义上必要，以及原回答器是否能用其正确回答。
教学例子：例如测试把三条指定记录装进容量内，说明视图接口正常；它没证明判断器能从自然语言自行选中那三条。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
保留原始带日期记录，与持续重写一份长期摘要，在可追溯性上有何取舍？
Mnemon: Raw Records, Fast Judgments, Slow Thoughts
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：原始记录保留具体措辞、时间和细节，可按不同问题重新筛选，但占存储且需要查询时阅读；持续摘要更紧凑，却可能在重写中抹去来源或少见细节。Mnemon 从原记录构造预算内视图，视图只是本次选择，不能视为对全部历史的永久无损替代。
教学例子：教学例：摘要写“客户倾向方案甲”，原邮件却注明“仅本季度”；后续问下一季度时，需要回到带日期的原记录核对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
Mnemon 为什么保留带日期原记录，却只给回答模型一个小视图？
Mnemon: Raw Records, Fast Judgments, Slow Thoughts
问答新增：2026-10-27 · 原文未列机构
展开答案与例子
答案：原记录保留可核查细节与时间来源，小视图在当前预算内提供必要证据，避免完整历史反复占上下文。慢规划生成搜索，快速 Jev 判断记录是否需要，两者服务于证据筛选；小视图遗漏时仍需回查，不能视为无损概括全部历史。
教学例子：例如问最近一次改期，可从多年原记录中挑出相关几条带日期事件，而不把全部聊天重新发给回答模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
冻结任务模型权重，为什么仍然可以发生测试时适配？
Harness Learning Enables Generalizable Test-Time Adaptation
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：可适配对象是模型外可执行组件，如验证、解释器、检索或重试协议；执行反馈改变这些脚手架，进而影响同一模型之后的行为。它不同于微调，也不允许借接口把隐藏答案送给 proposer；本地分类策略更新更不能冒充整篇真实 LLM 适配链。
教学例子：例如模型不变，但失败后为 shell 输出加入截断与错误定位器，下一次更易处理；改的是交互运行方式而非神经权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
为何支持外部 callback 仍不能称已接入通用 Agent runner 或 Evolve？
Harness Learning Enables Generalizable Test-Time Adaptation
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：可信 callback 只是执行接口，通用系统还要安全运行任意 harness 并隔离验证。当前缺这条完整链，适配输入也只允许 score 与 failure 类型，不含 gold 或隐藏 verifier 字段；mini-suite 成功率不能当开放 Agent 能力。
教学例子：例如 callback 直接返回预设高分能测闭环控制，但没有实际候选执行，就不能用该回调作为晋级证据。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
组内相对奖励更新 revision policy 与手写固定修订规则有何不同？
Harness Learning Enables Generalizable Test-Time Adaptation
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：本地按候选执行分减组均值形成优势，对 revision logit 做 REINFORCE，允许反馈影响提案偏好；固定规则没有这种参数学习。该小型分类 proposer 仍不是论文完整通用 harness 学习，不能从一个公式推断所有组件都能安全自由修改。
教学例子：例如同组某修订实际更有效，它得到正优势增加选择倾向；不是因为规则作者预先指定它永远最好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Harness Learning 为什么把工具协议、记忆和规划流程也视为可学习对象？
Harness Learning Enables Generalizable Test-Time Adaptation
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：模型权重相同，外部工作流程仍会影响它能看到什么、何时调用工具和怎样恢复错误。Harness Learning 研究根据任务反馈修订这些可执行组织方式，减少把所有缺陷都归因于底座。流程适配有独立作用域，不能将它描述成模型参数已学到新能力。
教学例子：教学例：底座不变，只加入每次提交前的测试流程，也可能改变结果；这种变化来自执行组织，不能当成模型权重训练收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么先解状态图折扣固定点，再用对数势能差给动作信用？
GraphHCA: Closed-Form Hindsight Credit Assignment for Long-Horizon LLM Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：终局成功失败作为边界，经经验转移传播到共享状态，得到通往成功的折扣潜势；相邻状态的对数变化把远期信息转成局部推进信号，再在同起点动作间标准化。它利用完整 rollout 作训练归因，不能把这些事后成功边界交给评测 Agent 当观察。
教学例子：例如两条路径都经过同一中间状态，状态图可共享其后成功证据，再比较离开该状态的动作是靠近成功还是走入死路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地 Transition 与 success 输入为什么只留在 estimator，不进入 actor？
GraphHCA: Closed-Form Hindsight Credit Assignment for Long-Horizon LLM Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：终态标签用于训练侧势能估计，actor 只能读当时公开状态，不能提前获得图中最终成功边界。当前未训练语言模型或接入 Evolve，固定点收敛和信用排序只是机制证据，需真实 rollout、策略更新和隔离评价才算完整集成。
教学例子：例如训练后标注某终态成功可用来算信用，测试决策时若直接告诉 Agent 哪条后继通向成功，就泄露了结果。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
图势能差与整条轨迹同一个 advantage 有何区别？
GraphHCA: Closed-Form Hindsight Credit Assignment for Long-Horizon LLM Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：轨迹优势不区分哪步走近可成功区域，势能差尝试突出状态价值的改善或恶化，并在共享起点动作间标准化。它依赖经验转移概率和 ε，不能把差值当独立因果贡献，也不意味着所有循环都被可靠惩罚。
教学例子：例如终局相同的轨迹里，一步推进到高势能状态、另一步返回低势能状态可得到不同局部信用，而非统一广播。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
GraphHCA 为什么希望长程动作在最终成功之前也能获得有结构的训练信号？
GraphHCA: Closed-Form Hindsight Credit Assignment for Long-Horizon LLM Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：终局反馈稀疏时，早期探索和关键转移常被同一个轨迹奖励淹没。GraphHCA 把已观察状态转移组织成图，再将成功信息传播到相连状态，用于估计动作进展。图只覆盖已有数据，图上的势能不是环境真值，也不能把训练侧成功标签提前给部署 actor。
教学例子：教学例：多条路线都经某个关键开门状态才到终点，状态图可连接这些经验；未见过的门后状态仍不能凭图假定成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么检索到重复证据不应该反复获得同样的过程奖励？
Dr.Credit: Rubric-Grounded Process Credit Assignment for Deep Research Agents
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：过程信用应反映相对已接受证据的新支持，而不是工具调用次数。按 rubric 维护历史覆盖，再评本次新增或部分支持，能减少重复搜索刷分；最终结果优势仍保留，避免局部新颖证据与真正研究目标脱节，支持关系也须有可核验依据。
教学例子：例如两次返回同一发布日期，第二次没有补新约束就不应再拿完整奖励；找到此前缺失的机构证据才有新增贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地 rubric 与支持分由 fixture 提供时能验证什么？
Dr.Credit: Rubric-Grounded Process Credit Assignment for Deep Research Agents
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：能验证历史更新、重复证据不重复得分和增量信用方向，不能验证语义 judge 是否真实识别支持。策略不读 gold answer，三 seed mini-suite 也不是 Deep Research 能力；只有来源真实、匹配可信并有实际训练才能升级结论。
教学例子：例如预设证据甲支持规则一后可测第二次增量为零，但未测试模型能否从网页自行判断甲确实支持规则一。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
按 rubric 给增量过程反馈，与只在最终答案打分，对监督时机有何不同？
Dr.Credit: Rubric-Grounded Process Credit Assignment for Deep Research Agents
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：终局打分评价最终产物，却难区分此前哪些检索有效；增量支持沿过程检查各项要求何时获得新依据，把反馈连接到具体取证动作。过程支持不保证最后写对，最终答案也可能误用已找到材料，因此两种信号不能互相替代，更不能将训练 rubric 暴露给受评 actor。
教学例子：教学例：检索已找到正确日期，过程可确认一项证据补齐；最终回答却抄错年份，终局评分仍应指出答案错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Dr.Credit 为什么关注深度研究中每次检索有没有带来新的答案依据？
Dr.Credit: Rubric-Grounded Process Credit Assignment for Deep Research Agents
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：研究 Agent 可以不断搜索并收集很多相似材料，却未必补齐问题所需事实。Dr.Credit 研究把过程反馈与评价标准的证据支持联系起来，鼓励真正推进回答的检索。奖励来自训练侧的支持判断，不是文档数量，判断器和 rubric 的可靠性仍会限制信用质量。
教学例子：教学例：已有价格证据后再找三份同价转载，并未补上保修条件；下一次找到保修原文才可能填补新的回答要求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么自动评分区域的错误证书要按任务簇 bootstrap，而非把所有轨迹当独立样本？
Certified Selective Automation of LLM Agent Evaluation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：同任务多条轨迹共享难度与结构，独立抽样会低估相关性和不确定性。按簇重采样为自动判断区域建立错误率上界，只有低于预算才接管，其余保留人工或外部评估；低平均错误不等于任何阈值都可认证，证书还受校准分布与选择规则限制。
教学例子：例如一个任务生成一百条近似轨迹，不能当一百份独立成功证据压窄区间；应把这批一起作为任务簇处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
本地bootstrap证书可以直接宣称论文语料覆盖率吗？
Certified Selective Automation of LLM Agent Evaluation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：不能，mini-suite只验证聚类抽样和上界接管条件。任务身份、自动区域与错误标签应固定可追溯，置信上界而非点错误率需落在预算内才接管。
教学例子：例如样本错率低但上界仍高，不能提前宣布满足误判预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
选择性评测用错误率上置信界，比仅用自动区域的经验错误率多控制什么？
Certified Selective Automation of LLM Agent Evaluation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：经验错误率只总结已观察样本，上置信界还反映有限证据下的不确定性。只有界低于预算才自动接管，证据不足时即使暂时零错，也可能继续交人工。它控制的是选定自动区域的风险证据，不能承诺每条自动判断绝不出错。
教学例子：某小区域暂未发现错误，样本仍很少；经验值为零不代表错误上界已足够低，覆盖率不能据此随意扩大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
选择性自动评测为什么允许一部分交给人工？
Certified Selective Automation of LLM Agent Evaluation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：目标是在可证错误预算内自动处理可靠区域，而不是所有轨迹一律机器裁决。上置信界未达标时保留人工或其他评估，覆盖率与风险需一起报告。
教学例子：例如简单任务自动判，证据模糊的任务仍交审查，不能只报自动部分准确率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
训练教师能看完整历史时，为什么学生下一轮仍只能读有界 memory？
Continuous Context Management
问答新增：2026-10-27 · University of Miami
展开答案与例子
答案：特权历史用于给训练信号，学生部署接口仍受原任务、记忆和最新观察限制，这样才能学会把必要状态写入有限空间。若评测时把完整历史也补给学生，便绕过了连续管理的难题；记忆更新与动作一起输出，意味着保存选择必须服务下一步行为。
教学例子：例如教师知道早先提过的端口号，学生应把它写入小记忆供后续使用；测试时不能直接把整段旧对话重新塞回来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
如何检查 CCM 没有借未记录历史绕过有界上下文？
Continuous Context Management
问答新增：2026-10-27 · University of Miami
展开答案与例子
答案：检查每轮 policy 请求只含原任务、当前 memory 和最新观察，旧工具结果只有被写入 memory 才可见，并对 memory 施明确容量限制。本地只验这些状态合同，未运行 TerminalBench 或 WebShop checkpoint，不能把字段隔离测试当任务能力。
教学例子：例如把前一轮完整 transcript 藏在一个额外 metadata 字段也会破坏合同，即使主 prompt 看起来已经缩短。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
每轮维护有界状态，与只在回答前检索几条历史，在信息管理时机上有何区别？
Continuous Context Management
问答新增：2026-10-27 · University of Miami
展开答案与例子
答案：CCM 把记忆更新纳入每轮行动，当前保留什么会影响下一轮可见状态；只在回答前检索则把主要选择放到查询时，并依赖外部历史索引。二者改变信息瓶颈出现的位置，可能互补。有限状态的遗漏不能指望隐含完整历史补救，检索路线也要核算索引和读取成本。
教学例子：教学例：终端任务已切换目录，CCM 需要及时保留当前路径；事后只搜相关旧日志，可能找出命令却漏掉路径已经变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
连续执行很多轮任务时，CCM 想避免哪种上下文增长？
Continuous Context Management
问答新增：2026-10-27 · University of Miami
展开答案与例子
答案：把每轮观察、动作和思考全部重新发送，累计输入会越来越大，也容易让当前状态淹没在旧材料中。CCM 让 Agent 每轮维护可供下轮使用的有界记忆，同时继续行动，研究的是如何把过去压成足以决策的状态，而非让完整历史永久常驻。
教学例子：例如执行到第九十步时，通常需要当前文件、已确认结果和待办，不一定需要前八十九步所有终端输出原文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
FLVM为什么把测量混杂放进受限基线，再用受路由约束的潜变量修正反馈头？
Mend the Measurement Gap: Latent User Preference Modeling for Short-Form Video Recommendation
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：观看时长等反馈受视频长度和用户习惯影响，不是纯偏好。受限基线先解释测量条件，潜变量分别承担消费、主动参与和正负方向，反馈头只读取语义相关因子；基线停止梯度避免残差目标反过来任意改写参照。结构限制帮助分工，但不构成潜变量已被完全因果识别的保证。
教学例子：完整看完短片与中途划走长片可能秒数接近；基线解释长度机会，潜变量再区分主动喜欢与被动消费，不能让所有反馈都变成同一个时长偏好分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
FLVM 的反馈 mask 与固定潜因子路由为什么不能混为一项？
Mend the Measurement Gap: Latent User Preference Modeling for Short-Form Video Recommendation
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：观测 mask 决定该样本某标签是否存在，路由 mask 决定该反馈头允许读取哪些因子，作用轴不同。缺失标签不应置零，基线叠加需停止指定梯度；排序只用消费与正负方向的定义组合，不能直接把主动参与加作正奖励。
教学例子：没有 dislike 标签是未观测，不是明确喜欢；即使标签有效，讨厌头也不该读取与其语义无关的全部因子来绕过分工。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
FLVM 与普通多任务共享塔，相比受限 baseline 和 stop-gradient 限制了哪条捷径？
Mend the Measurement Gap: Latent User Preference Modeling for Short-Form Video Recommendation
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：时长与时段等因素先解释测量基线，完整用户物品信息通过潜变量修正，各头受固定语义路由约束，基线梯度另行训练。普通共享塔没有这类分工，容易混用所有信号。约束并不自动去掉混杂，本地潜变量分离也未获稳定证据。
教学例子：长视频更容易累积观看秒数，可先由基线解释长度；潜变量应学习额外偏好，而非把“长”直接当“喜欢”，但这种分工需要实测检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
FLVM 为什么区分消费、主动参与和参与方向三个潜在因子？
Mend the Measurement Gap: Latent User Preference Modeling for Short-Form Video Recommendation
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：看得久、主动点击和喜欢不等价，负反馈也可能很主动。分因子让各反馈头只读取语义相关分量，避免把所有参与当正向价值。它是受约束的潜变量模型，不保证因子天然具有可识别的真实心理含义，仍需独立语义检查。
教学例子：用户长时间看完争议视频又点讨厌，消费与主动参与都高，正向方向却低；一个单一参与度分数容易误把它当喜欢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
KuaFu为什么按单条行为压缩和缓存，而不是先把整段用户历史压成一份向量？
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：单条行为可被多个用户或不同画像任务复用，独立压缩后新增一条事件只需补充对应缓存。整段历史压缩则会把共享内容与用户上下文绑定，任何变化都可能要求重算。解码器仍按时间顺序读取压缩结果，保留组合解释机会；压缩会损失信息，本地诊断负结果不能被缓存效率掩盖。
教学例子：同一条视频行为的内容编码可供多位用户复用；某人今天多看一条，只增加该条缓存再按其历史顺序解码，不必重跑所有旧行为的文本。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
KuaFu 的 RL smoke 全部 reward 相同时，为什么应记录 skipped_zero_advantage？
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：组内奖励相同没有相对优势，策略梯度目标没有有效学习信号，调用优化器也不代表完成强化学习。来源明确保留空更新，QA 压缩训练与 RL 状态分别验收。不能将 GPU 上执行过一次前向写成奖励优化成功。
教学例子：四个回答奖励都一分，归一后优势为零，模型没有依据偏向哪条；应报告没有更新，而不是把四次高 reward 当作学会更好生成。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
KuaFu 的输入消融与独立训练原文对照，为什么证据强度不同？
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：复用压缩输入训练过的解码器再换原文，比较受输入分布适配影响；独立对照至少另起相同模型按原文预算训练，才更接近训练路径比较。来源补做独立对照后仍为负，且并非等 FLOPs 正式对比，不能只报压缩效率。
教学例子：让只练过压缩码的解码器突然读截断文字，差结果可能来自没适应；重新训练原文分支再比较，才能减少这项混淆。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
KuaFu 为什么同时在记忆 token 数和通道维度上压缩？
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：每条行为先由高维记忆表达，再投影到更少、更低维的缓存，分别减少序列位置和存储带宽；解码器按顺序组合这些条目。两轴都压缩会增加信息损失风险，不能把能重建部分回答理解为保留全部时间与因果关系。
教学例子：一条二十四词事件压成两个低维向量，比仅把词数减半更省缓存，但其中人名或时间可能丢失，需由任务指标检验而非只数压缩率。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Recursive OPSD的DCE与SRCL为什么都更新同一模型，却必须给标准解划不同信息边界？
Recursive Self-Improvement via On-Policy Distillation for Reasoning
问答新增：2026-10-27 · Meta AI / University of California, Riverside
展开答案与例子
答案：DCE用当前权重的特权教师在同一学生前缀上给分，更新后两种角色进入下一轮；SRCL则让模型只看自己的回答生成更短改写，标准解仅供验收。若把标准解给改写器，就把学习自修订变成照抄教师。两条目标互补，不是独立训练第二个教师模型。
教学例子：学生先尝试解题，教师借标准解评分；随后学生自行缩写原解，只在最终验收时检查正确，缩写提示不直接展示标准解。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Recursive OPSD无合格精简改写时应该怎样更新？
Recursive Self-Improvement via On-Policy Distillation for Reasoning
问答新增：2026-10-27 · Meta AI / University of California, Riverside
展开答案与例子
答案：只做DCE，不拿失败或不更短的改写强凑SFT。冻结教师对照也需明确提示角色差异，不能把本地assistant-side控制组冒称原版user-side OPSD基线。
教学例子：例如改写虽正确却更长，不满足SRCL资格，应留空而非改阈值让它通过。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
SRCL精简改写与直接让教师读gold重写有什么差别？
Recursive Self-Improvement via On-Policy Distillation for Reasoning
问答新增：2026-10-27 · Meta AI / University of California, Riverside
展开答案与例子
答案：改写模型只看问题和自身回答，不看gold，标准答案只供验收。要求更短、自包含、自然结束且正确，避免把带答案生成的改写当自主精简能力。
教学例子：例如改写提示不能附标准解，然后再声称模型靠自身删繁就简。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Recursive OPSD的DCE怎样让教师跟随学生变化？
Recursive Self-Improvement via On-Policy Distillation for Reasoning
问答新增：2026-10-27 · Meta AI / University of California, Riverside
展开答案与例子
答案：同轮师生共享当前权重，教师仅额外看标准解并停止梯度；学生更新后同份权重成为下一轮两视图。不是再训练一个独立教师或始终用初始教师。
教学例子：例如学生学会一种纠错后，下一轮特权教师也用这份新能力评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
双文档冲突实验为什么要同时交换词项身份和呈现顺序，而不只调换两段文字？
Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4
问答新增：2026-10-27 · Google
展开答案与例子
答案：只换顺序会把词本身偏好、来源角色与位置混在一起。四路交叉用正交对照分别估计这些效应，再按跨条件共同筛选集比较，未筛选敏感性分析仍保留。来源效应与位置效应不能由两个简单均值替代，该协议也只支持单模型短英文选择的行为结论。
教学例子：例如模型偏爱某个词时，它放哪都容易被选；同时交换哪个词代表旧来源，才有机会分清来源标签与先后位置各贡献了多少。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
BCa 区间失败或输入零方差时，能默默回退再给出 equivalent=true 吗？
Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4
问答新增：2026-10-27 · Google
展开答案与例子
答案：文档明确保留failed或degenerate并令equivalent=null，不静默换percentile。十条件主分析还应共用剔除并集，并保留未筛选敏感性分析，不能逐条件挑有利样本。
教学例子：bootstrap无法提供有效区间时，应显示未判定，而不是把异常处理当成等价通过。
依据：核心公式、实现与数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
四路分解中的顺序零对照 O 与位置效应 S，为什么不能混称？
Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4
问答新增：2026-10-27 · Google
展开答案与例子
答案：两者使用不同正负组合，测量对象不同；文档S才是位置效应，负S表示偏首，O用于零对照。各量是半效应，完整极差还要乘2，不能换标签横比。
教学例子：同一组e1到e4，换一组符号组合会得到另一种效应而非同名结果。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
Gemma 来源优先协议为什么把双文档冲突设计成多路交叉？
Words Speak Louder Than Order: A Behavioral Evaluation of Gemma 4
问答新增：2026-10-27 · Google
展开答案与例子
答案：词项本身、来源角色和呈现位置都可能影响选择。四路交叉让这些因素被单独分解，避免把词偏好或位置效应误写成模型信任某种来源。
教学例子：总是偏向词B，与总是偏向新文档提供的词，是两个不同倾向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
X-Rec 为什么在归一化 embedding 球面上做条件流生成，而不是逐 token 生成 SID？
X-Rec Technical Report
问答新增：2026-10-27 · TikTok (ByteDance)
展开答案与例子
答案：连续 trigger 可直接对接近邻检索，避免离散量化与逐码路径的误差。先预测粗 anchor，再让球面噪声沿测地线流向目标向量，切空间投影和球面积分维持归一化几何；历史前层只算一次，去噪仅更新末层生成 token。它仍有多步采样与检索成本，本地低预算结果为负，不能据结构声称优于 SID。
教学例子：先定位摄影兴趣区域，再从球面噪声生成多个检索向量，分别覆盖相机与镜头。向量始终留在物品归一化空间，最后交给 ANN，而不是先生成一串整数码再查表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
X-Rec本地有GPU吞吐回执吗，实际执行了什么？
X-Rec Technical Report
问答新增：2026-10-27 · TikTok (ByteDance)
展开答案与例子
答案：没有，目前CPU缩比执行anchor、测地RFM、末层KV复用及球面Euler等核心链。未有工业ANN、流式服务和线上A/B，CPU微基准不代表生产吞吐。
教学例子：例如缓存历史后少算层能验证结构，但不能据此写A100速度提升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
球面流与普通欧氏向量插值有什么不同？
X-Rec Technical Report
问答新增：2026-10-27 · TikTok (ByteDance)
展开答案与例子
答案：球面路径沿测地线，速度需切空间投影，避免离开归一几何；欧氏直线可能穿球内部。多步计算不必每次重跑全部历史，末层复用缓存是另一独立设计。
教学例子：例如两个单位向量的中点通常不再单位长度，不能直接当同样球面状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
X-Rec为什么在item embedding球面上生成trigger？
X-Rec Technical Report
问答新增：2026-10-27 · TikTok (ByteDance)
展开答案与例子
答案：直接生成归一向量后检索多个兴趣区，避免SID离散量化及逐码解码。anchor提供粗区域条件，流匹配学习从球面噪声到目标方向，仍需有效item近邻落地。
教学例子：例如生成几个不同兴趣方向，再从目录找各方向相近内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
Research Agent 与 Model Agent 为什么通过提案衔接，而不是共享完整实验日志？
Advancing Model Research in AgentX: Long-Horizon Autonomy for Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：提案明确研究问题、约束和获批方向，模型实现侧再在固定业务输入与预测任务下多轮试验，减少两侧上下文相互淹没。返回中间最佳、负结果与未解问题支持下一研究决策；衔接的是证据化研究接口，不是只报最后一个漂亮分数。
教学例子：例如研究侧提出检验长历史压缩假设，模型侧反馈最佳版本及失效条件，研究者据此决定下一假设，无需读每次编译输出。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
历史 replay 的候选结果何时揭示，本地数据如何避免未来泄露？
Advancing Model Research in AgentX: Long-Horizon Autonomy for Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：只有父实验已选才能选子节点，候选结果选中后才揭示；MovieLens 按时间留后两交互验证测试，训练统计不读未来，champion 只看 validation。规则选择器与逻辑回归 replay 不冒充论文 LLM 研究 Agent，更不复刻线上 A/B。
教学例子：例如未选择的另一个分支即使记录里成绩很高，也不能让 selector 提前读取来决定下一步，否则变成未来指标 oracle。
依据：本地复现、可执行路径与防泄漏边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
相对父节点提升与刷新整条祖先路径最佳为什么不同？
Advancing Model Research in AgentX: Long-Horizon Autonomy for Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：若父节点曾退化，子实验恢复一部分即可得到正增量，却未超过更早冠军。同时计算父差与可比祖先差避免把恢复宣传为新突破；Diagnose 主要降低不确定性，也不应与涨 AUC 的行动按同一即时目标排序。
教学例子：例如祖先 AUC .80、父本 .75、子本 .78，子比父涨 .03，但仍比路径最佳低 .02，两个事实应同时保留。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
AgentX-Model 为什么需要把一次研究选择与后续真实实验串起来？
Advancing Model Research in AgentX: Long-Horizon Autonomy for Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：自动研究要决定下一步试什么，再由实现和评测获得新证据，不能只持续生成方案文本。该工作通过研究与模型执行角色衔接提案，使搜索历史反映实际试过的候选。历史 replay 只能重放已有结果的揭示与选择，不能证明这些训练实验在本地重新发生。
教学例子：教学例：研究者提出换损失函数，执行者训练后才返回结果；重放旧日志时也应等选中该候选后揭示分数，不能提前偷看未来。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
OneTrans-V2 三个阶段共享用户上下文，为什么又禁止阶段 token 彼此交叉读取？
OneTrans-V2: Unifying Retrieval, Pre-rank, and Fine-rank with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：用户行为编码是三个阶段反复使用的昂贵公共部分，共享它可以减少重复计算。各阶段保留自己的输入和目标，并只读取请求时刻之前的行为，防止下游信息或未来行为通过注意力路径泄漏到上游。精排知识通过受控蒸馏损失反馈给预排，而非开放任意读取；本地没有独立三级基线，不能声称级联效果改善。
教学例子：召回、预排、精排都读同一份已发生的浏览历史，但召回 token 不直接看精排标签或未来点击。预排学习精排判断时走停止梯度的教师信号，而不是偷看答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
OneTrans-V2 的 decision offset 为什么只该直接改决策 logits？
OneTrans-V2: Unifying Retrieval, Pre-rank, and Fine-rank with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：本地机制测试把 offset 作用在两维可观测代理决策，给定决策的 SID 分布以及预排、精排输出不应被直接改写。它检查控制接口独立性，不代表购买金额、广告供给等未观测业务都实现。真实评分阈值也不能改称 CTR/CVR。
教学例子：提高“发现”代理 offset 应改变决策选择机会，不应直接给所有精排分加常数；若后者一起变，就不是独立决策前缀接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
OneTrans-V2 的独立阶段注意力与精排到预排蒸馏，为什么不是互相矛盾？
OneTrans-V2: Unifying Retrieval, Pre-rank, and Fine-rank with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：前向隔离限制服务时可见输入，蒸馏在训练侧通过停止梯度教师提供软监督，影响参数但不让预排在线读精排输出。两条路径作用时点不同。来源没有独立三级基线，不能据阶段均可运行推断级联收益。
教学例子：训练教预排模仿精排判断合理，上线预排仍须单独执行；若每次先跑完精排再将分数送预排，已经失去原阶段顺序与成本目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
OneTrans-V2 为什么共享用户上下文但仍保留三个阶段的输入和目标？
OneTrans-V2: Unifying Retrieval, Pre-rank, and Fine-rank with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：检索、预排和精排候选规模与可用特征不同，完全合并目标会失去阶段约束。公共因果历史避免重复编码，各阶段 token 按自身信息输出，再以受控损失传经验。统一主干不等于一个任务可以读取别阶段的未来标签。
教学例子：检索可只知语义码，精排额外知商品细字段；共享历史并不允许检索在请求时偷看精排才有的后验结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
已经分别预测点赞率和点击率，为什么还需要预测两者的联合标签？
Learned Cross-Task Relationships in Multi-Task Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：边际概率无法确定两个反馈是否集中在同一批样本上。联合头补充依赖信息，既能给共享表示额外监督，也能成为下游决策信号；这两种收益应分开验证。由边际与联合值恢复完整分布时，还要检查概率是否可行，不能把负概率裁掉后就声称模型已经校准。
教学例子：两个模型都预测点击率和点赞率各为20%，一种情况完全发生在同一群人，另一种彼此分离；只看两个边际，无法区分应如何组合业务目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
从 pX、pY、pXY 恢复四格联合分布时，为什么不能把负概率静默裁零？
Learned Cross-Task Relationships in Multi-Task Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：四格需满足非负与总和为一，pXY 还受边际界限约束。负值暴露模型估计不一致，裁零后再称校准正确会隐藏问题。来源保留不可行标记，标签只进损失与评分；点击或长看不能成为曝光前输入。
教学例子：pX 为零点二、pXY 为零点四会得到负的“仅点击”概率。应报告不一致，而不是剪到零后假装原模型输出了合法联合分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
真实 cross-label 辅助头与打乱标签辅助头对照，为什么比只比较有无额外参数更有信息？
Learned Cross-Task Relationships in Multi-Task Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：新增头可能仅因多了梯度或正则而改变主干，打乱联合标签保留训练形式却破坏真实任务关系，可帮助区分关系信号与一般辅助训练效应。它仍是有限诊断，稀疏小切片不能支持稳定能力外推。
教学例子：真实点击且长看标签改善，而同样大小但乱序标签没有改善，更支持联合关系有用；若两者相似，就要考虑只是额外训练扰动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
两个边际概率相同的多任务模型，为什么仍可能对联合行为作不同判断？
Learned Cross-Task Relationships in Multi-Task Models
问答新增：2026-10-27 · Google
展开答案与例子
答案：边际只描述各事件发生频率，不决定它们是否一起发生。联合概率补充依赖结构，协方差由联合量减去边际乘积得到，可为共享表示及下游策略提供额外信息。前提是任务对在数据中有足够非退化组合，互斥或常量标签不能硬套同一解释。
教学例子：点击率和长看率都为一半时，两事件可总是一起，也可完全错开；仅看两个边际无法区分，联合头才能表达这种差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
PACT为什么先更新actor再重算比率训练critic，soft target超过一时能直接clamp吗？
PACT: From Credit Assignment to Critic Alignment
问答新增：2026-10-27 · AllSpark Team
展开答案与例子
答案：critic应逼近更新后的策略，因此用新旧actor的token概率比校正旧轨迹回报，再拟合对应目标。逐样本的比率乘奖励可能超过一，直接截断会改变目标，不能套用只接收标准概率标签的BCE接口。更新顺序和稳定softplus表达都属于机制。
教学例子：actor已更偏向某个成功动作，critic仍只拟合旧采样分布会滞后；概率比校正用于让旧结果服务新策略价值估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
PACT的ρR大于一时为什么不能塞进普通概率BCE接口？
PACT: From Credit Assignment to Critic Alignment
问答新增：2026-10-27 · AllSpark Team
展开答案与例子
答案：软目标可能超一，需按softplus(z)减Yz的规定形式计算，并过滤超界比率。标准API若假定目标在零一可能拒绝或隐改语义；本地少量非零结果不证明稳定能力提升。
教学例子：例如奖励一乘略大于一的比值，目标自然超过一，并不应偷偷裁回一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
PACT先更新actor再训练critic，与只拟合旧策略有什么差别？
PACT: From Credit Assignment to Critic Alignment
问答新增：2026-10-27 · AllSpark Team
展开答案与例子
答案：critic应跟随更新后策略，因此用新旧actor当前词元比修正目标。该单词元近似不是未来完整续写的重要性乘积，不能据此称精确continuation校正。
教学例子：例如actor已改变接下来动作，critic仍只背旧回报会落后于当前策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
PACT为什么把token信用联系到前缀价值？
PACT: From Credit Assignment to Critic Alignment
问答新增：2026-10-27 · AllSpark Team
展开答案与例子
答案：终局奖励只有一个数，前缀条件期望帮助判断各位置尚有多少可改善空间，实际用R减V近似优势。精确信用有理论条件，学习critic只是可执行近似。
教学例子：例如同样失败，已很有把握的前缀与本来就困难的前缀可有不同优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
Light Heads对共享表示做stop-gradient后，新目标还能改善主干吗？
Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：单独的新目标损失不能通过这条路径更新共享主干，只能训练浅头，因此可以降低新增目标对旧任务的干扰。窗口重置又让并行模型的轻头训练年龄可比较，但会损失稀疏目标的长期拟合。隔离梯度与重置是两种不同控制，不能把新头AUC提高解释为主干能力已经因此增强。
教学例子：给成熟点击模型临时加一个新反馈头，梯度隔离可避免它伤害旧塔；每周重置便于公平比较不同上游，但新任务样本很少时也可能重新学不够。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
Light Head 梯度隔离与窗口重置，分别应检查哪些参数？
Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：仅新任务 loss 反传时共享 θ 梯度为零、轻头 ψ 非零；窗口切换只重新初始化 ψ，原主任务 φ 与 θ 保持约定。两项独立，不能因有重置就推断隔离成立，也不能重置优化器时误清主干状态。
教学例子：新目标一步更新后主干摘要若改变就隔离失败；窗口开始若把原点击头也重置，就不再是轻头实验，而是破坏了基线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
重置与不重置 Light Head，为什么是训练年龄可比性和稀疏拟合的取舍？
Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：每窗口重置让不同上游模型的轻头学习年龄相同，减少历史累积差异；不重置保留更多稀疏标签经验，可能拟合更好。来源本地短窗口重置明显退化，因此不能宣称重置普遍最优。是否重置取决于实验目标与数据量。
教学例子：甲头已训练三周、乙刚挂一天，直接比会混入年龄差；都重置更可比，但极少样本目标可能来不及重新学好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Light Heads 为什么把新增目标设计成浅头而非立即改共享主干？
Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：工业系统常要快速试新目标，同时保护已有任务与下游接口。浅头读取共享表示、只更新自身，让新监督成为低成本探针；它能利用主干已有知识却不能从该损失改善主干。新目标若需要缺失信息，轻头容量再大也难补。
教学例子：先在现有用户向量上试稀疏满意度目标，不必让少量标签改变全部点击网络；但向量没记录的细节不会因加头而自动出现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
UNIQUE 为什么采用扁平 code，并让候选 item/code 只读取公共前缀而不互读？
UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：扁平码避免多层残差量化逐层积累误差，反馈双塔、频率校正与 EMA 让分配兼顾行为和码使用。候选各自只读取公共用户前缀，既共享编码又保持候选隔离，联合训练 code 分布与排序目标连接召回和判别。它用较大单层空间换取路径简化，码利用与碰撞问题仍需监测。
教学例子：同一用户有十个候选，各自读一份共同历史，不读取邻居候选信息。物品先分到单层 code 提名，再对桶内商品排序，避免多层早期量化错误逐级传递。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
UNIQUE的直通量化与高均衡码使用能证明高质量召回吗？
UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：不能。直通估计让编码器得到梯度，频率校正改善使用，但均衡不等于用户相关。当前三seed仍小规模诊断，未重建工业索引和P99服务，不能外推线上收益。
教学例子：例如所有桶数量相同，也可能把不相关商品均匀混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
候选只读共享前缀与候选间setwise注意有什么差别？
UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：前者保持候选互不读取，便于共享用户编码及稳定打分；setwise会让候选集合改变相互表示。统一召回排序并不要求任意候选交互。
教学例子：例如新增候选不应通过目标间attention改掉旧候选编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
UNIQUE为什么用一个扁平code而非多级残差SID？
UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：它试图避免逐层量化误差积累，以反馈双塔表示、频率校正分配及EMA维护单层码，同时训练code召回与多目标排序。扁平不意味着码一定唯一对应物品。
教学例子：例如一次选语义桶后再排桶内商品，不必生成多级残差路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Music Rationales 为什么把陌生艺人推荐理由离线生成，并把“提名”和“展示理由”分开评估？
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
问答新增：2026-10-27 · Google
展开答案与例子
答案：离线生成让模型能利用完整历史做昂贵推理，再经实体规范化和理由过滤，在线只读取缓存，避免请求延迟。提名改变推荐谁，理由改变用户是否愿意点同一候选，两条路径可能独立影响互动。分开设置实验臂才能区分增益来自候选变化还是解释作用；理由可信也不能只靠语言流畅判断。
教学例子：同一位陌生爵士艺人，一组只展示名字，另一组增加“延续你常听的钢琴三重奏风格”。保持候选相同，才更接近检验理由本身是否帮助用户决定。
依据：背景与主要改动、核心公式与机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
Music Rationales 的目录过滤和缓存回退，为什么要保留拒绝与缺失状态？
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
问答新增：2026-10-27 · Google
展开答案与例子
答案：生成的艺人需标准化到真实目录，理由不可信则拒绝，缓存缺失走原推荐，不应强行填一段故事。提名结果与回退后的最终列表分开评估；来源单 seed 概念诊断没有解释 CTR，不能把有效理由率当用户受益。
教学例子：生成不存在的艺人时直接回 CF 比勉强匹配同名错误对象可靠；回退保障可服务，却不说明 LLM 提名本身成功。
依据：背景与主要改动、核心公式与机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
保持 CF 顺序只附解释，与把 LLM 提名放前面，两臂能回答什么不同问题？
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
问答新增：2026-10-27 · Google
展开答案与例子
答案：提名臂改变候选覆盖与位置，可影响离线命中；只附解释不改变列表，其 Hit 必然与原列表相同，离线只能看解释覆盖。理由对真实互动的作用需实际用户实验，不能由消费标签推断。两臂隔离可避免把候选变化误归解释。
教学例子：同五位艺人加理由后离线正确数不变，却可能让用户更愿意点击；这种行为改变需要曝光实验，不会自动出现在静态 Hit@5。
依据：背景与主要改动、核心公式与机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Music Rationales 的发现画像为什么包含未听艺人和个性化理由？
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
问答新增：2026-10-27 · Google
展开答案与例子
答案：陌生候选需要解释与用户既有兴趣的联系，画像将提名与理由一起准备，异步生成并校验实体和可信度。它帮助用户理解发现，而不是证明艺人真的符合口味；理由必须基于历史与内容，不能为了说服随意编造经历。
教学例子：用户常听钢琴三重奏，可说明新艺人与该编制的联系；若系统声称用户听过某艺人但记录没有，这不是个性化而是虚构。
依据：背景与主要改动、核心公式与机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
MuSeR 为什么近、中、远期历史用不同压缩步幅，还要让候选选择不同兴趣？
MuSeR: Scalable Long-sequence Recommendation with Multi-interest Modeling
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：近期行为保留细节以捕捉即时意图，较远历史用更大步幅汇聚以控制长序列成本。多个可学习查询再从压缩序列提取不同兴趣，候选依据相似度选择合适的兴趣组合。时间压缩解决“读多少历史”，多兴趣选择解决“读完后用哪部分”；二者互补，但汇聚仍可能损失远期稀有事件。
教学例子：用户长期爱摄影，近期在准备露营。远期摄影行为可合并保留稳定偏好，最近露营浏览逐条保留；相机候选与帐篷候选再分别激活不同兴趣向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
MuSeR 本地大相对 Recall 增益为什么仍需报告低绝对值与分模块结果？
MuSeR: Scalable Long-sequence Recommendation with Multi-interest Modeling
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：基线很低时小绝对变化也形成大百分比，不能遮掉整体仍难命中的事实；分层压缩本地消融差距小，联合改善不能全部归给它。测试抽样用户和全目录范围也应明确，标签代理不能称为原大模型摘要收益。
教学例子：Recall 从百分之一到约百分之二点六相对增幅很大，仍有绝大多数目标没进前十；只报一百多百分点会误导读者以为任务已解决。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MuSeR 的候选选择兴趣与统一平均多个兴趣，相比保留什么条件性？
MuSeR: Scalable Long-sequence Recommendation with Multi-interest Modeling
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：平均给所有候选同一汇总，候选 softmax 按相似度激活不同兴趣，让相机与帐篷读取不同用户侧知识。需要计算候选相关权重，不能把该结果全部当公共缓存。来源标签融合并不等于原 ERNIE/BGE 多模态链路已完整复刻。
教学例子：同一用户相机候选更重摄影向量，帐篷更重露营向量；若先平均，两个候选都只看到折中表示，可能稀释各自证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MuSeR 的多组可学习 query 为什么要加兴趣正交正则？
MuSeR: Scalable Long-sequence Recommendation with Multi-interest Modeling
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：多 query 可能全部读取同一热门模式，形式上多兴趣却缺少分工。正交项限制兴趣向量相似，鼓励不同方向供候选选择。几何不同不等于语义互补，也可能把真实相关兴趣推开，效果需用消融和任务指标检查。
教学例子：摄影与露营 query 若都只抓热门短视频，候选没有真正选择；分开方向可改善覆盖，但随机正交的两个向量也未必有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
EvoPilot为什么把匹配的两臂比较，而不是一个成功训练任务，作为证据单元？
Verify, Don't Trust: Agentic Model Development for Video Discovery Retrieval at Scale
问答新增：2026-10-27 · Meta Platforms
展开答案与例子
答案：单臂任务完成只能证明产物出现，无法说明提升来自哪项改动。EvoPilot固定共同基座、数据、评测器和输出深度，只允许批准的treatment不同，再从实际产物核对终态与来源；任一额外差异都会拒收。协议校验通过也可能得到负结果，它不是质量收益或上线许可的替代品。
教学例子：实验组换了交互层，同时多训一倍步数，即使分数更高也不能只归功于交互层；需要先恢复匹配预算，再接纳这对比较作为证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
EvoPilot 为什么从实际产物读终态与 provenance，而不只信调度器 success？
Verify, Don't Trust: Agentic Model Development for Video Discovery Retrieval at Scale
问答新增：2026-10-27 · Meta Platforms
展开答案与例子
答案：任务可能部分失败、运行错配置或留下旧文件，调度状态不能证明两臂证据存在。缺终态、版本或实际差异时 fail closed，不能默认为通过。来源本地还检验输出深度不匹配会被拒绝，显示协议应检查真实执行而非声明。
教学例子：任务结束但指标缺失时，不能沿用上轮 JSON 来完成比较；那会把未执行的结果误当作当前证据，哪怕分数看起来合理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
匹配 treatment 与复用历史高质量 baseline，为什么不总是同一比较？
Verify, Don't Trust: Agentic Model Development for Video Discovery Retrieval at Scale
问答新增：2026-10-27 · Meta Platforms
展开答案与例子
答案：历史 baseline 的 base、数据、评测器或输出深度可能已不同，多项变化会混淆差值。协议要求唯一批准 treatment 是实际差异，先建立同义两臂再讨论指标。更多种子只能估计波动，不能修复比较基础不匹配。
教学例子：新模型输出十层、历史基线只输出五层，就不再是“只换交互头”；即使训练都成功，差值也无法归给单一改动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
EvoPilot 为什么让负结果也可能通过 Verify？
Verify, Don't Trust: Agentic Model Development for Video Discovery Retrieval at Scale
问答新增：2026-10-27 · Meta Platforms
展开答案与例子
答案：Verify 检查比较协议与产物是否可靠，效果方向则是实验结论，二者不同。两臂匹配且产物完整的下降结果仍是有效证据；人工 Review 再审查解释与后续接纳。不能把成功验收误写成性能提升，也不能因负向就删掉真实结果。
教学例子：交互头降低命中但仅它发生变化，可接纳为有效负证据；另一实验数字上升却同时换数据，应先拒绝其归因比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
RetireOPD为什么不能仅凭学生成功率接近教师就立即退休所有教师？
RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：方法给不同技能配置解耦教师，退休同时考虑成功率接近和分布差距不再收缩。前者反映任务结果，后者提示继续蒸馏的边际空间；只看其中一项可能过早撤走有用指导。退休应针对相应技能判断，本地仅验证判据和更新，不代表论文规模多教师训练。
教学例子：例如学生搜索技能已接近搜索教师，但工具格式仍落后，前者可以考虑退休，不能据一个总成功率就把格式教师一并撤掉。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
RetireOPD本地判据通过是否代表已训练解耦Agent教师？
RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：没有，只执行退休状态与学生更新核。成功率、gap趋势、技能身份和退役状态需可追踪，不能只有一个registry标签就称完整多教师闭环。
教学例子：例如模拟统计触发retired，只验证条件分支，不证明真实教师已被替代。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
退休看成功率和分布gap，为什么不只看其一？
RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：成功率相近仍可能有可学行为差异，gap停滞也可能表示学生仍失败；联合条件用于判断继续蒸馏的价值。它是调度判据，不是所有能力超过教师的证明。
教学例子：例如任务得分接近但工具选择还不同，仍需核对差距是否真正收缩完。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
RetireOPD为什么为不同技能设置可退休教师？
RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：各技能掌握程度不同，教师可在学生接近其水平且分布进步停滞时退出，继续RL探索。统一固定教师预算可能对熟练技能过多、对薄弱技能不足。
教学例子：例如搜索已熟而格式仍弱，可分别决定是否保留指导。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
On-Demand Attention默认只读局部KV，什么时候才调用全局检索？
On-Demand Attention: Efficient Long-Context Decoding with Learned Recall
问答新增：2026-10-27 · Southern University of Science and Technology
展开答案与例子
答案：轻量recall head先预测一次全局注意力的预期收益，在真正执行昂贵全局读取前作决定；只有值得的token才触发。完整KV仍被保存，所以省掉的是部分解码位置的读取计算，不能据此声称缓存已经被删除或压缩。判断器漏判时，也可能失去本应使用的远程证据。
教学例子：连续生成固定格式标点时可能仅靠局部状态；到了需要引用开头编号的位置，再触发全局读取。这个触发决定必须先作，不能先花全局成本再宣称省掉了它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
为什么 ODA 的 recall 判断必须发生在全局 attention 之前？
On-Demand Attention: Efficient Long-Context Decoding with Learned Recall
问答新增：2026-10-27 · Southern University of Science and Technology
展开答案与例子
答案：若先计算完整全局attention再决定是否需要它，就已经支付了要节省的成本。门控应控制条件执行；本地A100回执只证明路径可运行，不能由此外推vLLM端到端吞吐。
教学例子：先翻完整本书再决定只看目录，并没有省下翻书工作。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
ODA 的按需读取，与直接驱逐旧 KV 的方法有什么不同？
On-Demand Attention: Efficient Long-Context Decoding with Learned Recall
问答新增：2026-10-27 · Southern University of Science and Technology
展开答案与例子
答案：ODA保留完整KV，只动态决定何时读取全局；驱逐会让部分历史缓存永久离开可访问集合。前者主要改变访问计算，后者还改变缓存容量，不能把两者的节省口径混在一起。
教学例子：某条旧信息本轮没有被读，不代表下一轮就无法从保留的KV中取回。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
ODA 所说的局部历史与远程历史，是按信息重要性划分的吗？
On-Demand Attention: Efficient Long-Context Decoding with Learned Recall
问答新增：2026-10-27 · Southern University of Science and Technology
展开答案与例子
答案：局部与远程首先是相对当前token的可读位置范围，不是重要与不重要的标签。重要证据可能在很久以前，近邻也可能无关；理解这一点，才能明白为什么局部读取之外仍需要按需全局访问。
教学例子：刚出现的几个词属于局部窗口，文章开头的人名可能已经在窗口外，却仍对当前问题很重要。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
dQwen3.5把混合骨干改成双向传播，为什么不只是把注意力的因果mask去掉？
dQwen3.5: Adapting Hybrid Language Models into Bidirectional Diffusion Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：混合骨干还包含递归状态，若只有注意力能看双向，递归分支仍可能保留单向信息约束。双向状态传播配合掩码去噪，才适应同时恢复多个位置的扩散任务。传播核可执行不表示检查点已经完成适配，本地未加载完整模型或复现预训练损失曲线。
教学例子：例如句首空位需要句末线索，注意力分支看到了后文，而单向递归分支仍读不到；只改一个mask无法让两条路径都拥有相同信息。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
测试混合骨干双向化时，为什么要同时检查 attention 与 recurrent 分支？
dQwen3.5: Adapting Hybrid Language Models into Bidirectional Diffusion Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：只移除attention因果mask，RNN分支仍可能保持单向状态，未完成文档中的双向混合传播。本地CUDA kernel仅证明组件路径运行，未加载9B checkpoint或复现完整去噪训练曲线。
教学例子：右侧可见信息若只进入一条分支，不能把另一条仍单向的分支当成已双向改造。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
双向 masked denoising 与自回归 next-token 训练，输入可见性有什么差异？
dQwen3.5: Adapting Hybrid Language Models into Bidirectional Diffusion Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：自回归预测受前缀因果约束；双向去噪可根据当前可见的左右上下文预测masked位置。改变目标后还需适配混合状态路径，不能借用AR解码缓存假设直接宣称等价。
教学例子：预测句子中间空缺时，后面的已知词是可用线索，而AR下一词预测不能读未来。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
dQwen3.5 为什么把混合骨干改造成双向扩散语言模型？
dQwen3.5: Adapting Hybrid Language Models into Bidirectional Diffusion Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：masked denoising需要利用可见上下文的两侧信息，不再只做从左到右next-token预测。对attention/RNN混合骨干，这涉及双向状态传播及训练目标，而非一个attention开关。
教学例子：中间词被遮住时，模型可利用左右两边已知文字恢复它。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
固定底层执行循环后分别改 planning、action space 与 context，为什么更能解释 harness 收益？
An Empirical Study of Harness Design for Coding Agents
问答新增：2026-10-27 · University of Massachusetts Amherst
展开答案与例子
答案：完整框架对比常同时改变多个因素，无法判断涨分来自更多推理、易用动作还是更好状态管理。保持循环不变并单独控制组件，减少混杂，再分别看效果与成本；组件参考实现或统计合同并不等于已经运行原文大规模编码任务。
教学例子：例如只把文件编辑接口换成精确替换，其他提示与预算不变，才能更集中评价动作空间，而非把同时换模型的收益一起算入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
本地可控harness因素是否等于跑完SWE-bench？
An Empirical Study of Harness Design for Coding Agents
问答新增：2026-10-27 · University of Massachusetts Amherst
展开答案与例子
答案：不是，当前mini-suite只验证因素与控制流。模型版本、预算和工具协议需固定，实际基准题和执行证据未运行就不能报告相应能力分数。
教学例子：例如模拟一个工具动作成功，不能换算成真实仓库修复成功率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
规划更详细与工具动作空间更丰富为什么不能合成一个提升结论？
An Empirical Study of Harness Design for Coding Agents
问答新增：2026-10-27 · University of Massachusetts Amherst
展开答案与例子
答案：二者影响成本和行为的路径不同，组合变化无法说明各自贡献。需有受控因素对照，且交互效应可能存在，不能把一次组合收益全归某一组件。
教学例子：例如同时加计划和新工具后成功，尚不知道主要帮助来自哪里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
Harness设计研究中的harness，具体包含模型之外的哪些决定？
An Empirical Study of Harness Design for Coding Agents
问答新增：2026-10-27 · University of Massachusetts Amherst
展开答案与例子
答案：它组织模型怎样计划、能使用什么动作空间，以及怎样管理上下文，再通过底层循环执行任务。这些是模型外的工作流程选择，不是替换一套模型权重。先识别可改动的harness组件，才能理解为何同一模型也会因执行方式不同而表现变化。
教学例子：同一编码模型可以一次只看到文件片段，也可以获得压缩后的多文件上下文；这属于harness设置变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
ANGLE有了层次广告标识，为什么解码时还要施加请求侧动态约束？
One-Step Retrieval Framework for Real-Time Sponsored Search Ads Using Hierarchical Text Representations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：标识层次只描述广告的组织方式，不保证每个请求都能投放所有合法组合。请求侧约束将库存、资格等条件落实到beam搜索，使不可服务标识在生成过程中被排除；生成、判别和排序目标再共同训练相关性。先任意生成再事后删掉无效项，可能浪费搜索预算且漏掉可用候选。
教学例子：同一意图下有多个广告摘要码，其中一项当前不可投；若等生成完再过滤，beam可能已被它占满，动态约束则把预算留给可服务广告。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
ANGLE 的合法 beam 约束应在生成完成后过滤，还是在每步扩展时应用？
One-Step Retrieval Framework for Real-Time Sponsored Search Ads Using Hierarchical Text Representations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：来源要求请求侧动态约束 beam，扩展时只允许属于当前合法标识集合的路径，避免预算花在最终必被丢弃的广告上。集合应按请求更新，不能用全局词表替代当前资格；本地生成与判别融合系数也必须来自验证而非测试选择。
教学例子：某地区不能投放的一类广告，在首个相关标识扩展时就屏蔽，比生成十条后发现九条不合法再过滤更能保留有效候选预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
ANGLE 的判别分与生成路径概率联合使用，和只按生成似然选 beam 有何目标区别？
One-Step Retrieval Framework for Real-Time Sponsored Search Ads Using Hierarchical Text Representations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：生成概率描述路径在上下文下多可能，判别信号额外要求层次标识与目标有区分力，排序再连接推荐价值。组合可校正仅靠似然偏好的方向，但权重决定折中，不能因加入判别器就保证所有目标更好；来源本地系数只在验证集选择。
教学例子：两个路径都常见，生成器偏爱热门摘要；判别分若更支持当前用户的细分需求，可提高另一条路径，但过重权重也可能压过合理的生成先验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
ANGLE 的“意图标识×摘要标识”为什么是层次输出而不是普通广告 ID？
One-Step Retrieval Framework for Real-Time Sponsored Search Ads Using Hierarchical Text Representations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：意图层组织广告满足的需求，摘要层进一步区分具体语义，生成器可沿层次路径共享信息并缩小选择范围。联合生成、判别与排序目标让路径既可预测又可区分；它仍需映射到实际广告，不能把生成一个合理概念当作已经找到合法投放对象。
教学例子：先定位“旅行准备”意图，再选“便携收纳”摘要，比把每条广告视作完全无关编号更容易共享知识，但最终仍须落到真实广告。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
离线OPD为什么比较成功参考模型与当前策略的逐词元似然，而不只按轨迹奖励排序？
Trajectory Learnability for Offline On-Policy Distillation
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：终局成功只能说明轨迹结果，不能说明当前学生在哪些位置还可学习。用成功轨迹训练参考模型，再比较其与当前策略的词元似然变化，可形成轨迹可学性权重。该信号仍依赖参考模型和离线覆盖，不能恢复数据中从未出现的状态，本地只是权重核验证。
教学例子：例如两条都答对的解法，一条学生已熟练，另一条关键转折尚未掌握；可学性重加权试图区分它们，而非给相同成功标签就等权。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
本地可学性聚合是否包括论文完整GPU训练？
Trajectory Learnability for Offline On-Policy Distillation
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：不包括，只执行逐词元聚合与轨迹权重。参考和当前概率应评价同一文本前缀并保留版本，不能把不同响应的似然变化相减当可学性。
教学例子：例如旧模型评A解法、新模型评B解法，差值混入内容改变。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
离线可学性重权与重新采当前on-policy数据有什么差别？
Trajectory Learnability for Offline On-Policy Distillation
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：重权只在既有轨迹覆盖中分配预算，采新数据可发现新状态。前者不能凭权重恢复库里不存在的路径，不能因为名字含OPD就声称持续实时学生采样。
教学例子：例如缓存没有新解法，再怎么重权也不会自动生成它。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
轨迹可学性为什么不等同成功奖励？
Trajectory Learnability for Offline On-Policy Distillation
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：成功说明结果，学习价值还取决于当前学生是否已掌握。成功参考与当前策略的逐词元似然变化帮助区分已有知识与潜在可吸收部分，再重权离线轨迹。
教学例子：例如两条都对，一条学生会了，另一条尚缺关键转折。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
COMPO只比较正负参数扰动，怎样得到更新方向，为什么还需要坐标阈值？
A Zeroth-Order Paradigm for LLM Preference Alignment
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：正负扰动在同一偏好目标上的优劣提供方向符号，无需显式反向求导也能提出参数更新。一比特比较的信息较粗，噪声可能让少数坐标被误更新，因此逐坐标阈值用来抑制不可靠分量。这仍需要目标评估，不等于没有采样或评估成本。
教学例子：沿某个随机方向分别轻推和回退参数，比较哪边更符合固定偏好；差异不可靠的坐标先保持原样，而非全部跟随。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
COMPO为什么在一比特更新后还要逐坐标阈值化？
A Zeroth-Order Paradigm for LLM Preference Alignment
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：单次比较信息粗糙，方向估计中的弱坐标可能主要反映噪声。阈值用于抑制这些分量，代价是也可能丢掉小而真实的信号；本地只执行比较oracle和阈值核，未证明大模型对齐收益。
教学例子：例如某坐标多次估计都接近零，可先抑制；不能把所有小值都解释为无用参数。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
COMPO的零阶比较与一阶反向传播分别需要什么信息？
A Zeroth-Order Paradigm for LLM Preference Alignment
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：一阶方法需要目标对参数可微并可反传，零阶比较只需能评估扰动后的优劣。后者仍要付出多次目标评估，而且比较噪声会影响方向，不能把免反传等同免费或更准确。
教学例子：例如外部偏好裁判只能给两模型排序，也可提供比较信号，却不能直接返回每层梯度。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
COMPO所说的黑盒优化，是只改提示词而不改模型参数吗？
A Zeroth-Order Paradigm for LLM Preference Alignment
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：不是。黑盒指优化器不需要取得偏好目标的反向梯度，更新对象仍是模型参数。它能在参数附近提出扰动、调用目标比较接口，再产生下一参数点。只有一个只能接收提示词、不能部署参数扰动的远程接口，并不自动满足这个访问条件。
教学例子：能装载两份轻微改动的权重并比较结果，才有参数扰动接口；只修改聊天提示是另一种搜索。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
ASPIRE为什么让同一batch内的请求独立选择草稿长度，而不是统一一个长度？
ASPIRE: Asynchronous Batch Self-Speculative Decoding
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不同请求的接受率和剩余状态不同，统一长度会让低接受率请求浪费验证或让高接受率请求错失收益。调度还需结合当前批成本，而非只追求最长草稿；周期全注意力刷新用于纠正自投机状态。本地只验证调度和刷新门控，没有改造完整推理引擎。
教学例子：例如一个请求连续接受较深草稿，另一个常在首词拒绝，可给它们不同长度；但批处理开销也会改变选择，不能只按单请求接受率算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
本地 batch-aware scheduler 与 refresh gate，已经等于真实 vLLM serving 改造吗？
ASPIRE: Asynchronous Batch Self-Speculative Decoding
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：没有。需额外验证实际请求调度、缓存状态、refresh执行和端到端时间。文档只执行对应reference，未改vLLM服务引擎，不能用计划中的草稿长度直接报告部署吞吐。
教学例子：记录“本请求draft=8”并不证明服务系统已按该长度异步运行并正确交接KV。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
按请求独立选择 draft 长度，与完全忽略 batch 的单请求贪心相同吗？
ASPIRE: Asynchronous Batch Self-Speculative Decoding
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不同。文档明确同时依据当前batch成本，独立决策仍处于共享执行环境；单看本请求接受率可能忽略批处理资源和同步代价。异步批自推测并非把若干单请求策略直接并排。
教学例子：某请求多写几步虽提高自身接受数，却可能增加整个batch的验证成本。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
ASPIRE 为什么把草稿长度选择放到每个请求上？
ASPIRE: Asynchronous Batch Self-Speculative Decoding
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：同一batch请求的接受率和剩余情况不同，统一草稿长度容易让简单或困难请求互相拖累。方法用在线接受率与当前batch成本分别决策，并周期性refresh校正自推测状态。
教学例子：一条请求经常接受长草稿，另一条经常拒绝，两者不必始终写同样多draft。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么压缩多轮轨迹先裁叶节点，而不能按消息长度直接删最长一段？
Dependency-Aware Trajectory Refinement for Efficient Multi-Turn Agent Fine-Tuning
问答新增：2026-10-27 · ShanghaiTech University
展开答案与例子
答案：依赖 DAG 标记哪些轮次支撑最终答案，叶节点更可能是无下游依赖的冗余分支。后续严格和宽松合并再逐步减少重复，同时维持必要信息流；最长消息可能恰是关键工具证据，纯长度裁剪会把学习样本变成缺因果条件的残缺轨迹。
教学例子：例如长日志里包含唯一错误码，短闲聊反而无依赖；依赖裁剪应删闲聊叶节点，而不是因为日志长就优先扔掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地可审计 DAG 是否包含真实 LLM 依赖标注器？
Dependency-Aware Trajectory Refinement for Efficient Multi-Turn Agent Fine-Tuning
问答新增：2026-10-27 · ShanghaiTech University
展开答案与例子
答案：没有。本地只执行给定 fixture DAG 的裁剪合并，验证结构和拒绝路径，不冒充自动语义标注。若输入依赖漏掉关键边，算法可能合法删掉必要轮次；因此压缩率与机制通过不能当实际 Agent fine-tuning 质量或原文效果。
教学例子：例如 fixture 没标“答案依赖第二轮”，裁剪器无法凭空知道这条语义，测试图正确不能证明开放轨迹依赖抽取正确。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
叶节点裁剪与轮次合并在保留语义上有什么不同？
Dependency-Aware Trajectory Refinement for Efficient Multi-Turn Agent Fine-Tuning
问答新增：2026-10-27 · ShanghaiTech University
展开答案与例子
答案：裁剪移除不再服务目标的分支，合并把可共同表达的相邻或相关步骤压成更紧凑表示。严格合并约束更强，宽松合并追求进一步压缩但风险更高；处理顺序和依赖不变量需要保留，不能用任意摘要替代。
教学例子：例如两次重复读取同一状态可考虑合并，但验证与修改之间的因果顺序仍应明确，不能合成一句模糊“已处理”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
长多轮训练轨迹为什么不能只按长度截断来减少开销？
Dependency-Aware Trajectory Refinement for Efficient Multi-Turn Agent Fine-Tuning
问答新增：2026-10-27 · ShanghaiTech University
展开答案与例子
答案：工具轨迹包含观察、推理与动作的依赖，某段很早或很长的内容可能正是最终结论的依据，机械截断会让后文变得不可解释。Dependency Refinement 研究在减少轨迹负担时保留必要语义连接。依赖标注本身可能出错，压短不等于策略学会更多，也不证明被删内容永远无用。
教学例子：教学例：最早一轮取得授权范围，最后动作依赖它；若只留最近消息，训练样本会像是在没有前提时突然执行操作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
根据样本熟悉度自适应选专家，为什么还要把训练样本定向分配回专家？
CERA-MoA: Co-Evolving Router and Agents for Mixture-of-Agents
问答新增：2026-10-27 · IIIS, Tsinghua University
展开答案与例子
答案：路由不只在推理时挑人，训练分配会改变各专家之后擅长什么，两侧存在反馈。中层表示估计熟悉度，累计阈值控制本题需要多少专家，再定向训练强化分工；若只改路由却让所有专家始终同样训练，专长结构可能难以持续形成。
教学例子：例如代码题多分给更熟悉程序的专家，语言题给另一专家；边界不明确的题可激活更多成员，而不是永远固定同一队伍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
定向训练分配与仅在推理时路由的更新边界是什么？
CERA-MoA: Co-Evolving Router and Agents for Mixture-of-Agents
问答新增：2026-10-27 · IIIS, Tsinghua University
展开答案与例子
答案：CERA-MoA 还将训练样本定向分给对应专家，使路由和专家能力共同演化；只执行选择掩码没有训练这些策略。本地只验证熟悉度路由与定向更新 reference，未训练论文规模专家，三 seed 状态统计不能当真实专家能力进化。
教学例子：例如记录样本被分给专家甲，不代表甲已经完成梯度训练；必须看到相应参数更新与独立任务验证才能声称学习发生。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
累计阈值自适应选专家与固定 Top-2 有何不同？
CERA-MoA: Co-Evolving Router and Agents for Mixture-of-Agents
问答新增：2026-10-27 · IIIS, Tsinghua University
展开答案与例子
答案：固定 Top-2 每题使用相同数量专家，累计阈值根据分布集中程度调整集合，容易样本可少调用，不确定样本可多覆盖。变化的专家数也改变成本，因此质量比较需计入总计算，不能只看平均路由数就声称更高效。
教学例子：例如一个专家明显占优时可单独使用，多个专家分数接近时可能需更多协作，而非所有题一律两个。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
CERA-MoA 为什么希望不同专家分担自己更熟悉的样本？
CERA-MoA: Co-Evolving Router and Agents for Mixture-of-Agents
问答新增：2026-10-27 · IIIS, Tsinghua University
展开答案与例子
答案：多专家系统若对所有问题都调用同样数量的相同模型，可能浪费资源，也难形成分工。CERA-MoA 根据样本与专家的熟悉程度组织选择，并让训练分配支持这种差异。熟悉度是用于路由的信号，不等于答案已经正确，最终仍需核验任务结果和总计算开销。
教学例子：教学例：一个专家更熟悉代码，另一个更熟悉数学，可对不同样本分配不同参与集合；不能仅看角色名称就认定分工有效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
tlm-DRE为什么提高低置信轮次的权重，而不是给每轮相同惩罚？
Turn-level Multiscale Density Ratio Estimation for LLM Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：参考策略的长度平均对数概率被用作训练充分程度的估计，低置信轮次获得更高尺度，改变多轮密度比及正负轨迹的不对称训练压力。它依赖置信与学习需求的关系，不声称低概率动作必错；本地仅执行权重与更新诊断，未验证真实Agent泛化。
教学例子：工具选择轮次犹豫、最后复述轮次很确定，可把更多校正压力放在前者；但低置信可能也来自合法的罕见动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TLM-DRE本地轮权重核能代表真实多轮Agent训练吗？
Turn-level Multiscale Density Ratio Estimation for LLM Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不能。当前只执行轮次权重与非对称词元更新的参考计算，未运行完整智能体环境。输入应保留词元所属轮次，不能把拼接文本直接当作一轮并沿用原方法名称。
教学例子：例如三个工具轮次拼成长字符串后失去边界，就无法验证原本的turn分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
正负token密度比非对称更新与统一加权有什么差别？
Turn-level Multiscale Density Ratio Estimation for LLM Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：正负证据承担强化与抑制不同作用，非对称规则允许不同处理。统一规则会抹平这个设计，但非对称本身不证明对所有数据更好，需要真实多轮任务验证。
教学例子：例如鼓励关键正确动作和压低错误续写，不必被假定具有同样的权重曲线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TLM-DRE为什么在turn层面建模而不只平均全部词元？
Turn-level Multiscale Density Ratio Estimation for LLM Agents
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：多轮任务各轮贡献和长度不同，多尺度轮次权重能表达对话过程结构；把所有词元等权平均可能让长轮次支配信号。具体信用仍依赖输入密度比与反馈。
教学例子：例如简短工具选择可能关键，不能因只有几个词就被冗长描述的梯度淹没。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
TIAO遮蔽源文档后看token概率变化，为什么这比仅按回答长度分配信用更有针对性？
TIAO: Token Importance-Aware Policy Optimization for Text Summarization
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：摘要中不同token对原文证据的依赖不同，遮蔽前后的概率差提供这种依赖线索，再用于轨迹与token两层信用塑形。长度只能描述多少字，不能说明哪些内容依赖来源。但遮蔽也可能引入分布变化，因此依赖估计不能直接等同事实归因正确性。
教学例子：摘要里的日期依赖原文细节，而连接词可能不依赖；同样长度下，二者不应仅因位置相近就获得完全相同的证据信用。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
TIAO的有源和遮蔽评分应使用哪条响应？
TIAO: Token Importance-Aware Policy Optimization for Text Summarization
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：应围绕同一待评分响应及对应前缀比较，否则生成变化会混入遮蔽效应。mask与奖励计算作为训练信号处理，本地依赖核没有训练原文7B模型。
教学例子：例如有源评摘要A、遮蔽后另生成摘要B，差异不再只来自源信息移除。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TIAO双尺度信用与只在整篇摘要打分有什么不同？
TIAO: Token Importance-Aware Policy Optimization for Text Summarization
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：整篇分数评价总体质量，词元依赖再分配局部更新，方法同时处理轨迹层与词元层。单有高摘要分不说明每个词都得到适当监督。
教学例子：例如整篇不错但一个日期幻觉，可需要更局部的调整而非全篇同等强化。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
TIAO为什么遮蔽源文档来测token依赖？
TIAO: Token Importance-Aware Policy Optimization for Text Summarization
问答新增：2026-10-27 · National University of Defense Technology
展开答案与例子
答案：摘要应依赖原文，比较遮蔽前后概率可定位更受源证据影响的位置，再调整轨迹与词元信用。依赖性是关联线索，不保证该词事实正确。
教学例子：例如人名概率在删去相关句后明显变化，比固定连接词更可能依赖原文。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
被标为rejected的回答事实正确时，SD-DPO为何会反转偏好方向？
Style-Debiased DPO: Updating LLM Knowledge with Factuality-Aware Synthetic Preference Data
问答新增：2026-10-27 · Waseda University
展开答案与例子
答案：合成偏好可能把风格差异误当成知识错误，普通DPO会随之压低事实正确的表达。SD-DPO识别这类回答，反转对应偏好并按组比例加权，让两组风格梯度相互抵消。关键是事实判断与组构造可靠，不能把任何不同写法都自动改成正例。
教学例子：两份回答给出同一事实，一份简短、一份带客套话。若标签只偏爱客套话，直接训练可能学到风格而非知识。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SD-DPO本地事实分数来自哪里，能代表真实裁判识别能力吗？
Style-Debiased DPO: Updating LLM Knowledge with Factuality-Aware Synthetic Preference Data
问答新增：2026-10-27 · Waseda University
展开答案与例子
答案：本地事实分数由固定测试输入提供，执行的是偏好反转和组平衡损失。它能验证给定标签下的数据流与计算，不能证明自动事实裁判已实现，也不能据此宣称知识更新成功。
教学例子：例如测试指定某回答事实正确，程序按规则反转，只说明规则执行对，未说明它自己识别出事实。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SD-DPO的反转与简单删除风格样本有何不同？
Style-Debiased DPO: Updating LLM Knowledge with Factuality-Aware Synthetic Preference Data
问答新增：2026-10-27 · Waseda University
展开答案与例子
答案：删除只去掉这类样本的作用，反转再按组比例加权则试图抵消原有风格方向。能否正确区分事实与风格是前提，不能把错误回答也反转成正例。
教学例子：例如同一事实有正式与口语两种表达，应先确认内容正确，再讨论如何平衡风格监督。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
Style-Debiased DPO想更新的是知识，还是让模型统一采用某种文风？
Style-Debiased DPO: Updating LLM Knowledge with Factuality-Aware Synthetic Preference Data
问答新增：2026-10-27 · Waseda University
展开答案与例子
答案：它的任务是利用合成偏好更新知识，风格差异是需要排除的混杂因素。喜欢简洁或华丽表达，不能直接充当事实对错标签。先把知识正确性与表达形式分清，才能理解后续为何需要事实判断和组平衡，而不是把它当成风格个性化训练。
教学例子：同一新知识可以用短句或长段表达；目标是两种表达都保留正确知识，而非强制只输出短句。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OPD-Aha为何比较真实视觉输入与空视觉输入的教师分布？
OPD-Aha: From Linguistic Momentum to Visual Reflection in Multimodal On-Policy Distillation
问答新增：2026-10-27 · Arizona State University / University of Virginia / Stevens Institute of Technology
展开答案与例子
答案：错误前缀可能让教师继续顺着语言惯性推理。把真实画面与空视觉条件下的输出对比，可以提取画面带来的偏好变化，再用它构造蒸馏目标。这个差异帮助区分视觉证据与语言先验，但不保证视觉教师本身正确；本地只是目标构造诊断。
教学例子：例如前文误说图里是狗，教师在看到猫图与看不到图时的概率变化可突出猫的证据，而不是只复制带错前缀的整段回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
OPD-Aha本地目标重建通过是否意味着运行了多模态checkpoint？
OPD-Aha: From Linguistic Momentum to Visual Reflection in Multimodal On-Policy Distillation
问答新增：2026-10-27 · Arizona State University / University of Virginia / Stevens Institute of Technology
展开答案与例子
答案：不意味着，当前只有目标公式参考核。真实路径还需匹配视觉与空视觉输入、同一学生前缀及模型评分，不能用固定分布差直接报告看图反思效果。
教学例子：例如人工设置猫概率升高，验证的是重建计算，不是模型自己发现了猫。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
真实/空视觉对照与直接增加教师置信有何区别？
OPD-Aha: From Linguistic Momentum to Visual Reflection in Multimodal On-Policy Distillation
问答新增：2026-10-27 · Arizona State University / University of Virginia / Stevens Institute of Technology
展开答案与例子
答案：前者比较同教师在视觉条件变化下的差异，后者可能放大语言先验。对照也受空视觉构造与教师能力影响，不能保证所有改动都源于正确证据。
教学例子：例如两视图都自信说狗，单纯锐化不会制造看见猫的能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
OPD-Aha所说语言惯性是什么？
OPD-Aha: From Linguistic Momentum to Visual Reflection in Multimodal On-Policy Distillation
问答新增：2026-10-27 · Arizona State University / University of Virginia / Stevens Institute of Technology
展开答案与例子
答案：学生错误前缀可让教师顺着原说法继续，即使画面支持另一解释。真实与空视觉分布对照尝试找回视觉贡献，减少语言上下文压过证据。
教学例子：例如前文写狗，图里却是猫，后续不能只跟随前文称呼。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
GrowMTP为什么按实际接受深度训练草稿头，并把它与主干梯度解耦？
GrowMTP: Can RL Grow Its Own Draft Head?
问答新增：2026-10-27 · WeChat AI, Tencent / Peking University
展开答案与例子
答案：草稿越深，前面的提议必须先被接受才会真正影响生成，实际接受深度能提供与使用情形相关的训练信号。梯度解耦限制草稿加速目标干扰主策略的奖励学习。接受率与端到端速度还取决于硬件及验证成本，本地深度损失诊断没有测得GPU加速。
教学例子：例如第三个草稿词元只有前两个通过验证才有用，训练不能假定每个深度都同样可达；改善草稿头也不能自动算作主策略能力提升。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
GrowMTP为何要与主干梯度解耦，本地测了加速吗？
GrowMTP: Can RL Grow Its Own Draft Head?
问答新增：2026-10-27 · WeChat AI, Tencent / Peking University
展开答案与例子
答案：加速损失不应未经控制改变主RL目标，解耦限定其作用路径。当前只执行深度接受损失，未报告GPU吞吐，不能由接受率公式推算实际加速。
教学例子：例如草稿变准也可能增加计算，端到端速度还需真实计时。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
按接受深度学习与每个future head等权监督有何不同？
GrowMTP: Can RL Grow Its Own Draft Head?
问答新增：2026-10-27 · WeChat AI, Tencent / Peking University
展开答案与例子
答案：实际可用深度受前面接受事件约束，深度耦合反映这种使用条件；等权假定各头贡献相似。它仍需精确验证，不能因head训练好就跳过target。
教学例子：例如第三头只有前两步被接受后才可能真正节省生成步骤。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
GrowMTP为什么在RL过程中同时生长草稿头？
GrowMTP: Can RL Grow Its Own Draft Head?
问答新增：2026-10-27 · WeChat AI, Tencent / Peking University
展开答案与例子
答案：主策略持续变化会让静态draft过时，利用rollout接受反馈训练MTP头，使加速模块跟随策略。提升草稿效率与提升任务能力是不同目标。
教学例子：例如策略学会新表达后，草稿头也需学会提议它，才容易被接受。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Gamma-OPD为什么让教师信用沿时间折扣回传，还要补入可验证奖励优势？
Beyond Token-Local Imitation: Reward-Compatible Temporal Credit Assignment for On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / DiDi Voyager Labs
展开答案与例子
答案：局部token模仿可能忽略当前选择对后续整条序列分布的影响，时间信用将后续教师信号纳入当前位置。可验证结果则约束模仿方向与任务回报相容，不能仅因教师更支持某词就断言正确。本地折扣和奖励组件诊断不代表完整语言模型训练或正式能力提升。
教学例子：前面一次选择导致后面连续偏离教师，信用不应只落在最后几个词；但最终正确性仍需独立验证信号约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Gamma-OPD本地reference kernel覆盖什么边界？
Beyond Token-Local Imitation: Reward-Compatible Temporal Credit Assignment for On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / DiDi Voyager Labs
展开答案与例子
答案：当前执行折扣回传及有界奖励机制，没有论文规模语言模型训练。需保留时间顺序、终止mask与冻结教师信号，不能拿打乱token的数组测试宣称时序信用正确。
教学例子：例如把后续信用搬到另一条响应，数值仍可相加却失去原轨迹含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
折扣教师信用与额外混一个无界结果奖励有何区别？
Beyond Token-Local Imitation: Reward-Compatible Temporal Credit Assignment for On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / DiDi Voyager Labs
展开答案与例子
答案：折扣项承接序列蒸馏结构，有界奖励优势控制可验证信号强度；任意大权重终局奖会改变平衡。这里仅比较机制，不推断哪种方法在任务上必胜。
教学例子：例如一次极大外部奖不应不受限制压过所有时间蒸馏信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Gamma-OPD为什么引入时间信用而非只看当前位置log差？
Beyond Token-Local Imitation: Reward-Compatible Temporal Credit Assignment for On-Policy Distillation
问答新增：2026-10-27 · Tsinghua University / DiDi Voyager Labs
展开答案与例子
答案：当前选择影响后续生成，折扣回传让未来教师差异参与当前信用，再结合可验证回报约束任务方向。它强调时间依赖，不只是逐词即时模仿。
教学例子：例如前一步分叉导致后面多步偏离，局部一词差可能低估它的后果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
低分辨率 Macro Proxy 已经定位区域，为什么还需要按条件激活 Micro Tokens？
VideoMM: Adaptive Macro-Micro Inference for Efficient Video MLLMs
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：粗粒度表示能快速筛去大量无关内容，却可能无法区分小字或细微动作。只有宏观证据不足时才追加高保真细节，可以把预算集中到不确定之处；这要求保留粗到细的取证路径，而不是把所有问题都固定压到同一份低清摘要。
教学例子：例如粗看知道有人举牌，问是否举牌可直接回答；问牌上数字则可能需要激活对应区域的高分辨率 token。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
本地 macro 选择和 micro 激活的 GPU receipt 能覆盖完整视频 MLLM 吗？
VideoMM: Adaptive Macro-Micro Inference for Efficient Video MLLMs
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不能。receipt 只证明相应状态转换在 A100 上实际运行，本地没有加载完整视频 MLLM。门控触发次数、选中索引与预算检查属于机制证据，不能改称 LongVideoBench 分数或端到端吞吐，也不意味着语义共识判断已得到真实验证。
教学例子：例如测试里故意给出低共识值后成功激活 Micro，证明分支可达；它没有测试模型能否从真实画面估计该共识。
依据：核心公式与实现对应、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
按共识触发 Micro 与固定给每段相同高分辨率预算有什么取舍？
VideoMM: Adaptive Macro-Micro Inference for Efficient Video MLLMs
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：固定预算不依赖当前证据充分性，容易在简单区域重复花费；共识不足再触发 Micro 可集中开销，但路由错误也可能漏掉细节。应把“触发策略不同”与“实际问答更好”分开，后者需要相同视频、问题和成本下的比较。
教学例子：例如大部分片段只问场景类型，不必都读取细节；遇到区分相似工具的问题，宏观一致也未必足够，需要可靠触发条件。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
VideoMM 为什么先粗看视频，再决定哪里值得花更高分辨率预算？
VideoMM: Adaptive Macro-Micro Inference for Efficient Video MLLMs
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：长视频的高保真视觉输入成本大，但并非每一段或每个区域都与问题同样有关。VideoMM 用低分辨率 Macro Proxy 提供定位线索，再在宏观证据不足时获取细节。粗看节省输入也可能漏掉小目标，因此需要区分定位证据与真正支撑答案的高保真内容。
教学例子：教学例：先找人物进入房间的大致时段，再查看手中物品细节；若一开始给整段视频相同高清预算，会在无关段落耗费很多 token。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
为何相关性最高的视觉 Token 不一定组成最好的固定预算子集？
StackTok: Accelerating VLMs Inference with Budget-Adaptive Visual Token Selection
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：它们可能集中在同一区域，重复提供相同信息而遗漏全图结构。StackTok 以相关性为主要目标，并用随预算变化的覆盖参考检查当前缺口，再切换选取准则；覆盖并非固定比例的装饰项，不同问题与预算需要不同程度的支持。
教学例子：例如问整幅场景布局时，只选人物脸部的一堆高相关 patch 可能漏掉门的位置；补覆盖能保留另一类必要证据。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
本地 single-crop selector 的通过能说明五种论文 VLM 已加速吗？
StackTok: Accelerating VLMs Inference with Budget-Adaptive Visual Token Selection
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：不能。本地仅执行 reference-gated 的单 crop 选择，三 seed fixture 验证排序、门控与预算等状态不变量，未加载论文中的五个 VLM。选择索引正确不等于模型前向真的缩短，更不能从保留比例推算生成时延或准确率。
教学例子：例如返回十个互异索引且满足预算只验证选择器；若下游仍读取全部视觉 token，实际推理成本就没有相应降低。
依据：核心公式与实现对应、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
预算自适应覆盖约束与固定比例混合两个排序有什么区别？
StackTok: Accelerating VLMs Inference with Budget-Adaptive Visual Token Selection
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：固定混合始终以相同比例偏好相关性和覆盖，预算改变时未必合适；自适应约束会按当前支撑缺口切换选择准则。机制的重点是选择过程中的约束状态，而非额外计算一个静态多样性分数；效果仍需真实 VLM 与固定预算评估。
教学例子：例如只剩两个名额且关键区域尚未覆盖时，可以优先补支撑；预算宽松、覆盖已足够时再优先问题相关 token。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
固定视觉 token 预算下，StackTok 为什么不能只挑看起来最切题的几个位置？
StackTok: Accelerating VLMs Inference with Budget-Adaptive Visual Token Selection
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：视觉问题可能需要多个对象或空间关系，只保留单一热点附近的高相关 token 会失去回答所需覆盖。StackTok 研究在问题相关性目标与视觉覆盖约束间分配有限名额。覆盖不是平均保留所有区域，也不意味着更多多样性必然更好，应让所选集合服务当前问题。
教学例子：教学例：比较两辆车的位置时，只保留最显眼那辆车的多个 patch 很相关，却缺少另一辆车，无法完成关系判断。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
把持久递归记忆放在Transformer上下半层之间，改变了哪条信息通路？
Persistent Recurrent Memory Between Transformer Layers Improves Language Model Generalization
问答新增：2026-10-27 · FITec Labs / Ericsson São Paulo
展开答案与例子
答案：模型先从中间表示观察当前信息，用GRU更新持久状态，再由门控把状态影响交给后续层。它不是只在输入前拼一段固定摘要，也不是无条件把全部旧状态相加；观察、更新与影响三个动作分开，使当前计算能够决定记什么、何时使用。状态仍有容量和重置边界。
教学例子：上半层识别到新约束后写入状态，下半层可按门控使用它；如果当前线索无关，则可少写或少读，而不是让每条历史信息都同等进入输出。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
实现 observe–GRU update–gated influence 时，三个阶段能任意交换吗？
Persistent Recurrent Memory Between Transformer Layers Improves Language Model Generalization
问答新增：2026-10-27 · FITec Labs / Ericsson São Paulo
展开答案与例子
答案：不能按同一拓扑处理。应明确观察来自哪里、GRU使用哪个旧状态，以及上层收到更新前还是更新后的门控影响，再对照reference。当前拓扑诊断并未复现TinyStories完整训练曲线。
教学例子：先让上层读取旧状态再更新记忆，与先更新再影响上层，是不同的计算顺序。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
持久 GRU 记忆与普通 residual connection 的历史范围有什么不同？
Persistent Recurrent Memory Between Transformer Layers Improves Language Model Generalization
问答新增：2026-10-27 · FITec Labs / Ericsson São Paulo
展开答案与例子
答案：普通残差在当前计算图中传递表示；新增记忆按observe–update–influence持续维护额外状态。它改变了状态的存续与更新方式，并不等于无限保存每个历史token。
教学例子：一个已更新的记忆状态可以继续传下去，但不一定能逐字还原之前所有输入。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Persistent Recurrent Memory 想让 Transformer 多保留哪一种状态？
Persistent Recurrent Memory Between Transformer Layers Improves Language Model Generalization
问答新增：2026-10-27 · FITec Labs / Ericsson São Paulo
展开答案与例子
答案：它在上下半层之间增加持续更新的记忆通路，让当前表示先观察并更新递归状态，再受门控记忆影响。额外状态不只依赖当前层的普通残差累加。
教学例子：下半层提取的信息可先进入持久记忆，再帮助上半层处理后续内容。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
只固定随机种子，为何还不足以审计一次预训练能否逐步重放？
OPEN-1B: A Fully Auditable Training Run
问答新增：2026-10-27 · Gensyn
展开答案与例子
答案：数据批次、kernel归约与集体通信顺序也会影响浮点计算轨迹。OPEN-1B把这些执行条件与逐步状态哈希一起记录，用单步重放定位差异，而不只比较最终loss。状态哈希能发现不一致，但不能自动解释差异来源，也不等于换硬件后天然逐bit相同。
教学例子：同样梯度项换一种求和顺序就可能产生小数值差；若只保存seed，难以知道差异从哪一步开始，逐步哈希与执行顺序记录可帮助缩小范围。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
canonical hash 一致，能够独自证明整个400B-token训练已复现吗？
OPEN-1B: A Fully Auditable Training Run
问答新增：2026-10-27 · Gensyn
展开答案与例子
答案：不能。当前本地只验证固定顺序reduction与canonical hash；完整审计还需对应批次、状态和实际重放链路。哈希是状态对照工具，既不替代训练执行，也不单独证明算法正确。
教学例子：两个小张量编码后哈希相同，不等于已重放原文全部预训练步骤。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
只固定随机 seed，与固定 reduction、批次和通信顺序有什么区别？
OPEN-1B: A Fully Auditable Training Run
问答新增：2026-10-27 · Gensyn
展开答案与例子
答案：seed只控制部分随机来源，浮点归约顺序、批次次序和集体通信也可能改变结果。审计需要把这些执行条件显式固定，不能把同seed自动等同于跨硬件逐步可重放。
教学例子：加法顺序变化也可能积累数值差异，即使最初随机初始化相同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
OPEN-1B 为什么把逐步状态审计放到训练流程里？
OPEN-1B: A Fully Auditable Training Run
问答新增：2026-10-27 · Gensyn
展开答案与例子
答案：最终checkpoint不能单独说明每一步怎样得到。固定计算与数据顺序，并记录状态哈希，可支持重放某一步并对照状态，帮助定位训练执行差异。
教学例子：第100步开始偏离时，可先对照这一点的输入与状态，而不只比较最终模型分数。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
LoopSpec为什么利用循环深度的中间预测，而不必另训练一个完全独立草稿模型？
LoopSpec: Pipelined Self-Speculative Decoding for Looped Transformers
问答新增：2026-10-27 · Seoul National University / KAIST
展开答案与例子
答案：循环Transformer不同深度的状态可形成便宜的早期预测，再用更深计算验证；流水线残差提案试图把等待时间与后续工作重叠。中间预测只是提议，不自动拥有深层质量，真实收益取决于接受与调度开销。本地深度调度参考核没有证明GPU端到端吞吐。
教学例子：例如同一模型浅循环先提议下一段，深循环随后核验；若提议常被拒绝，虽然省了独立草稿模型，也可能无法抵消流水线成本。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
只实现 depth scheduler，是否已经实现 LoopSpec 的真实 GPU 流水线？
LoopSpec: Pipelined Self-Speculative Decoding for Looped Transformers
问答新增：2026-10-27 · Seoul National University / KAIST
展开答案与例子
答案：没有。调度reference只能核验深度与提案状态转换，还需真实执行重叠、缓存交接及正确验证。文档明确没有论文GPU吞吐声明，不能由计划中的并行时间线推导测量结果。
教学例子：日志写“提案与验证重叠”，不等于两项GPU工作实际并发且没有同步瓶颈。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
LoopSpec 与独立小草稿模型的 speculative decoding，多复用了什么？
LoopSpec: Pipelined Self-Speculative Decoding for Looped Transformers
问答新增：2026-10-27 · Seoul National University / KAIST
展开答案与例子
答案：它复用循环模型的中间深度预测与共享结构；独立drafter有另一套参数和运行路径。是否更快仍依赖提案质量、验证成本与实际调度，不能仅因少维护一个模型就断言加速。
教学例子：省去独立drafter权重，不代表每个候选都能被深层验证接受。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
LoopSpec 的自推测为什么适合重复共享块的模型？
LoopSpec: Pipelined Self-Speculative Decoding for Looped Transformers
问答新增：2026-10-27 · Seoul National University / KAIST
展开答案与例子
答案：循环深度中间就能给出较浅预测，可用作草稿而不必先训练完全独立drafter。后续更完整循环提供验证，流水线残差提案用于减少验证等待。
教学例子：同一模型较少循环的结果先提出候选，更多循环的路径再校验。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
插值null校准取λ=0时，为什么仍不是完全不校准？
How Calibration Content Shapes Attention-Based Reranking
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：插值在含指令空查询分数与完全空基线之间调节，零权重仍减去bare-null分数，只是不扣含指令那部分。三次模型评分必须按文档身份对齐，权重只能用验证集选；用全数据最佳权重得到的oracle分数不是独立测试收益。本地只实现分数运算核。
教学例子：例如文档即使没有问题也因长度获得偏高注意分，bare-null仍会扣掉这种基线；把零权重直接当原始分数，会比较错方法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
三次模型 pass 的分数数组长度相同，是否就能直接逐项相减？
How Calibration Content Shapes Attention-Based Reranking
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：还必须保证文档ID和顺序完全一致，不能只看shape。λ需按validation选择，不能拿全数据oracle λ当独立test效果；本地分数算子也不包含真实attention extractor。
教学例子：第二次pass把docA和docB交换了，逐位置减法会把另一个文档的null扣过来。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
标准 ICR、bare-null 与完全不校准，分别减去了什么？
How Calibration Content Shapes Attention-Based Reranking
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：λ=1减带指令null，λ=0减bare null，完全不校准才不减任何null。三者不是同一条参数轴的含混名字；比较时要把真实三pass输入与扣减项说明白。
教学例子：s(empty,empty)非零时，λ=0的排序分数仍可能明显不同于原始s(q,I)。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
attention reranking 为什么需要比较带指令 null 与 bare null？
How Calibration Content Shapes Attention-Based Reranking
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：无真实query时，指令本身也可能改变文档得分。插值null校准分开度量这部分影响，并控制从query+instruction得分中扣除哪种基线，避免把校准内容当成无关细节。
教学例子：相同文档仅因出现“判断相关性”指令而更高分，这部分未必来自用户query。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
ECHO用早层探索和末层校验，为什么bonus logits不能直接当最终采样分布？
ECHO: Early-layer Collaborative Hierarchical Orchestration with Bonus Logits in Speculative Decoding
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：早层高频提出候选，末层较低频进行权威验证，两侧额外分数用于协同补充候选树，提高有效提议覆盖。探索分布可以不同于目标分布，最终仍需精确拒绝采样校正。省略校正会改变输出分布，本地候选合并与张量路径也不能证明论文吞吐。
教学例子：例如早层补出一条末层原树未包含的分支，可以拿来验证；不能因它扩展了候选就直接接受，否则把草稿偏好混成了目标答案。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
ECHO 的候选合并通过与真实 CUDA 吞吐提升，验收对象有何不同？
ECHO: Early-layer Collaborative Hierarchical Orchestration with Bonus Logits in Speculative Decoding
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：本地reference检查候选合并和lossless校正，A100回执只确认tensor路径。实际加速还需真实早/末层调度、缓存与时间测量，不能把机制三种子直接写成论文服务吞吐。
教学例子：校正后候选分布正确，不代表探索与验证在GPU上已经按理想流水线重叠。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
ECHO 的候选探索分数与最终目标采样分布，为什么要分开？
ECHO: Early-layer Collaborative Hierarchical Orchestration with Bonus Logits in Speculative Decoding
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：bonus logits服务提案与树扩展，不能自动等同完整目标分布；精确拒绝采样校正才维护目标口径。若直接从bonus分布输出，就改变了希望保持的采样行为。
教学例子：某候选因探索奖励被优先尝试，不意味着最终被接受的概率也应额外增加。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
ECHO 为什么让早层频繁探索、末层较少次数权威校验？
ECHO: Early-layer Collaborative Hierarchical Orchestration with Bonus Logits in Speculative Decoding
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：早层提案较便宜，末层提供目标模型的可靠校验；双循环与bonus logits用于协同补候选树，希望减少等待和重复工作，同时保留最终采样校正。
教学例子：轻量路径先扩展候选，完整深度集中验证有希望的分支。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
内层演化 harness、外层更新策略，为什么不能简化成同一轮反复改 prompt？
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
问答新增：2026-10-27 · Gen-Verse research collaboration
展开答案与例子
答案：两层修改对象不同：内层优化交互方式，外层利用成功执行轨迹改变科学 Agent 的参数策略，后者又影响下一轮内层搜索。只有真实执行、筛选和训练组成闭环，才体现递归中的递归；参考门控函数或合成统计不能替代这些模型与环境过程。
教学例子：例如先找到更好的实验检查流程，再用其成功轨迹训练 Agent，使之后更会使用该流程；仅把提示重写三遍没有第二层更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 double-state reference 是否包含实验室和真实科学策略学习？
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
问答新增：2026-10-27 · Gen-Verse research collaboration
展开答案与例子
答案：不包含。本地只执行双层状态更新与门控 reference，没有真实实验室环境、完整科学任务或论文规模训练。三 seed 中间量能验证分支和信息流，不是可复制的科学发现成功率，也不能按状态更新次数声称递归学习已完整验证。
教学例子：例如计数显示内层改两次、外层更新一次，只说明控制状态发生变化，没有真实轨迹和梯度就不足以证明策略学会任务。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
双层反馈相比固定 harness 的单层训练可能带来什么取舍？
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
问答新增：2026-10-27 · Gen-Verse research collaboration
展开答案与例子
答案：双层可同时改善数据产生方式与策略，但两侧都变会增加归因与非平稳性，需分别记录版本、轨迹来源和更新。固定 harness 较易控制却可能限制探索；机制比较不能代替科学任务能力与真实实验结果。
教学例子：例如外层成绩上升可能来自更强工具反馈，也可能来自新参数，若版本不记录，就难判断哪一层贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
ScienceBuddy 为什么把科学任务中的工具交互和策略学习放在同一持续过程里？
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
问答新增：2026-10-27 · Gen-Verse research collaboration
展开答案与例子
答案：科学任务常需要提出动作、使用工具、解释观察并调整后续方案，固定一次提示难以覆盖不断出现的反馈。ScienceBuddy 研究工作流程与策略如何在这种交互中共同改进。两个层面的变化要分别追踪，模拟状态更新不能替代真实科学环境或模型训练证据。
教学例子：教学例：检索发现原假设缺少证据后，流程可改为先核查来源；策略是否真正学会这种判断，还需要后续实际任务验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
视觉拓扑与精确文本索引为什么要同步 refresh？
RepoAtlas: Guiding Coding Agents via Evolving Multimodal Repository Views
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：拓扑展示模块依赖，文本索引负责定位可编辑的真实符号，两者一旦不同步，Agent 可能沿正确图找到过期文件。select–project–refresh 在预算内选择任务相关子图并维护双视图，提供的是共同来源的导航接口，不是用一张漂亮架构图替代源码证据。
教学例子：例如函数被移动到新模块，图中调用边和文本路径都应更新；只刷新其中一侧会让后续检索指向已经不存在的位置。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地有界文本视图是否已实现真实 SWE-bench 多模态仓库环境？
RepoAtlas: Guiding Coding Agents via Evolving Multimodal Repository Views
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：没有。本地只用公开 observation 构造预算内文本视图及选择刷新状态，不声称真实浏览器或 SWE-bench 接入。索引、边与预算可验证，但视觉拓扑生成、模型消费和真实代码修改结果需要独立执行证据，不能由 fixture 直接补齐。
教学例子：例如输出十个节点和源位置只说明视图数据存在，没有模型看图并修复 issue，就不能报告仓库任务能力。
依据：核心公式与实现对应、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
任务相关代码子图与全仓库摘要有什么取舍？
RepoAtlas: Guiding Coding Agents via Evolving Multimodal Repository Views
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：子图在预算内保留当前任务最相关关系，减少无关信息，却可能漏掉远处依赖；全仓库摘要覆盖广但粒度粗。选择应随实现和反馈刷新，不能一次截图后永远复用，也不能把视觉图存在直接当作代码理解提升。
教学例子：例如修改认证函数需带入调用方与配置，若最初只看单文件，后续测试反馈可要求扩展子图。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
面对陌生大仓库时，RepoAtlas 希望 Agent 先建立怎样的地图？
RepoAtlas: Guiding Coding Agents via Evolving Multimodal Repository Views
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：只逐文件阅读容易迷失全局，只有仓库概览又难定位具体符号和依赖。RepoAtlas 研究把结构拓扑与精确文本入口结合，让 Agent 知道模块如何联系，也能回到实际代码检查。地图服务导航，不能替代源代码证据；代码变化后旧结构也可能误导后续修改。
教学例子：教学例：修登录问题时先看认证模块与 API 的联系，再跳到具体校验函数；只读模块名无法判断真正的条件分支。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
写入 Planner 与读取 Trigger 为什么需要跨会话延迟奖励共同学习？
Interactive Memory Learning for Long-Term Conversations
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen / Pengcheng Laboratory
展开答案与例子
答案：有些信息写下时看不出用途，直到后续会话才知道是否值得保存；读取时机又决定这些信息能否真正影响任务。共同延迟奖励连接写入选择和以后取用，避免只奖励当前摘要质量；评估仍须按时间先后，不能用未来问题提前挑选应写内容。
教学例子：例如今天记下用户换了工作地点，下一周规划通勤才体现价值；若只看当天聊天流畅度，可能永远学不到这条记忆该保存。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
observation-safe 状态机为何要区分写入时与未来评测时的信息？
Interactive Memory Learning for Long-Term Conversations
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen / Pengcheng Laboratory
展开答案与例子
答案：写入器只能看到当时已出现的观察，未来问题、答案和评分只可在相应执行后用于外部奖励。Planner/Trigger 延迟状态机本地验证的是这个隔离与反馈路径，未训练论文规模对话 Agent，不能用 fixture 的预设奖励声称记忆已学会长期偏好。
教学例子：例如将第三天问题藏进第一天写入输入可让系统轻易挑中所需事实，但这种前视泄露使学习效果无法成立。
依据：核心公式与实现对应、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
跨会话延迟奖励与每轮按检索相似度奖励有什么区别？
Interactive Memory Learning for Long-Term Conversations
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen / Pengcheng Laboratory
展开答案与例子
答案：相似度是即时代理，未必代表之后实际有用；延迟奖励观察后续对话结果，试图学习长期写入和触发价值。它也带来信用分配难题，不能把未来问题提前给写入器降低难度，否则不再是面向未知未来的记忆学习。
教学例子：例如一条低频过敏信息当时与话题不太相似，却在后续点餐很关键；即时相似度可能低估它的长期价值。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
跨会话助理为什么很难在第一天就知道哪些信息第三天才有用？
Interactive Memory Learning for Long-Term Conversations
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen / Pengcheng Laboratory
展开答案与例子
答案：未来请求尚未发生，当前写入者需要根据已见对话选择可能长期有价值的内容，之后读取者还要在合适情境取回。Interactive Memory 把这段长期交互视为学习问题，通过未来实际用途评价早期记忆决策，而不是提前给出未来问题。
教学例子：例如第一天用户随口提到不吃花生，第三天才让助理安排餐食；这条短信息的重要性要在后续交互中体现。
依据：背景与主要改动、核心公式与实现对应；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
隐藏动机可验证的模拟，为什么比只看用户转述是否流畅更适合测社会推理？
Verifiable Social Reasoning for LLM Assistants
问答新增：2026-10-27 · Google Research / Hebrew University of Jerusalem / University of Cambridge
展开答案与例子
答案：转述可能带偏见或遗漏，流畅回应未必识别各方真实目标。模拟环境保留不向被测者公开的动机与事件条件，评分侧据此检查推断，而非用表面措辞一致度代替；隐藏参考只能给验证器，固定逻辑 fixture 也不能冒充多 Agent 的真实语义交互。
教学例子：例如用户把同事拒绝请求说成敌意，模拟真因可能是资源冲突；评测应看助手是否据可见证据区分，而非附和转述。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
fuse-evaluator本地执行了哪些边界，是否调用十二外部LLM？
Verifiable Social Reasoning for LLM Assistants
问答新增：2026-10-27 · Google Research / Hebrew University of Jerusalem / University of Cambridge
展开答案与例子
答案：只执行observation-safe评测状态机，未调用该外部模型矩阵。公开观察与私有动机分开投影，不能把包含gold字段的内部对象直接传给代理回调。
教学例子：例如评分器知道真实关系，不代表助手输入也能拿到这列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
framing bias评测与普通问答准确率有什么区别？
Verifiable Social Reasoning for LLM Assistants
问答新增：2026-10-27 · Google Research / Hebrew University of Jerusalem / University of Cambridge
展开答案与例子
答案：表述框架可能引导归因，即使事实相同；对照转述与隐藏状态可测社会判断偏移。模拟行为不是所有真人关系，不能从小状态机推广全面社交理解。
教学例子：例如把同一迟到描述为敷衍或遇堵，框架可能改变助手判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
FUSE是在训练一个社交Agent，还是在提供可核验的社会推理评测环境？
Verifiable Social Reasoning for LLM Assistants
问答新增：2026-10-27 · Google Research / Hebrew University of Jerusalem / University of Cambridge
展开答案与例子
答案：这里讨论的是评测：在多Agent模拟中设置可验证的隐藏动机，观察助手如何理解用户转述和社会情境。隐藏状态为评分提供依据，并不是直接交给受测助手的答案。实现评测模拟或本地核，也不意味着已经训练出更好的社会推理模型。
教学例子：模拟里知道甲的真实意图，助手只读用户转述后作判断；评测器随后核对，而非先把意图告诉助手。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
失败后只修改责任技能组件，为什么比重新生成整份 GUI 技能更可审计？
Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：局部修改把失败证据与具体部件关联，保留已验证的其他行为，便于确认改动是否解决原缺陷而非引入大范围漂移。critic 还需信息隔离，不能凭隐藏答案给出神奇补丁；修改后的技能必须再验证，才有理由在其他任务中复用。
教学例子：例如登录技能只在弹窗关闭步骤失败，应先修正该组件的定位条件，而不把输入用户名、提交等已经可靠的部分一起重写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地公开 observation 修订演示能验证真实 GUI 跨任务复用吗？
Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：不能。当前只从公开观察读取证据、执行受限技能修改 reference，未运行 MobileWorld、AndroidWorld 或 OSWorld。可验证不读 gold、补丁范围与状态转换，但真实屏幕理解、点击执行及验证后的跨任务成功率仍未建立。
教学例子：例如字符串里按钮名变了后成功替换定位规则，只能证明补丁合同，不说明系统能在实际截图中找到新按钮。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
隔离 critic 的局部修订与执行 Agent 随手自改有什么差别？
Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：critic 依据允许的执行证据独立分析责任，限制补丁范围，再通过验证后复用；随手自改可能把执行时的错误假设继续带入修复。隔离并非保证判断正确，而是控制信息与责任边界，需要保留失败证据及验证结果。
教学例子：例如执行器误以为页面加载完成，critic 应能从观察发现等待条件不足，而不是直接沿用“按钮不存在”的错误结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
GUI 技能为什么容易随界面和任务变化而失效？
Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：按钮位置、页面顺序和操作前提可能改变，一份曾成功的技能不保证在新状态下还能执行。EvoSkill-GUI 关注失败后怎样把经验变成可验证的技能改进，再复用于后续任务；训练免费也不意味着不需要真实观察和执行验证。
教学例子：例如旧技能依赖右上角按钮，新界面把按钮移到菜单中，照搬轨迹会失败，需要依据当次屏幕修改相应经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
LazFormer为什么在可迁移预训练骨干之外保留ranking residual adapter？
LazFormer: Scaling Transformers for Industrial Recommendation via Transferable Generative Pre-training
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：生成式预训练学习通用序列规律，工业排序还需要候选交互与高频更新，直接全量覆盖可能破坏可迁移知识。残差适配为排序新增专门路径，近密远疏token和稀疏attention再控制长历史成本。本地仅保留确定性映射与适配组合组件，不能把其打分结果包装成完整生成式预训练已复现。
教学例子：预训骨干已掌握长期消费模式，新促销任务需要额外价格交互；残差路径可补这种任务信息，但用一个固定加权器不能证明原论文训练链路已经跑通。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
LazFormer 本地实现为什么不能用论文两周 A/B 数字作为自身训练结果？
LazFormer: Scaling Transformers for Industrial Recommendation via Transferable Generative Pre-training
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：来源明确限制为确定性候选打分、可迁移映射与 ranking residual，并只在验证选融合系数，没有完整大模型训练和线上系统。应报告实际公开协议负结果，把论文业务提升单独引用，不能用机制名称覆盖缺失链路。
教学例子：本地电影分数有一项 residual，并不表示已完成生成预训；将原文 GMV 百分比填进本地指标，会混淆完全不同证据来源。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
近密远疏 token 与固定最近截断，相比长程信息保留有什么区别？
LazFormer: Scaling Transformers for Industrial Recommendation via Transferable Generative Pre-training
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：截断直接丢远史，近密远疏让远期仍以较粗表示存在，近期保持细节，配合稀疏连接减少两两开销。压缩可能丢稀有事件，不能说信息无损；本地确定性映射与残差仅示意部分接口，不等于原文长序列预训。
教学例子：近两天点击逐条保留，去年兴趣按组摘要；比只看最近十条更能记长期偏好，但旧摘要未必保留一次重要的特殊需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
LazFormer 为什么区分可迁移生成预训与 ranking residual adapter？
LazFormer: Scaling Transformers for Industrial Recommendation via Transferable Generative Pre-training
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：预训学习广泛序列与语义结构，排序需适配候选价值和服务目标，残差提供任务特有更新而不完全重写基础表示。近密远疏输入和稀疏注意力另控制历史成本。它不是把已有打分器换个名字，实际训练与服务结构需逐项核验。
教学例子：预训知道用户从相机到镜头的兴趣演化，排序适配再考虑当前候选价格；单独迁移表示未必已经学会这份业务取舍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
GESE为什么先探索一组多样且忠实的标题，再按当前上下文选择一个？
Generate to Explore, Select to Exploit: Aligning LLM-based Headline Generation with Personalized Recommendation
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：只有一个固定标题无法适应不同用户，逐请求自由生成又可能昂贵且产生失真。集合探索先准备相互有区别、仍忠于内容的候选，selector再利用上下文选择，分离可复用创作与实时个性化。多样性不能以捏造事实换取；本地固定候选打分只验证选择组件，不等于重现完整标题生成训练。
教学例子：同一纪录片可有摄影视角或自然知识视角的忠实标题，面对不同用户选择其一；不能为了提高点击把影片没有的惊险情节写进候选集合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
GESE 本地候选打分实现为什么不能当作完整 LLM 生成训练？
Generate to Explore, Select to Exploit: Aligning LLM-based Headline Generation with Personalized Recommendation
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：来源明确用确定性 relevance、多样性、faithfulness 和上下文 selector 限定机制，验证候选选择逻辑，并未复刻大模型集合生成与生产后训练。应报告这些算子与负结果，论文线上数值只作为原文证据，不能填进本地指标。
教学例子：手工准备五个标题再选一个，可检验 selector，但不证明模型能生成这五个忠实标题；两阶段不能因共用论文名而合并成已完成链路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
GESE 与为每个用户实时调用 LLM 写标题，相比怎样分配计算？
Generate to Explore, Select to Exploit: Aligning LLM-based Headline Generation with Personalized Recommendation
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：预先探索可复用候选，把昂贵生成摊到多次请求，轻选择器负责实时适配；逐用户生成更灵活却增加延迟、重复成本与一致性风险。预生成也限制候选覆盖，机制取舍不能由本地确定性打分推断生产系统速度与效果。
教学例子：先为文章生成五种合法角度，千位用户只运行选择；如果某新场景所需角度不在五个里，selector 也不能现场创造它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
GESE 为什么把标题探索与个性化选择分开？
Generate to Explore, Select to Exploit: Aligning LLM-based Headline Generation with Personalized Recommendation
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：生成阶段提出一组相关、多样且忠于内容的标题，选择阶段再结合当前用户与上下文决定展示哪个，避免一次通用生成承担所有个性化。候选质量是前提，selector 无法修复集合里没有忠实标题的问题，也不应把吸睛等同于真实满意。
教学例子：同一文章可突出方法、场景或结论三种角度，用户不同选择不同标题；三种都不能把原文没有的效果写出来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
扩散模型清除上一段文本后只带固定register，为什么仍可能跨段推理又受信息瓶颈限制？
Register Tokens for Bounded-State Reasoning in Diffusion Language Models
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：连续register隐藏状态保存上一段提炼的信息，以固定大小传给下一段，避免上下文随段数无限增长。保留的是压缩状态而非完整文字历史，重要细节能否被编码并长期维持需要训练与评测。状态大小有界不等于推理记忆无损，本地未加载完整扩散检查点。
教学例子：例如上一段确定人物关系后把摘要状态传入下一段，原句已删除；若某个姓名未进入register，后文无法凭固定状态保证精确恢复。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
验证 bounded register carry 时，怎样防止上一块文本被旁路保留？
Register Tokens for Bounded-State Reasoning in Diffusion Language Models
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：需核对下一块输入确实只携带约定数量的register状态，清除旧文本及未声明缓存，并检查跨块状态更新。当前本地只执行bounded continuous carry，未加载LLaDA/Dream或训练diffu-GRPO。
教学例子：寄存器数虽固定，但若后台仍把旧文本拼到下一块输入，就不满足有界状态合同。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
register carry 与直接保留全部旧文本或 KV，记忆对象有什么不同？
Register Tokens for Bounded-State Reasoning in Diffusion Language Models
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：carry保留固定容量连续摘要，完整文本/KV保留更细粒度历史并随长度增长。前者控制状态规模，后者提供更直接的位置访问；不能把固定register当成无损压缩。
教学例子：两百页内容最终只传八个向量，其容量不会随页数增加而自动扩大。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
固定数量 register tokens 为什么能作为扩散模型跨 chunk 的记忆接口？
Register Tokens for Bounded-State Reasoning in Diffusion Language Models
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：连续hidden states把前一块信息带到下一块，即使原文本被清除也能保留部分影响。固定数量让状态容量有界，同时也形成信息瓶颈，不能保证保存全部旧证据。
教学例子：下一段只接收到几个连续寄存向量，而不是上一段完整文字。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
AgentKV为何保留跨阶段代表query，而不只用最近几步决定淘汰哪些KV？
AgentKV: Phase-Aware KV Eviction for Agentic LLMs
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：Agent任务会在规划、工具使用和总结等阶段切换；最近query只代表当前阶段，可能低估稍后会重新需要的证据。代表query buffer让缓存重要性兼顾多个阶段的读取需求。它改变淘汰依据，不会让被删除的KV自动可恢复，阶段代表性本身也需要验证。
教学例子：工具执行阶段反复关注命令参数，但最终总结还要回看最初的任务要求；只按最近命令查询淘汰，可能把最后仍需要的要求删掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
本地 phase-aware scoring 已经改造真实 SGLang KV 管理了吗？
AgentKV: Phase-Aware KV Eviction for Agentic LLMs
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：没有。文档只执行评分reference并输出阶段/缓存统计，未修改SGLang或运行CUDA kernel。接入服务还需真实缓存淘汰、索引与执行验证，不能由评分可运行推导服务性能。
教学例子：返回一组要保留的KV索引，并不等于服务引擎已按该索引释放和读取显存。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
phase-aware query buffer 与固定 recent-window，保留证据的标准有什么不同？
AgentKV: Phase-Aware KV Eviction for Agentic LLMs
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：recent-window按时间保留最近KV；phase-aware评分利用多个阶段查询与历史KV的相关性。它可保护较旧证据，但仍受预算与代表性限制，不能把被淘汰内容视作必然无用。
教学例子：阶段切换后关注点变化，当前窗口外的一条计划也可能因代表query而继续保留。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
AgentKV 为什么把 Agent 阶段作为 KV 淘汰的上下文？
AgentKV: Phase-Aware KV Eviction for Agentic LLMs
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：规划、工具执行和汇总等阶段可能关注不同历史。保留各阶段代表query，有助于判断某条KV是否仍可能被后续阶段需要，而非只依据当前几步的访问。
教学例子：早期计划在工具调用期间不常被读，最终汇总时却可能再次重要。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
STRIDE-OPD为什么把早停与最弱正确轮次的前缀重启配在一起？
Know When to Stop, Where to Restart: Accelerating Multi-Turn Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Science and Technology of China / Ant Group
展开答案与例子
答案：教师累积置信度触发停止，可避免在低价值后续上继续花费；缓存中较弱但正确的轮次则提供可学习的重启状态，把预算回投到仍需加强的位置。停止和重启是不同决策，不能等同直接跳到标准答案。本地状态核未验证大模型多轮生成吞吐。
教学例子：例如一段工具交互后续已无新增指导，可停止；下一次从此前勉强完成的正确轮次重试，而不是总从任务开头重复熟悉步骤。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
STRIDE缓存前缀能在任意环境状态直接恢复吗？
Know When to Stop, Where to Restart: Accelerating Multi-Turn Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Science and Technology of China / Ant Group
展开答案与例子
答案：需保证前缀与实际动作观察状态对应，不能只拷文本却丢环境状态。当前本地验证早停重启核，未复现大模型rollout吞吐，不能把状态机通过当生产速度证据。
教学例子：例如工具已执行一次，恢复时不能重复副作用而假装同一状态。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
早停与统一缩短所有轨迹有何不同？
Know When to Stop, Where to Restart: Accelerating Multi-Turn Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Science and Technology of China / Ant Group
展开答案与例子
答案：早停由教师累积置信度触发，并与前缀重启配合；统一长度上限不依状态。两者数据覆盖不同，缩短轨迹也不自动保证任务完整或节省同等计算。
教学例子：例如一条早已充分、一条仍需探索，不必在同一token数截断。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
STRIDE-OPD为什么从最弱正确turn重新开始？
Know When to Stop, Where to Restart: Accelerating Multi-Turn Agentic On-Policy Distillation
问答新增：2026-10-27 · University of Science and Technology of China / Ant Group
展开答案与例子
答案：重启已缓存的可学状态，可把预算放在勉强掌握的轮次，而非反复生成熟悉前段；正确资格提供安全起点，弱表示仍有指导空间。
教学例子：例如第一轮已稳定，第二轮刚能做对，下次可从第二轮前缀重试。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
MaD-RL为什么约束输出类别频率，而不是只提高每个token的熵？
MaD-RL: Matching Distributions for Calibrating LLMs with Reinforcement Learning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：token更随机不保证最终类别更均衡。MaD-RL先把输出映射为类别，用经验频率与指定目标分布的差异构造奖励，再与任务正确性结合。频率在该次更新中视为固定，未采到的类别也不会凭空获得on-policy样本；类别判定与无效输出分母必须明确。
教学例子：模型可以用很多不同措辞反复给出同一类别，token多样但决策仍坍缩；应直接检查最终类别分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
MaD-RL统计类别频率时无效样本可以从分母删除吗？
MaD-RL: Matching Distributions for Calibrating LLMs with Reinforcement Learning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：不能随意删去，否则改变经验分布和每类奖励。更新时频率视为固定，零目标概率需显式平滑，未采到类别也不会凭空收到on-policy梯度；本地诊断不等于完整模型训练。
教学例子：例如把无法分类输出全部排除，会让剩余类别比例看似更符合目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
类别分布匹配与单独最大化正确率会出现什么取舍？
MaD-RL: Matching Distributions for Calibrating LLMs with Reinforcement Learning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：正确性奖励可能集中到最容易的类别，分布奖励则把质量分配拉向目标；二者需分别测量。匹配分布不保证每条正确，正确率高也不保证达到目标类别比例。
教学例子：例如各类别数量均衡了，但某类回答仍错误，不能只报分布距离就算成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
MaD-RL为什么约束输出类别分布，而不是仅增加词元熵？
MaD-RL: Matching Distributions for Calibrating LLMs with Reinforcement Learning
问答新增：2026-10-27 · Meta Superintelligence Labs
展开答案与例子
答案：类别多样性描述语义结果频率，词元熵描述表面生成不确定性。模型可以措辞多样却总选同一类别，因此用经验类别分布与指定目标构造奖励，再与正确性结合。
教学例子：例如写出许多不同句子却全推荐同一类物品，词元多样不等于类别覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
Data-free OPD自己生成问题，为什么仍不能说训练不依赖任何先验知识？
Data-free On-policy Distillation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences / Tencent
展开答案与例子
答案：问题来自教师自身策略而非外部后训练题库，减少的是额外数据收集依赖；教师参数、生成分布和筛选条件仍决定课程覆盖。自生成也可能重复已有模式或产生不可靠任务，需要验证质量。本地只做问题生成的策略特征诊断，尚未生成自然语言训练集。
教学例子：例如教师围绕已知代码技能提出练习，可减少人工题库；但如果它一直生成同一类循环题，学生不会因此自动学到未覆盖的并发问题。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
DF-OPD本地生成过真实自然语言训练集吗？
Data-free On-policy Distillation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences / Tencent
展开答案与例子
答案：尚未，只做自生成问题的策略特征诊断。完整流程还需实际问题生成、质量筛选与学生蒸馏记录，不能用候选索引变化冒充真实教师出题。
教学例子：例如抽到一个特征编号不是一条已验证的数学题。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
教师自生成课程与固定公开题库在覆盖上有什么取舍？
Data-free On-policy Distillation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences / Tencent
展开答案与例子
答案：自生成可围绕教师能力定制，也可能重复或遗漏；固定题库覆盖可审计但收集成本高。两者需独立验证质量，不能把自然语言格式合法当有效任务。
教学例子：例如教师反复只出线性方程题，不会自动覆盖几何推理。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
Data-free OPD说data-free具体减少什么依赖？
Data-free On-policy Distillation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences / Tencent
展开答案与例子
答案：教师自行生成训练问题，减少额外收集后训练题库的需求；教师预训练知识和生成偏好仍是信息来源，不意味着从零无数据学习。
教学例子：例如老师出练习题无需人工题库，但其出题能力来自已有训练。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
learnability 与 transferability 为什么需要同时进入多 harness 的训练调度？
HarnessBandit: Joint Learnability-Transferability Scheduling for Multi-Harness Agentic Reinforcement Learning
问答新增：2026-10-27 · Harbin Institute of Technology / Alibaba Cloud
展开答案与例子
答案：容易学的框架可能只让策略适应其特殊接口，迁移性强但当前难学的框架又需要更多探索。联合两类信号及 bonus 分配有限训练预算，避免只在一套容易刷分的环境过拟合；调度权重只是训练决策，参考函数或多种子诊断不是跨框架能力证据。
教学例子：例如框架甲提供很多提示、乙较接近部署接口，不能因为甲短期涨分快就把全部预算都给它，还需考虑学到的技能能否转移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地在线 harness 选择计数是否意味着完成多框架大模型 RL？
HarnessBandit: Joint Learnability-Transferability Scheduling for Multi-Harness Agentic Reinforcement Learning
问答新增：2026-10-27 · Harbin Institute of Technology / Alibaba Cloud
展开答案与例子
答案：没有。本地仅执行门控、分配与状态更新 reference，没有真实大模型 RL、完整 rollout 或迁移 benchmark。合成 learnability/transferability 输入可检查权重响应，不能证明系统已学到可移植能力，也不能从三 seed 调度统计推算效果。
教学例子：例如给某 arm 较高迁移分后多分配几次，验证的是调度器；若分数由人工给定，还未测模型真实迁移。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
固定平均分配多 harness 与 bandit 预算调度有什么取舍？
HarnessBandit: Joint Learnability-Transferability Scheduling for Multi-Harness Agentic Reinforcement Learning
问答新增：2026-10-27 · Harbin Institute of Technology / Alibaba Cloud
展开答案与例子
答案：平均分配不适应各阶段收益变化，bandit 可把更多样本给当前更值得学习或不确定的环境。它也可能偏向短期代理信号，探索消耗总预算，不能只比较单 harness 训练效率而忽略整个调度成本和迁移评测。
教学例子：例如某 harness 已饱和后减少其采样，把预算转给尚有可迁移进展的路径，但仍需偶尔重访防估计失真。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
在一种 harness 里练得更好，为什么未必能在其他接口下同样进步？
HarnessBandit: Joint Learnability-Transferability Scheduling for Multi-Harness Agentic Reinforcement Learning
问答新增：2026-10-27 · Harbin Institute of Technology / Alibaba Cloud
展开答案与例子
答案：工具协议、提示和执行流程会改变模型训练时遇到的状态与行为，有些经验只适配特定组织方式。Harness Bandit 研究如何在多个训练 harness 间分配预算，兼顾能否学到和能否迁移。训练内分数上升不等于跨接口泛化，必须把不同评测条件的结果分开。
教学例子：教学例：模型习惯一种文件编辑命令，在另一框架参数格式不同；继续只练熟悉接口，可能提高本框架分数却不改善迁移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
为什么 MIMA 要把同一请求的多个正例一对一分配给兴趣，而不是让每个正例选择最相似的兴趣？
MIMA: Multi-Interest Recommendation via Multi-Positive Exclusive Assignment
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：独立选择最相似兴趣会让多个正例持续更新同一个通道，其余兴趣得不到监督。MIMA 先构造兴趣与正例的相似度代价矩阵，再求全局最优的一对一匹配，让不同兴趣分别承担正例。激活概率进一步校准通道得分；分工由集合监督产生，不只是增加向量数量。
教学例子：同一请求有跑鞋、登山包两个正例。若都更新“运动”通道，另一个兴趣闲置；一对一匹配迫使两个通道各解释一个正例，再按激活概率参与召回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
MIMA 小规模穷举与 Hungarian 何时在目标上等价，什么不能随意替换？
MIMA: Multi-Interest Recommendation via Multi-Positive Exclusive Assignment
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：二者都求同一代价矩阵的最优一对一分配，小矩阵可穷举核验最优值；贪心逐项匹配一般不等价。代价应使用对应兴趣与正例相似度，routing 的 log 激活概率另用于通道校准。只比较配对是否看起来合理不够。
教学例子：第一个正例抢走唯一适合第二个的兴趣，贪心可能总损失更高；穷举所有合法配对能发现另一分配才是全局最优。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MIMA 的一对一匹配与每个正例独立选最近兴趣，相比怎样避免同通道拥挤？
MIMA: Multi-Interest Recommendation via Multi-Positive Exclusive Assignment
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：独立选择可让全部正例落同一兴趣，其他通道没有梯度；全局匹配要求在总成本下分配不同位置，形成竞争与分工。若兴趣数和正例数不等，未匹配处理仍需定义；分工强制也可能让噪声正例影响某通道，不保证天然语义独立。
教学例子：两件商品都略偏兴趣一，独立 argmax 全选一；一对一会比较把其中一件交给兴趣二的总成本，而不是单项贪心。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MIMA 为什么把同一请求正例当成集合，而不是强制固定先后序列？
MIMA: Multi-Interest Recommendation via Multi-Positive Exclusive Assignment
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：请求内多个正例可代表并存兴趣，固定顺序会人为指定哪条兴趣先解释哪个物品。集合匹配让多个兴趣分工而对排列不敏感，routing 再估实际激活。集合不表示无任何时序信息，历史编码仍可因果，改变的是正例监督对应。
教学例子：同次请求跑鞋与登山包都被喜欢，不必规定先学鞋再学包；两条兴趣各解释一项，比总由最强运动通道独占更有分工。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Chronicle Token为什么必须带时间锚点并只概括锚点之前的历史？
ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：没有时间边界的摘要容易把未来行为混入较早时刻的表示，既破坏训练因果性，也让跨请求缓存语义不清。ChronicleRec以不同粒度压缩远近历史，在时间轴上放置query，只允许它读取此前事件，再用多种近期遮蔽对齐短期意图。候选无关的锚定摘要才具备跨候选复用的基础。
教学例子：周三的摘要不能包含周五才购买的相机，否则周四推荐镜头时已偷看未来；固定时间锚点后，可让同一摘要服务当时的多个候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Chronicle Token 的窗口 pooling 为什么要按有效 mask 数量归一，并在 query 位置读出？
ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：窗口可能含 padding，按总长度平均会使短历史被人为缩小；有效 mask 和安全分母只汇聚真实事件。因果编码后在 query 锚点读取，才能保证状态只总结锚点前信息。读取其他位置或让 padding 参与，会改变压缩语义而不一定触发维度错误。
教学例子：窗口四格只有两条真实行为，应除以二而非四；query 放在二者之后才能总结它们，放到中间就不应看到后面的事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ChronicleRec 的 alignment 预训练与普通下一物品预测，监督焦点有什么不同？
ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：它通过不同分支遮掉一定长度近期行为，让压缩过去预测近期意图，迫使摘要在缺失最近证据时仍有用。普通下一物品预测可能主要依赖紧邻行为。遮蔽提供更强压缩训练，但不能在评估时把被遮目标又放回输入，否则失去该检验含义。
教学例子：隐藏最近三次育儿浏览，让更早历史尝试预测这段新意图；这比只根据最后一条育儿内容再猜下一条更难，也更能检查长程摘要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ChronicleRec 为什么要同时表达近、中、远历史，而不只生成几枚无序兴趣 token？
ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：多尺度合并保留兴趣的时间结构，query token 的锚点限定它总结哪段过去，使模型区分稳定偏好与近期变化。候选无关 Chronicle Tokens 可缓存，但这种公共压缩不保证保存所有目标相关细节，时间布局仍是理解摘要含义的一部分。
教学例子：长期爱科幻与本周集中看育儿可分别留下不同时间尺度线索；若全部变成无序“科幻、育儿”两词，模型难判断哪个刚出现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Top-K索引不可导，SAS怎样仍让语言模型损失训练上下文selector？
SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking
问答新增：2026-10-27 · Tencent HY LLM Frontier / HKUST (Guangzhou) / HKUST
展开答案与例子
答案：它没有声称让离散索引本身变得可导，而是在选中历史块后保留连续gate，并把log gate加进attention的softmax内部。最终预测损失可以沿这些连续数值更新selector。历史gate共同归一化，当前块固定单位gate，避免整体历史权重无约束漂移。
教学例子：两个选中块都进入attention，但gate从0.8、0.2变为0.6、0.4会改变最终输出；损失可据此学习。只留下两个整数索引而丢掉gate，就没有这条梯度通路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
SAS 的 log-gate 应加在 softmax 内，还是在输出之后相乘？
SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking
问答新增：2026-10-27 · Tencent HY LLM Frontier / HKUST (Guangzhou) / HKUST
展开答案与例子
答案：文档要求把选中历史gate的对数加到attention logits，再统一softmax；历史gate共同归一化，当前块固定为1。输出后再乘改变不了同样的相对归一化关系，不是等价替代。
教学例子：当前块gate=1意味着加0，历史块则携带各自log-gate共同竞争attention质量。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
SAS 用最终 LM loss 训练 selector，与蒸馏 dense attention 排名有什么不同？
SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking
问答新增：2026-10-27 · Tencent HY LLM Frontier / HKUST (Guangzhou) / HKUST
展开答案与例子
答案：前者依据token预测目标反馈所选上下文的作用，后者学习模仿dense模型的注意力行为。SAS不要求把dense attention排名当监督；但它仍需正确的连续门控路径，硬top-k本身没有因此变成可导。
教学例子：某块对复制dense权重很重要，未必对当前预测loss带来相同的训练信号。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
SAS 为什么要保留连续 gate，而不只保存 top-k 的块索引？
SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking
问答新增：2026-10-27 · Tencent HY LLM Frontier / HKUST (Guangzhou) / HKUST
展开答案与例子
答案：索引决定选谁，却不能直接让语言模型损失通过离散选择训练selector。连续gate进入所选attention的计算后，提供可微的反馈路径，使selector能学到哪些历史帮助预测。
教学例子：选中同样两块，0.8/0.2与0.5/0.5仍能产生不同读出和训练梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
依赖图出现环时，为什么不能假称仍有逐节点的父优先拓扑顺序？
Beyond Vector Similarity: Hierarchical Context-Aware Graph RAG vs Standard RAG in Enterprise Code Migration
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：有向环中的节点互相依赖，不存在满足所有边的线性先后。应识别强连通分组，把组间依赖排序与组内迁移问题分开；AST 结构上下文能够揭示这种限制，却不会自动给出论文未定义的破环算法，不能用任意顺序冒充精确依赖处理。
教学例子：例如 A 调 B、B 又导入 A，应作为循环组一起分析；先迁移 A 再说所有父依赖已完成，会与图的实际关系矛盾。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
静态建图遇到局部变量 shadow 或未解析符号时，应怎样避免造出错误依赖？
Beyond Vector Similarity: Hierarchical Context-Aware Graph RAG vs Standard RAG in Enterprise Code Migration
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：同名不代表同一个定义，局部绑定会遮蔽全局名字，无法解析的调用也不能直接连到仓库里任意同名节点。实现应保留作用域边界和未解析信息，再在可确定的结构上取上下文。本地只支持受限 Python AST，不覆盖所有动态调用或原文其他语言的迁移环境。
教学例子：教学例：函数内部把全局工具名赋成局部对象，后续调用应按局部绑定解释；不能因仓库有同名函数就连成全局调用边。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
三跳结构上下文与 800 字符向量 chunk 检索有什么差别？
Beyond Vector Similarity: Hierarchical Context-Aware Graph RAG vs Standard RAG in Enterprise Code Migration
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：向量 chunk 依文字相似返回局部片段，结构检索沿继承、调用、导入关系获取依赖证据，可能找出措辞不同却执行相关的代码。两者各有遗漏边界，论文单仓库部分指标还下降，不能将结构路线概括为所有迁移质量全面更好。
教学例子：例如工具函数名和当前问题词汇不相似，但被待迁移函数直接调用，结构边可帮助把它纳入上下文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
为什么代码迁移要先识别父依赖，再迁移调用者？
Beyond Vector Similarity: Hierarchical Context-Aware Graph RAG vs Standard RAG in Enterprise Code Migration
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：父类、导入或被调用接口影响后续代码假设，先处理可解析父依赖可提供更稳定上下文。HCRG 从 AST 构建关系与架构骨架，最多三跳取结构证据；静态图不能覆盖动态调用，不能将未解析符号猜成全仓库同名对象。
教学例子：例如子类依赖父类构造函数签名，先确定父类迁移接口，再写子类更容易避免重复或不一致定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
UniRec 的 CPPA 为什么保留同一 pair 的正反目标证据，而不先多数表决成单一胜负？
UniRec: Cross-Stage Multi-Task Fusion with Preference Optimization for Cascaded Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：点击、购买等目标可能对同一候选对给出相反偏好，多数表决会抹去冲突强度和少数目标。CPPA 分别累积正反证据，两种方向的 softplus 惩罚同时存在；CAPP 再选置信差距大的有向 pair，属性组 KL 控制分布漂移。下游偏好用于训练上游，不能作为预排服务时偷读的输入。
教学例子：甲比乙更易点击，乙比甲更易购买。保留两方向损失可表达这份取舍；若直接三票对两票判甲胜，购买侧反对证据就会被丢掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
UniRec跨阶段项和AGRR怎样避免梯度与剪枝混淆？
UniRec: Cross-Stage Multi-Task Fusion with Preference Optimization for Cascaded Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：跨阶段只用survivor并冻结精排方向，AGRR证据从未剪枝输入算再在属性组构成KL目标。它不是组中心化分数，标准差和分位tie本地约定需明示。
教学例子：例如先剪掉冲突pair再统计原证据，会改变AGRR原本观察到的分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
CPPA与先对多个目标多数表决有什么不同？
UniRec: Cross-Stage Multi-Task Fusion with Preference Optimization for Cascaded Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：相反目标的正负证据同时进入softplus，保留冲突强度；多数表决只留一边会丢信息。CAPP再按置信选有向pair，AGRR另处理属性组漂移，不能混成同一权重。
教学例子：例如点击赞成A、时长赞成B，两个方向都需留在目标里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
预排精排UniRec为什么保留两条独立塔？
UniRec: Cross-Stage Multi-Task Fusion with Preference Optimization for Cascaded Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：两阶段输入质量、候选范围和时延不同，部分共享embedding但保留不同交互结构，再以训练对齐传下游偏好。精排信息不变成预排线上可见输入。
教学例子：例如精排拥有昂贵细特征，上游只能通过监督学习其偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SIRF 为什么用包含 trigger 与 exemption 的合成规则训练模型，再以阈值控制判定？
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：长尾风控规则不仅要识别触发条件，还要处理豁免及其组合，单靠常见日志容易漏学。规则图、改写和账户级推理提供覆盖训练，通过继续预训练把复杂模式写入模型，再用单次 verdict 降低在线开销。阈值调节精确率与召回的取舍；本地规则交互诊断不能当作原文大模型的生产能力复现。
教学例子：频繁交易可能触发风险，但经过验证的商户活动又构成豁免。训练样本需同时覆盖两者及交互，否则模型可能只记住“频繁就是风险”，提高误报。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SIRF本地高精度阈值结果对应完整8B CPT吗？
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：不对应，当前触发豁免特征代理，未执行私有账户数据、EntiGraph/MAGA生成和大模型训练。阈值应在允许验证集选，held-out报告不能再被用来挑最优点。
教学例子：例如小规则分类器达到目标精度，不等于原内容风控基础模型已复现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
规则内化与运行时纯规则引擎有什么差别？
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：参数模型可泛化表达和上下文，却不保证严格逐条逻辑满足；规则引擎显式执行条件但覆盖受编写范围限制。不能把神经判定高分当所有规则的形式证明。
教学例子：例如规则改版后模型权重未更新，可能仍按旧习惯判定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SIRF为什么把trigger和exemption都写进训练规则？
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：风控不仅要识别触发条件，还需处理合法豁免，长尾组合单凭常见标签容易误伤。合成规则与CPT希望内化复杂决策，阈值再控制高精度要求。
教学例子：例如出现某关键词不必违规，还要检查是否处于规则允许的说明场景。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
TASCO只提高测试题置信度为什么不够，还要检查邻域扰动的稳定性？
Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning
问答新增：2026-10-27 · Chongqing University
展开答案与例子
答案：错误答案也可能被模型反复自信确认，仅优化置信会强化这种错误。TASCO冻结主模型，只调轻量前缀，并把邻域扰动下预测不稳定作为额外惩罚。它利用的是无标签稳定性线索，不是正确性oracle；本地扰动诊断没有加载真实LLM前缀。
教学例子：题目换一种等价说法，模型就从一个答案跳到另一个；即使原答案概率很高，这种不稳定也提示不能只按置信强化。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TASCO本地扰动惩罚是否包含真实LLM prefix训练？
Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning
问答新增：2026-10-27 · Chongqing University
展开答案与例子
答案：没有。本地只执行随机邻域扰动与稳定性惩罚参考核，未加载冻结语言模型的prefix路径。不能把小向量目标通过解释成真实测试时推理收益。
教学例子：例如在数值特征上测稳定，不等于已在真实题目上优化语言模型前缀。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
TASCO更新prefix与增加best-of-N采样，额外计算主要花在哪里？
Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning
问答新增：2026-10-27 · Chongqing University
展开答案与例子
答案：prefix适配把计算用于优化可训练条件，再让冻结模型据此预测；best-of-N主要生成更多候选并依赖选择规则。二者的可训练状态和预算构成都不同，比较时需要计入优化前向、反向及候选生成，不能把相同候选数当相同成本。
教学例子：一种做几次prefix梯度更新后答题，另一种直接生成多份答案再筛选；次数相同也不是同一种工作量。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TASCO在测试时适配的是主模型权重，还是额外的轻量prefix？
Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning
问答新增：2026-10-27 · Chongqing University
展开答案与例子
答案：主模型冻结，适配对象是附加的轻量prefix。测试时优化因此仍会改变模型的条件输入表示，但不是重新训练全部骨干，也不是仅靠多采样选答案。它使用当前任务的无标签信号，不能把测试金标当成prefix优化目标。
教学例子：保持语言模型各层权重不动，只更新前缀向量，再重新读取该题分布；题目答案不参与更新。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
NSD既然要远离错误推理，为什么不压低整条错误回答的所有词元？
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：错误回答仍包含正常语法和可能正确的中间步骤，整段排斥会损伤通用表达。NSD用负向教师提供应远离的分布，并通过动态门控把更新集中到推理关键位置。门控只是定位机制，不能保证每个被选位置确实有错，本地也未训练完整语言模型。
教学例子：例如算式中只有进位错误，句子里的连接词和正确数字不应全部被压低；教学例子关注选择性纠错，不声称测得收益。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
NSD本地负教师与reasoning gate从何种对象构成？
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：当前在候选策略上构造并执行控制流，未全参数训练真实LLM。门控需固定并对齐被罚位置，不能用评测gold先标出错误再声称无泄漏自主诊断。
教学例子：例如预置错误位置可做单测，却不是自动定位推理漏洞的能力证据。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
负自蒸馏与把错答token全部降概率有什么差别？
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：整段错误含正确事实、语法与有效子步，统一惩罚会误伤。选择性gate试图区分错误核心，但其定位也可能不准，不能视为步骤真值。
教学例子：例如最终算错不代表每个数字和连接词都应被遗忘。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
NSD为什么把自生成错误作为负向教学材料？
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：失败推理可告诉模型应远离什么，而非只有正确示范才有价值。负教师描述错误分布，动态gate把排斥集中到推理关键位置，减少普通语言遗忘。
教学例子：例如一次错误推导中的关键误用，可作为不要再走的方向。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
LOCUS把更新限制在任务相关低秩子空间，为什么有机会缩短回答却不等于直接截断？
LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：低秩约束作用于参数更新方向，试图保留任务相关的有效变化、限制无关漂移，简洁性通过后训练目标学习。直接截断则在生成后强行删掉内容，可能损失必要步骤。子空间是否覆盖目标能力仍需检验，本地特征SVD投影不能证明大模型长度与能力兼得。
教学例子：例如让模型学会少写重复检查，与把每条证明的后半段删除不同；若所选子空间不包含关键推理方向，即使回答变短也可能失去正确性。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
LOCUS本地SVD投影代表训练了真实语言模型吗？
LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：没有，只在样本特征子空间投影策略梯度。需审查rank、基正交和投影前后梯度边界，不能把随机低秩矩阵叫已学到任务语义子空间。
教学例子：例如数值上投影成功，不表示该基覆盖真实推理关键能力。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
任务低秩更新与生成后截断回答有什么区别？
LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：前者训练模型选择更简洁的行为，后者强行删输出并可能丢关键步骤。简洁性应与正确性共同评估，不能只看到词数下降就认定效率改善。
教学例子：例如少写重复检查与把证明最后结论切掉，长度都变短但质量不同。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
LOCUS为什么把任务更新压到低秩方向？
LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：目标是用紧凑任务相关变化改善token效率，限制无关漂移，同时保留任务能力。低秩只是可行空间限制，子空间若漏关键方向也会损害表现。
教学例子：例如删重复表述所需变化不必任意重写全部模型参数。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
逐词元门控为何混合FKL与RKL，而不是对整条回答只选一个散度方向？
A Unified Per-Token Gating Family for On-Policy Distillation: FKL/RKL Mixing with Multi-Channel and Bias Coefficients
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：不同位置的教师不确定性、师生差距与参考偏移不同，统一散度方向可能把覆盖与集中之间的取舍强加给所有词元。门控组合多路信号，在位置层分配正向和反向蒸馏权重。门控是启发监督分配，不是正确性证明，本地四信号实验也没有稳定胜出结论。
教学例子：例如关键分叉处需保留教师多种选择，已收敛的格式位置可更集中；不能因为一句话整体可靠，就认为每个词元都应使用相同权重。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
四信号gate本地探索结果能直接用于能力晋级吗？
A Unified Per-Token Gating Family for On-Policy Distillation: FKL/RKL Mixing with Multi-Channel and Bias Coefficients
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：不能，当前是确定性机制诊断，完整模型效果与公平预算尚未确立。实现要明确方向、信号版本和gate梯度，不可只改注册名就声称新训练已接入。
教学例子：例如某小候选任务一次更高分，仍不足以推广到开放式语言能力。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
逐token混合FKL/RKL与固定整句比例有何区别？
A Unified Per-Token Gating Family for On-Policy Distillation: FKL/RKL Mixing with Multi-Channel and Bias Coefficients
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：前者可按位置分配覆盖和集中压力，后者给所有词同一取舍。更灵活也增加调参和过拟合风险，机制诊断不能写成稳定全面胜出。
教学例子：例如关键分叉与确定格式词不必承担相同散度混合。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
自适应OPD gate为什么组合多路信号？
A Unified Per-Token Gating Family for On-Policy Distillation: FKL/RKL Mixing with Multi-Channel and Bias Coefficients
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：熵、不确定性、参考偏移与师生gap各描述不同状态，单一信号可能不足。组合门控在每位置分配正反KL指导，仍依赖这些代理与目标的关系。
教学例子：例如教师确定但偏离参考很大，与教师不确定却接近学生，是不同情况。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
SWRouter为什么要把上下文收缩质量和选模型正确率分开评测？
SWRouter: Similarity-Contractive Window Routing for Multi-Turn Large Language Model Conversations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：前一步按相邻语义相似度合并或收缩对话窗口，后一步才由路由器选择模型；上下文若先丢掉关键约束，后面选对强模型也可能失败。反过来，完整上下文也不保证路由合适。拆开评测才能定位到底是材料构造还是模型选择造成差异，避免把两个环节的收益混成一个数字。
教学例子：两轮话题相似但用户在第二轮改了预算；若收缩时漏掉预算变化，最终失败不能全怪被选模型，应先检查构造出的上下文是否保留了修改。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
本地 profile-overlap 路由可以当成论文训练好的对比 encoder 吗？
SWRouter: Similarity-Contractive Window Routing for Multi-Turn Large Language Model Conversations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：不能。当前记录只执行窗口分段和profile overlap路由，未训练原文对比encoder。集成时应保留这个实现身份，分别验证分段结果与模型选择，而非借用论文训练收益。
教学例子：关键词轮廓有重合而选中模型，只是当前路由规则的结果，不是对比表征已学成的证据。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
语义相似度收缩与直接截取最近几轮，有什么不同假设？
SWRouter: Similarity-Contractive Window Routing for Multi-Turn Large Language Model Conversations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：最近窗口假设新近内容更有用；相似度收缩利用相邻轮次的语义关系决定分段。两者保留的上下文可能不同，路由表现需与上下文构造质量分开测量。
教学例子：较早的关键轮次不应只因时间较远就必然被裁掉。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
SWRouter 为什么在选模型前，先收缩多轮对话窗口？
SWRouter: Similarity-Contractive Window Routing for Multi-Turn Large Language Model Conversations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：多轮上下文可能包含语义重复或不必要历史。方法先按相邻语义相似度组织和收缩窗口，再让路由器根据构造后的上下文选模型，使上下文预算与模型选择相配合。
教学例子：连续几轮只是在澄清同一意图，可先整理相关窗口，再判断需要哪类模型。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
直接做空间 patch reconstruction 与先预测离散图像码有什么区别？
SenseNova-U1.5: Towards Native Unified Visual Intelligence
问答新增：2026-10-27 · SenseTime Research
展开答案与例子
答案：离散路线先依赖 tokenizer 或 VAE 把图像变成另一种码，再学习这些码的预测；空间 patch 重建直接以图像局部结构作为训练对象，减少对该中间接口的依赖。这改变了表示与监督路径，但不能据此断言没有信息瓶颈或生成成本必然更低。
教学例子：例如同一张图片可先变成码本编号再预测，也可直接训练重建空间小块；两种路线的误差来源需要分开检查。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地 masked patch 与 expert OPD 统计能证明统一 8B 模型完成了吗？
SenseNova-U1.5: Towards Native Unified Visual Intelligence
问答新增：2026-10-27 · SenseTime Research
展开答案与例子
答案：不能。当前仅有决定性算子的 reference kernel 与三 seed 状态转换诊断，覆盖 masked patch target 和专家蒸馏融合；没有复刻统一 8B 模型的多阶段训练。算子门控或损失数值可检查执行路径，但不能充当真实理解和生成 benchmark。
教学例子：例如小张量上专家权重相加正确，只证明融合公式运行；它没有展示八十亿参数模型生成可用图像或回答真实问题。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
多专家 OPD 与仅向单一教师蒸馏，在监督组织上有何区别？
SenseNova-U1.5: Towards Native Unified Visual Intelligence
问答新增：2026-10-27 · SenseTime Research
展开答案与例子
答案：多专家提供不同任务或能力方向的教师信号，统一模型需要协调这些信号，而单教师蒸馏只对齐一种教师分布。多来源可以扩大监督覆盖，也可能产生不一致；不能因为专家数量更多就推断理解与生成质量必然同时提升。
教学例子：例如理解教师强调物体关系，生成教师强调图像重建，两种信号要由统一模型融合，不能简单当成同一个目标的重复样本。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
SenseNova-U1.5的视觉理解与视觉生成，是同一种输入输出方向吗？
SenseNova-U1.5: Towards Native Unified Visual Intelligence
问答新增：2026-10-27 · SenseTime Research
展开答案与例子
答案：不是。理解任务以视觉内容为条件形成回答或判断，生成任务则根据条件产生视觉内容；统一模型要承接两种方向的监督。空间patch重建描述的是生成表示路径，多专家OPD描述后训练信号组织，不能因统一命名就把某个patch算子当成两种能力均已完成。
教学例子：看图回答“有什么”与按条件产生一幅图，验收对象不同；前者回答正确不等于后者已能生成对应图像。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
训练token总数相同，为什么大量重复数据对MoE和Dense可能产生不同影响？
Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：相同token预算不代表相同独立信息量；路由专家可能更快记住反复出现的样本，使MoE在重复训练中更早过拟合。研究因此检查更强masking或dropout对专家记忆化的抑制，而不是仅靠增加重复轮数扩大“数据规模”。效果需要在隔离数据上判断，训练loss继续下降不足以证明泛化改善。
教学例子：把同一小语料重复十遍和加入十份新语料都消耗近似token预算，但前者更容易形成专家专记的模式；比较时应分别报告唯一数据量与重复次数。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
本地重复感知正则 schedule 应怎样验收，而不是把它当作大规模训练结论？
Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：先检查重复倍数与稀疏度变化时，masking/dropout日程按定义改变，再记录实际应用的正则设置。当前reference只验证状态转换，没有完成大规模预训练，不能据fixture分数报告泛化改善。
教学例子：提高重复倍数后，应核对正则概率实际变了，而不是配置字段改名但训练路径不变。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
比较 Dense 与 MoE 的重复数据过拟合时，只对齐训练步数够吗？
Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：还需区分总token、唯一数据量、重复倍数和稀疏度，否则无法判断差异来自模型结构还是数据暴露。文档研究的是这些条件下的记忆化趋势，不是宣称MoE在所有任务更差。
教学例子：一组多读了重复语料，不能把泛化落差全归因于它使用专家。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Repeat-aware MoE 为什么把数据重复单独作为研究变量？
Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：训练token总数相同，不代表唯一信息量相同。重复同一批数据可能加重专家记忆化，论文因此研究重复程度与模型稀疏度的关系，以及更强masking/dropout的正则作用。
教学例子：同一万条样本看十遍，与十万条不同样本各看一遍，预算相近但信息重复程度不同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
多模态 KV 为什么不宜共享一套全局量化范围和旋转？
OmniKVQuant: KV Cache Quantization for Omni-LLMs
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：Key 的数值分布可能随时间漂移，长期统一范围会让局部有效精度变差；不同模态 Value 的几何结构也不一致。短窗范围与模态专属旋转分别处理时间变化和模态差异，不能把两种校准合并成一套静态规则后仍假设误差同样可控。
教学例子：例如前段音频 Key 的幅度较小、后段视频 Key 较大，全局范围可能挤压前者精度；Value 也需按模态检查结构。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
本地 2-bit NumPy reference 可以证明 GPU KV kernel 加速吗？
OmniKVQuant: KV Cache Quantization for Omni-LLMs
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：不能。本地实现窗口量化与模态独立旋转，用于检查低位表示和变换公式；Triton 等实际 kernel 仍需真实 A100 或 A30 验证。内存位宽下降与端到端时延之间还隔着打包、解包、访存和融合开销，不能按压缩比直接换算加速。
教学例子：例如每个值理论只占两位，若实现仍以浮点数组存储和解码，就尚未获得真实两位 cache 的显存或带宽收益。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
模态独立旋转与所有 value 使用同一旋转矩阵的假设差别是什么？
OmniKVQuant: KV Cache Quantization for Omni-LLMs
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：统一旋转假定各模态可由同一坐标变换改善量化；独立旋转允许音频、视觉和文本具有不同合适坐标系。它增加模态相关处理，但结果仍取决于校准及真实分布，不能从旋转存在就推断所有任务都保留同等精度。
教学例子：例如图像 value 的大方差方向与音频不同，分别旋转可分别展开数值；强制共用矩阵可能只适合其中一种。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
OmniKVQuant压缩的是模型权重，还是当前上下文留下的KV cache？
OmniKVQuant: KV Cache Quantization for Omni-LLMs
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：它针对推理时保存的key与value状态，而不是把网络权重统一变成低位参数。cache随已处理上下文增长，还包含不同模态留下的表示；权重已量化也不意味着这部分内存消失。先区分固定模型参数与请求状态，才能理解KV量化的成本对象。
教学例子：同一个模型处理短文本和长音视频时权重数量不变，保存的KV状态却可不同；这里压缩的是后者。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
Musec的谱裁剪与把所有梯度统一缩小，有什么区别？
Musec: MomentUm SpEctral Clipping for Stable Muon-type Training
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：谱裁剪作用于动量矩阵的奇异值，重点限制不稳定的大方向，并用平滑处理避免硬阈值附近的不连续。统一缩放则同时压小所有方向，无法表达这种选择性。它控制的是更新几何；稳定性与最终优化质量仍需分开验证，不能由范数受控直接推出任务效果更好。
教学例子：一个矩阵方向特别大、其他方向正常；谱处理可以主要约束异常方向，而整体乘0.1会连正常方向也一起缩得很小。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
本地完整 SVD soft-clipping reference，能证明大模型训练吞吐吗？
Musec: MomentUm SpEctral Clipping for Stable Muon-type Training
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：不能。它用于检查动量的谱分解、平滑映射与重建方向，未复刻大模型训练或优化性能kernel。应把谱处理数值正确性与端到端耗时分开验收。
教学例子：小矩阵经裁剪重建符合参考，不说明在大模型每步做这件事仍具有同样开销。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
平滑谱裁剪与硬阈值截断，在阈值附近有什么不同？
Musec: MomentUm SpEctral Clipping for Stable Muon-type Training
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：硬阈值对跨界方向处理会突变；平滑裁剪让奇异值映射随输入更连续。它改变谱幅度的响应方式，仍需要明确裁剪规则和预算，不能仅用“更稳定”替代定义。
教学例子：一个奇异值从略低阈值变到略高阈值时，不应突然产生完全不同的更新幅度。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Musec 想限制的是动量矩阵里的哪一类不稳定因素？
Musec: MomentUm SpEctral Clipping for Stable Muon-type Training
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：它针对过大的谱方向，对动量奇异值施加平滑裁剪，减少这些方向对Muon-type更新的支配。控制谱幅度是稳定更新的手段，不自动保证最终任务loss更好。
教学例子：少数异常大的奇异值可被约束，正常方向不必一起按同样倍率缩小。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
先写 caption memory 后，为什么还需要 visual-need router？
Caption-once, Frames-on-Demand: Visual-Need Routing for Budget-Aware Agentic Long Video Understanding
问答新增：2026-10-27 · Queen Mary University of London
展开答案与例子
答案：文字记忆能覆盖粗粒度事件，却可能遗漏以后问题需要的细节。路由器判断现有文字证据是否足够，只有不足时才花视觉预算读取相关帧；这样控制的是追加取证的成本，不是把描述当成无损视频，也不能把路由决定本身视为答案正确。
教学例子：例如记忆只写“有人拿起盒子”，问盒子上的编号时就需回读帧；问是否有人取物则可能直接利用已有文字。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
本地 caption/query gate 的三 seed 输出能验证 learned visual-need router 吗？
Caption-once, Frames-on-Demand: Visual-Need Routing for Budget-Aware Agentic Long Video Understanding
问答新增：2026-10-27 · Queen Mary University of London
展开答案与例子
答案：不能。当前只执行 caption 与 query 的 gate、Top-K 帧选择等 reference 状态转换，未运行长视频 VLM 或训练语义路由器。它能检查预算和选择接口，不能证明系统确实知道哪些问题仅凭文字即可回答，也不能复刻原文帧消耗收益。
教学例子：例如规则门能保证最多选择三帧，但三帧是否包含问题答案仍需真实视频与语义模型，不能由计数检查得出。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
这种路由与每个问题都重新均匀采样视频有什么取舍？
Caption-once, Frames-on-Demand: Visual-Need Routing for Budget-Aware Agentic Long Video Understanding
问答新增：2026-10-27 · Queen Mary University of London
展开答案与例子
答案：均匀重采样为每个问题重复支付视觉开销，按需路线复用一次文字记忆并把预算集中到疑点帧。它可能节省成本，也可能因 caption 漏记或路由判断错误而错过关键证据；机制比较不能替代相同问题与预算下的实际质量验证。
教学例子：例如连续十个问题都问已有事件顺序时，可复用记忆；若第十问涉及极短动作，仍需正确定位并读取该帧。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
Frames-on-Demand的caption-once，是每来一个问题都重新写一次视频描述吗？
Caption-once, Frames-on-Demand: Visual-Need Routing for Budget-Aware Agentic Long Video Understanding
问答新增：2026-10-27 · Queen Mary University of London
展开答案与例子
答案：不是。设计先为视频建立一次可复用的文字记忆，后续问题共享这笔预处理；逐问是否追加视觉读取则另由路由和帧预算决定。描述成本与每题新增取证成本要分开计算，不能省略前者，也不能把重复使用文字记忆说成每题完全不需要视觉计算。
教学例子：同一视频连续回答五个问题，可共用先前文字记忆；其中某题需细节时再花额外看帧成本，而不是默认重写五份描述。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
被接受程序作为后续问题的起点，为什么比每次重新提示更能积累优化知识？
MAPLE: Memory-Augmented Planning with Language and Evolution
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen
展开答案与例子
答案：程序状态保留已经验证可执行的结构和取舍，下一题在其上修改，而不是靠自然语言重新回忆所有细节。接纳规则阻止未执行的想法直接覆盖可靠父本；跨问题继续进化也要检查任务差异，不能把某一实例的特化程序当成普适最佳。
教学例子：例如上一题已实现可靠的数据解析，下一题可以在此基础改目标函数，而不每次从空脚本重新生成并重犯格式错误。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地非空命名操作计划验证与作者求解器之间有什么差别？
MAPLE: Memory-Augmented Planning with Language and Evolution
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen
展开答案与例子
答案：本地只接纳由非空命名操作组成的公开计划，并检查后续复用，没有作者求解器、训练模型或外部工具。计划表示的执行合同可验，但 mini-suite 满分不能作为原文优化能力或通用程序进化；不得把未实现的 solver 用名称注册补齐。
教学例子：例如“搜索、验证”两个节点不是空字符串，可通过结构检查，却尚未证明真实搜索算法性能比上一版更好。
依据：本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
接受可执行程序与接受“看起来更好的”优化描述有什么不同？
MAPLE: Memory-Augmented Planning with Language and Evolution
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen
展开答案与例子
答案：描述只表达意图，程序必须能运行并通过相应比较，才形成可继续演化的状态。可执行仍不代表更有效，合法性和收益是不同门槛；一次改进也不能证明对所有后续问题泛化，不应无条件继承失败提案。
教学例子：例如“减少重复搜索”是建议，真正候选需要改变调用逻辑并验证没有漏掉必需证据，才能称接纳了优化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
MAPLE 为什么希望优化知识能随着连续求解保留下来？
MAPLE: Memory-Augmented Planning with Language and Evolution
问答新增：2026-10-27 · Harbin Institute of Technology, Shenzhen
展开答案与例子
答案：连续问题常有共享结构，若每题从零提案，已验证的程序改进很难积累。MAPLE 把可执行解法作为持续研究状态，让下一问题从已接受程序继续探索。继承也可能带来旧假设偏差，必须重新验证新问题条件，不能把可执行或历史成功当成当前最优证明。
教学例子：教学例：上一次排程程序已处理资源冲突，新问题可从该程序起步；但新增加的时间窗口约束仍需实现与测试。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么同一种失败要跨任务聚合，才能判断是 harness 系统缺陷？
Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents
问答新增：2026-10-27 · Chengdu Institute of Computer Applications, Chinese Academy of Sciences
展开答案与例子
答案：单次出错可能来自模型随机性或特殊题意，重复出现的模式才更提示共同运行接口存在问题。多角色诊断把这些证据转成可验证修复规格，避免每遇一次失败就改全局框架；聚合相关性仍不是充分因果证明，修复后必须做受影响行为对照。
教学例子：例如许多任务都因日志被截断而漏掉错误码，比单题猜错更支持检查输出接口；应针对截断机制修复而非泛泛换模型。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地触发 FDCR 修复门是否已生成或执行 harness 补丁？
Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents
问答新增：2026-10-27 · Chengdu Institute of Computer Applications, Chinese Academy of Sciences
展开答案与例子
答案：没有。本地只聚合公开 observation 的失败签名并触发受限修复门，不生成或执行代码，也没有论文规模训练。门触发说明统计满足条件，不证明诊断正确或真实缺陷已修，三 seed 计数不能换算原文速度和准确率。
教学例子：例如三次同类失败后状态变为“待修复”，只是调度信号；没有实际补丁和重跑就不能标为已解决。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
形成修复规格与直接执行 harness 补丁，分别处在改进链的哪一步？
Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents
问答新增：2026-10-27 · Chengdu Institute of Computer Applications, Chinese Academy of Sciences
展开答案与例子
答案：FDCR 的多角色诊断把失败证据组织成可讨论的修复规格，说明应该改哪里和为何改；真正执行还需生成具体补丁、接入运行并验证后果。诊断输出不能冒充已修改系统，触发门或修复建议数量也不说明任务成功提升，本地 reference 尤其要保持这个证据边界。
教学例子：教学例：规格指出“保留工具返回的错误字段”，代码是否真的修改并在后续任务生效，需要另行检查补丁和运行记录。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Ecdysis 为什么先问失败来自模型偶发行为，还是来自运行流程的共同缺陷？
Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents
问答新增：2026-10-27 · Chengdu Institute of Computer Applications, Chinese Academy of Sciences
展开答案与例子
答案：相同 Agent 在不同任务出错，既可能是具体理解错误，也可能是工具包装、上下文或恢复流程反复制造问题。Ecdysis 研究从多次执行中找到可系统修复的 harness 缺陷，使改进针对共享原因。重复现象只是诊断线索，不能未经修复执行和验证就宣称问题已解决。
教学例子：教学例：多题都因工具结果被截断而漏证据，可能是共享接口问题；只有一道题误读内容，则不应马上改所有任务的流程。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
动态技能候选为什么适合预算化 contextual bandit，而不是只按历史最高分排序？
COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：技能收益依赖当前任务，新增或修订候选又缺乏历史数据。上下文 bandit 在利用已知高收益与探索高信息量候选之间分配评测预算，再用真实反馈演化；仅看历史最高值会偏向早期幸运技能，忽略新任务条件和未评候选的不确定性。
教学例子：例如旧技能擅长文件操作，新任务转向网页，多给新候选少量试验可能比持续验证旧冠军更有信息价值。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 contextual-UCB 分配是否覆盖真实 LLM 技能演化？
COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：不覆盖。本地执行分配和反馈准入 reference，没有外部 LLM 或六套环境。候选 index、置信项和预算可独立检查，实际技能文本生成与任务执行尚未发生；不能把 fixture 反馈写成真实成本降低或 Agent 能力提升。
教学例子：例如一个数值 arm 的 UCB 变大而被选中，仅验证 bandit 公式，没有证明对应自然语言技能在网页任务可执行。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
提出一个技能变体与获得它的执行收益，为什么应分成两个证据阶段？
COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：提案根据已有经验生成可能更好的行为描述，尚未说明它在当前任务有效；执行评估才产生可用于预算分配和后续演化的反馈。候选空间可动态扩展，但加入集合不等于获得正奖励。COBRA-Skills 的 bandit 选择需要区分已测收益和未测不确定性，不能用提案自评补齐结果。
教学例子：教学例：新技能写得更详细，可先安排试验；只有任务真实执行后才知道它是否帮助，而不能直接把“预计改进”当作成功样本。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
技能候选持续增长时，COBRA-Skills 为什么不能给每个候选同样多的试验机会？
COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization
问答新增：2026-10-27 · The Chinese University of Hong Kong, Shenzhen
展开答案与例子
答案：评估技能会消耗任务执行预算，候选数量与质量又会随演化变化，平均分配可能浪费在明显无用或重复的条目上。COBRA-Skills 研究结合当前上下文和已见反馈安排试验，使有限预算更有针对性。选择器只能利用已获得证据，不能把未执行候选的效果当成已知。
教学例子：教学例：十份相似技能已有多次失败记录，新生成的一份可能仍值得少量探索；预算不够时，全部各跑百次并不可行。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
CompassOPD为什么比较教师相对自身参考模型的变化，而不直接比较师生概率？
CompassOPD: Cross-Family On-Policy Distillation via Within-Family Likelihood Shifts
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：不同模型家族的概率尖锐程度和校准不同，直接对齐绝对概率会混入尺度差异。方法先看教师后训练相对其参考模型的似然变化，再作家族内中心化，提取方向性信号，并保留学生参考锚点。相对变化仍可能带有教师偏差，不自动等于正确答案。
教学例子：例如两个教师都更偏好正确步骤，但一个本来输出更尖锐；比较各自训练前后的变化，比把两者概率大小直接排序更合理。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Compass中心化应该沿什么可比集合进行？
CompassOPD: Cross-Family On-Policy Distillation via Within-Family Likelihood Shifts
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：对规定家族变化信号使用一致候选和权重，学生reference另作锚点，不能跨不同问题随意减均值。本地审计量只反映修正幅度，不代表真实跨家族训练成功。
教学例子：例如先后两模型候选顺序不同，直接相减会得到无意义方向。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
Compass与直接平均跨家族概率的取舍是什么？
CompassOPD: Cross-Family On-Policy Distillation via Within-Family Likelihood Shifts
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：前者保留相对变化方向，后者混合绝对后验。相对方向减少刻度影响，却也丢掉部分整体信息，不能无同协议实验就宣布一定优于完整教师。
教学例子：例如同样向正确选项移动，不应被两个模型原始温度差淹没。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
CompassOPD为什么需要教师自己的reference？
CompassOPD: Cross-Family On-Policy Distillation via Within-Family Likelihood Shifts
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：不同家族绝对概率尺度不可直接比较，教师相对其参考的变化更能描述后训练方向。家族内中心化削弱整体偏置，再与学生锚点结合，仍非正确性证明。
教学例子：例如一个家族本来分布尖，不应仅因概率大就被视为学得更多。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么训练要使用 rollout 真正采样的 token ID，而不是把完整交互文本重新分词？
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
问答新增：2026-10-27 · National University of Singapore / Tencent
展开答案与例子
答案：拼接工具观察与多轮消息后重新分词，边界和 token 可能与实际采样不一致，导致策略概率对应错误动作。TITO 保留真实 ID，边界修复处理漂移，MoE 路由重放再控制专家路径差异；数据对齐正确仍只是训练合同，不等于终端任务已学会。
教学例子：例如一段命令与下一条观察拼接后形成不同子词，重新分词会把非动作内容也混进训练；保留采样 ID 才能对准原动作。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地 exact-token/route 状态审计能覆盖 122B MoE 训练吗？
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
问答新增：2026-10-27 · National University of Singapore / Tencent
展开答案与例子
答案：不能。本地只检查采样序列与路由重放状态合同，没有 122B 模型、三百多 turn 云沙箱或完整 terminal RL。日志一致性不等于训练—推理 gap 已实测缩小，原文分数和 gap 属于作者真实系统，不能据字段存在搬用。
教学例子：例如 fixture route 数组能逐项重放，说明索引协议正常；它未运行真实 MoE dispatch 或反向计算。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
MoE route replay 与只重放生成 token 有何不同？
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
问答新增：2026-10-27 · National University of Singapore / Tencent
展开答案与例子
答案：同样输入 token 下专家路由也可能随实现或状态变化，R3 保存并重放路由选择，试图缩小训练推理路径差。token 一致是必要但不充分条件，路由一致也不保证最终任务提升，需真实模型和日志概率对照。
教学例子：例如某 token 原走专家甲乙，训练重算改走甲丙，会改变输出和梯度，即使 token ID 完全一样。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
训练大规模终端 Agent 时，为什么推理轨迹与优化器看到的样本必须一致？
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
问答新增：2026-10-27 · National University of Singapore / Tencent
展开答案与例子
答案：终端交互包含模型生成、工具观察和可能变化的模型执行路径，训练若重建出不同样本，就会优化并非真正采样的行为。T1 关注让长程 rollout 与后续更新保持可追踪一致，同时支撑大规模训练。记录一致只是训练正确性的条件，不代表任务能力或最终收益已经得到证明。
教学例子：教学例：工具输出夹在模型回答之间，训练端若重新拼接后改变 token 边界，计算的概率就可能不再对应当时实际动作。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么用更多合成技能数据微调，反而可能降低真实任务的技能检索能力？
When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
问答新增：2026-10-27 · Manulife
展开答案与例子
答案：合成样本的表述和分布可能与真实请求不同，微调会把 embedding 与路由边界拉向合成模式。真实样本 replay 保留原任务约束，anchor 或旧模型蒸馏限制表示漂移；这些正则保护的是迁移与保留，不代表合成数据越多越好或所有遗忘都会消失。
教学例子：例如合成任务总把工具名写全，真实用户却用简称；只学合成表达会漏掉真实请求，回放真实简称可保护原有路由。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 anchor、冲突惩罚与 replay 的通过是否包含 0.6B retriever 训练？
When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
问答新增：2026-10-27 · Manulife
展开答案与例子
答案：不包含。本地仅执行真实路线锚点和相关约束 reference，未训练三万多技能的 0.6B 模型。可检查 replay 确实参与、锚点损失方向与冲突处理，但合成 fixture 的状态变化不能改写为真实或 OOD 检索保留率。
教学例子：例如一个向量被拉回旧锚点说明正则梯度有效，不说明模型在未见用户问法上仍能找到正确技能。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
真实样本 replay 与 embedding anchor/LwF 正则分别约束什么？
When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
问答新增：2026-10-27 · Manulife
展开答案与例子
答案：replay 让优化继续看到旧任务数据，anchor 或 LwF 类正则限制表示或旧输出漂移。前者补数据覆盖，后者约束参数变化造成的行为偏离，不能简单视为重复措施；权重过强也可能妨碍学习新合成技能，需要独立验证取舍。
教学例子：例如保留旧口语查询用于 replay，同时要求其 embedding 不大幅移动，可分别从样本和表示两侧保护旧检索。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
训练技能检索器时，为什么要同时看新增技能和原有用户需求？
When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
问答新增：2026-10-27 · Manulife
展开答案与例子
答案：新增数据让模型适应新的技能目录，但实际服务仍会遇到原先熟悉的真实和域外请求。研究关注学习新内容时如何保留旧路由能力，而不只追求新训练集损失；模型在新增任务上变好并不能抵消把已有使用方式遗忘的代价。
教学例子：例如合成样例都写标准函数名，新模型答得很好，但真实用户仍用口语描述需求，原有查询不能因此被当作过时。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么搜索很多网页仍可能在 evidential query graph 中暴露证据缺口？
SearchAtlas: Analyzing Agentic Search Strategies via Evidential Query Graphs
问答新增：2026-10-27 · Duke University
展开答案与例子
答案：网页数量不是约束覆盖率。查询、证据与回答的有向关系要说明哪条证据支持哪个问题条件，最终结论是否跨越了未验证的边。图审计因此能区分重复搜到相同内容与真正补齐推理链；建立图的接口通过，也不等于搜索模型已经能可靠取证。
教学例子：例如十篇网页都只说明产品价格，却没有一篇确认地区可用性；最终宣称“当地可以买到”仍缺少对应证据边。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
本地证据传播边验证是否包含论文搜索 Agent 和自动解析模型？
SearchAtlas: Analyzing Agentic Search Strategies via Evidential Query Graphs
问答新增：2026-10-27 · Duke University
展开答案与例子
答案：不包含。本地只在公开 fixture 上构造与检查证据传播边，未运行论文五个搜索 Agent。原文 edge F1 是自动图解析与人工标注的一致性，不是本地问答准确率；图接口可执行也不能代表真实网页证据抽取和事实判断能力。
教学例子：例如预先给定“证据甲支持约束乙”的边后验证连通性，不能证明模型能从任意网页正确抽取这条支持关系。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
搜索多样性与约束覆盖率为什么不是同一个指标？
SearchAtlas: Analyzing Agentic Search Strategies via Evidential Query Graphs
问答新增：2026-10-27 · Duke University
展开答案与例子
答案：多样性描述查询或来源差别，覆盖率关注问题要求是否被证据支持。不同网站可能重复相同事实，少数高质量来源也可能覆盖多个要求；SearchAtlas 的图审计强调支持结构，不能只用访问域名数替代有效证据链。
教学例子：例如来自五个网站的同一产品参数仍未回答售后政策，而一个官方政策页就可能补齐这个特定条件。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
query—evidence—answer 图中的边为什么比网页清单更有解释力？
SearchAtlas: Analyzing Agentic Search Strategies via Evidential Query Graphs
问答新增：2026-10-27 · Duke University
展开答案与例子
答案：边显式说明一次查询找到什么证据、证据支持哪个约束或回答片段，可追踪信息如何进入结论。网页清单只显示访问过的来源，无法自动证明推理支持关系；图解析本身也可能错误，因此边存在不等于事实已被可靠证实。
教学例子：例如来源都在讨论价格，图可显示“当地可购买”结论没有入边，而一串十个链接不容易暴露这个缺口。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
记忆 curator 为什么应在写入前用最小权限只读工具探测环境？
Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：对话里的说法可能过时或只适用于局部环境，先探测能把候选记忆绑定到当前可见事实和作用域。只读最小权限减少整理过程改变被验证对象的机会；验证完成也只是该条件下成立，不能把一次探测提升成永久、跨环境通用的知识。
教学例子：例如记忆候选说“服务端口是八千”，curator 可只读配置确认并标注环境，不能为让它成立而顺手修改服务配置。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
最小权限只读工具为什么不能被 curator 扩大成修复动作？
Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：curator 的职责是核验候选记忆，写外部系统会改变它试图观察的状态并引入副作用。本地只验证重复探测、冲突拒绝与准入，未连接 Copilot SDK；调用合同通过不能说明真实企业 Agent 成本与成功率已复现。
教学例子：例如发现配置值不同应更新记忆证据，而不是顺手把线上配置改回旧值再声称旧记忆被验证。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
环境探测式准入与直接让 LLM 总结经验有什么区别？
Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：直接总结依赖已有轨迹文字，可能将推测压成事实；探测增加独立核查，能拒绝冲突并限制泛化范围。它额外消耗查询与维护成本，也只能核查工具能观察的条件，不能因有验证步骤就声称所有企业状态都可靠。
教学例子：例如一次仓库路径不存在不应总结为所有项目都无该目录，探测可以把结论限定为当前仓库与版本。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
企业 Agent 为什么不能把一次执行后的猜测直接当长期知识？
Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：权限、配置和接口状态会变，一次失败也可能来自临时条件。Grounded Memory 希望持久经验有可追溯的环境依据和适用范围，避免把臆测传播给后续任务；记住内容只是第一步，还要知道它何时、在什么环境下成立。
教学例子：例如某仓库暂时访问失败，直接记成“这个服务永远不可用”会误导未来工作，长期结论需要更明确的状态证据。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SequenceO1 把远期历史压成固定 sketch 后，哪些成本变得可控，哪些仍会随历史变化？
SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：固定预算原型让后续候选匹配与 sketch 交互的规模不再随远期事件数直接增长，近期分支保留即时行为，STCA 再连接两种时间尺度。但读取历史、构造或更新 sketch 仍有成本，不能把端到端处理十万行为都称为常数时间。本地原型近似只验证预算化远期分支，不是完整工业注意力路径。
教学例子：十万条旧行为先压成几十个兴趣原型，每个候选只与这些原型匹配；新行为到来仍需更新摘要。像查一份定长索引很快，但建立与维护索引不是免费的。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地0.65/0.35融合可直接当原文100K系统公式吗？
SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：不能，这是公开参考打分代理，原型预算与recent分支可验证成本方向，未复刻生产STCA与长历史服务。标准化与候选mask应固定，不能用测试结果挑融合权重。
教学例子：例如小目录混合分数的提升，不等于十万历史端到端延迟改善。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
Sketch加recent与纯recent截断的主要信息差别？
SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：前者保留长期模式的压缩通路，后者完全不看远期；固定原型也可能合并不同兴趣，不能因为有长期分支就宣称无损保留全部历史。
教学例子：例如近期偶然看旅行，远期运动兴趣仍可能通过原型影响召回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SequenceO1的sketch是原样保留的一段旧历史吗？
SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：不是。远期历史被压成固定预算的原型表示，近期分支另保留较细行为。原型概括长期模式，并非可逐条还原的完整事件副本；固定的是表示预算，不是原始历史长度。先分清摘要表示与原始记录，才能判断信息可能在哪里损失。
教学例子：几千次远期行为可被若干兴趣原型概括；看到一个原型不能反推出所有事件的准确时间和顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
BAFF为什么同时比较排序位置差和竞价价格差，只过滤其中一项不够吗？
BAFF: Bid-Aware Filter Family for Mitigating Training Data Interference in RTB A/B Tests
问答新增：2026-10-27 · Dable
展开答案与例子
答案：两个实验策略即使给出相近名次，也可能因价格差改变赢标机会；价格接近时，排序差又可能改变曝光分布。BAFF以双轴条件筛掉会显著影响B策略决策的A日志，减少训练中的处理干扰。保留下来只表示在给定条件下较可迁移，不等于恢复了真实无干扰市场。
教学例子：A广告在B榜单位置相近，却有大幅更高报价，仍可能抢走机会；反之价格相同但名次跨过展示边界，也不能直接混用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
BAFF 的 bid-price 距离为什么只取 A 比 B 高出的正向部分？
BAFF: Bid-Aware Filter Family for Mitigating Training Data Interference in RTB A/B Tests
问答新增：2026-10-27 · Dable
展开答案与例子
答案：来源定义 max(bpA−bpB,0)/bpA，衡量的是这一方向上的价格抬升，而非对称绝对差；排序距离则按 B 中的位置除以 K。实现应保留方向、归一化与双阈值条件，不能随手换成绝对值或把两个阈值先加总。
教学例子：A 价十、B 价八时价格差为两成；A 价八、B 价十并不会得到相同正向惩罚。若改用绝对差，就悄悄变成另一个过滤规则。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
BAFF 的过滤与给全部 A 日志统一降权相比，有什么信息取舍？
BAFF: Bid-Aware Filter Family for Mitigating Training Data Interference in RTB A/B Tests
问答新增：2026-10-27 · Dable
展开答案与例子
答案：统一降权保留所有样本，却不区分哪些机会已严重受 A 策略影响；双条件过滤根据 B 排序位置和价格差，直接排除不相容日志。它减少干扰同时损失样本量，阈值越严不一定总更好，也不能保证留下样本已完全无偏。
教学例子：一条日志价格接近却排序差很大，统一乘半权仍会使用它；过滤可明确拒绝，但若门槛太严只剩极少样本，训练方差也会上升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
BAFF 所说的 treatment interference 为什么会出现在 RTB 的 A/B 日志里？
BAFF: Bid-Aware Filter Family for Mitigating Training Data Interference in RTB A/B Tests
问答新增：2026-10-27 · Dable
展开答案与例子
答案：竞价机会与价格会被策略选择共同影响，一个实验组的广告决策可能改变另一策略实际面对的竞争环境。混用 A 日志训练 B 时，样本不再天然等同于 B 会看到的机会。过滤近似无干扰样本是在限制可迁移范围，而非认定实验标签可随意交换。
教学例子：A 抬高某广告出价后改变了竞争排序，B 本来不会以同样价格获得该机会；把这条日志直接当 B 的普通训练样本就混入策略影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
RouteOPD把概率质量从source搬到destination，为什么不等于给所有教师高概率词加分？
Distillation as Probability Transport: Routed On-Policy Distillation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：source由学生相对教师的高估识别，destination对应学生的欠估，运输关注需要修正的差额，而非教师概率绝对大小。这样可以明确监督从哪里移出、向哪里补入，并保持概率口径一致。路由更可解释不代表教师正确，仍要控制支持集和任务评估。
教学例子：某词老师学生都很喜欢，未必需要再强化；另一个词教师支持却被学生忽略，才可能成为从高估区域补入的目的地。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
RouteOPD质量搬运时该检查哪些不变量？
Distillation as Probability Transport: Routed On-Policy Distillation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：来源不能移出超过可用质量，目标增量与来源减量应一致，最终概率非负且归一。零差距时不应制造迁移；本地机制组件不意味着完整教师模型训练通过。
教学例子：例如总共移走一份质量却只加回半份，会让分布总和错误。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
概率运输与直接把学生分布替换成教师有何区别？
Distillation as Probability Transport: Routed On-Policy Distillation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：运输只针对差额及选定路由，替换则覆盖全分布。需要守恒、非负与source/destination定义，不能把普通softmax再命名为路由就算实现。
教学例子：例如未涉及的候选可能保持，而整体教师替换会同时改动它们。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
RouteOPD为什么区分source与destination token？
Distillation as Probability Transport: Routed On-Policy Distillation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：学生高估项有多余质量，低估项缺少质量，显式运输把需要修正的部分从前者移向后者，使监督路径可解释，而非不加区别地密集匹配。
教学例子：例如从学生过度偏好的措辞项搬一部分质量到教师更支持的关键数字。
依据：背景与主要改动、核心机制；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
Probe-ERPO为什么用不依赖最终答案的探针一致性，低一致时又不直接强化多数答案？
Entropy-Regularized Rank-Masked Policy Optimization for Test-Time Reinforcement Learning in Code Generation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：直接用模型自己的输出当标签可能循环确认错误。输出自由探针提供另一种一致性估计，高一致与低一致分支采用不同更新；低一致时限制排名靠后的候选，并配合熵控制探索。一致性仍不是答案真值，所以不能把探针分数当作有监督正确率。
教学例子：多个相关探针互相矛盾，主答案即使票数最多也不宜盲目强化；可先抑制明显落后的候选，保留进一步探索。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
Probe-ERPO的负排名mask能否访问标准答案？
Entropy-Regularized Rank-Masked Policy Optimization for Test-Time Reinforcement Learning in Code Generation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：不能。mask应由允许的探针与候选排名形成，答案只能在独立评分时出现。本地机制组件不能因预设mask工作正常，就宣称真实探针已具备可靠识别能力。
教学例子：例如测试固定哪些位置被压低，只验证更新路径，不代表自动知道了哪些推理错。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
高PCR强化与低PCR负向排名为何不是简单同一伪标签训练？
Entropy-Regularized Rank-Masked Policy Optimization for Test-Time Reinforcement Learning in Code Generation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：低一致组缺少可靠正例，方法转而约束较差候选，不把某个多数项无条件当真。高一致也只是可用线索，仍需熵控制与独立评估防止错误共识。
教学例子：例如候选彼此矛盾时，可以先远离明显弱项，不必强行选一条作为正确示范。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Probe-ERPO为什么用不依赖最终答案的探针？
Entropy-Regularized Rank-Masked Policy Optimization for Test-Time Reinforcement Learning in Code Generation
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：测试时没有标准答案，若探针先读取最终正确解，就失去无标签适配意义。PCR用探针一致性提供可信度线索，再决定强化还是施加负向约束。
教学例子：例如从中间状态检查一致性，而不是拿金标逐条比对后决定该学谁。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OPRD为什么能借弱模型的变化方向，而不要求强模型模仿弱模型答案？
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
问答新增：2026-10-27 · KAIST AI
展开答案与例子
答案：方法从弱后训练模型与其基座的差异提取中心化、归一化方向，再增强强模型验证器梯度在该方向上的分量。迁移对象是更新方向，不是弱模型的最终回答。只有方向与强模型当前任务有用地对齐才可能帮助；本地候选方向诊断不证明通用弱到强提升。
教学例子：例如弱模型训练后更重视检查单位，强模型可增强相关梯度分量，却不必抄它可能算错的最终数值；方向有用仍需验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
OPRD的d如何处理零变化与梯度方向？
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
问答新增：2026-10-27 · KAIST AI
展开答案与例子
答案：变化先去均值再单位化，零范数需明确无有效方向；增强为原梯度加投影项，不能把梯度全替换成d。本地按候选映回参数，不是完整真实模型梯度实验。
教学例子：例如弱模型训练前后完全相同，不能除零后产生一个随机教学方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
OPRD方向增强与用弱teacher做完整蒸馏有什么差别？
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
问答新增：2026-10-27 · KAIST AI
展开答案与例子
答案：增强保留强模型原验证梯度，只放大其沿弱学习方向的分量；完整蒸馏直接拟合弱分布。若方向与强任务无关也可能无益，并非弱模型自动教强模型所有技能。
教学例子：例如强模型仍按自己的任务奖励更新，只受一个方向性调节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
弱到强OPRD迁移的是弱模型哪部分信息？
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
问答新增：2026-10-27 · KAIST AI
展开答案与例子
答案：弱模型后训练相对base的logit变化方向，被用于增强强模型验证器梯度。它不要求弱答案比强模型正确，假设有用学习方向可能跨能力规模迁移。
教学例子：例如弱模型学到检查单位的趋势，可辅助强模型，而不用复制其计算结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么经验写入要先局部化为图编辑，再经过 held-out 门？
Procedural Graphs: Self-Evolving Execution Structures for LLM Agents
问答新增：2026-10-27 · Google
展开答案与例子
答案：图中的过程关系会影响多条执行路径，整段新经验直接覆盖可能污染无关技能。局部编辑明确改哪条节点或关系，held-out 再检验是否超越原轨迹的偶然成功；验证通过只支持该评测范围，不能把训练轨迹上的自洽当作全局结构已可靠。
教学例子：例如只新增“认证失败后刷新令牌”的恢复边，不重写整个上传图，再用未参与提议的任务检查是否引入重复认证。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地首尾节点保护能否当作完整 held-out 能力验证？
Procedural Graphs: Self-Evolving Execution Structures for LLM Agents
问答新增：2026-10-27 · Google
展开答案与例子
答案：不能。本地以既有路线首尾必须保留作为确定性编辑门，验证图更新与拒绝路径，不调用真实工具。该代理只保留结构条件，无法证明中间步骤语义正确或新图泛化，策略仍不得看到隐藏计划和答案。
教学例子：例如保住起点终点却删除必需认证步骤仍可能结构过门，说明该合同不能替代实际任务成功判定。
依据：本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
局部候选图编辑与重写整张程序图有什么取舍？
Procedural Graphs: Self-Evolving Execution Structures for LLM Agents
问答新增：2026-10-27 · Google
展开答案与例子
答案：局部编辑减少对已有路线的无关影响，便于归因与回退；整图重写更自由但容易破坏旧接口和有效路径。局部也不保证安全，修改一个关键节点可影响许多后续过程，仍需独立验证而非只查图格式。
教学例子：例如替换查询节点可能改变所有下游输入，虽然只动一个节点，也应验证依赖它的路线是否保持可用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
procedure—relation—procedure 图比单纯保存技能片段多了什么？
Procedural Graphs: Self-Evolving Execution Structures for LLM Agents
问答新增：2026-10-27 · Google
展开答案与例子
答案：图显式表达程序之间的依赖或组合关系，让新经验可以修改局部执行结构，而不只是增加一段相似文字。关系正确性会影响后续路径，因此新编辑要经过独立 held-out 验证，不能因为来自一次成功轨迹就直接永久写入。
教学例子：例如“认证后查询”表达先后约束，“查询后若失败刷新凭据”表达恢复关系，单独两个文本片段未必包含这些连接。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么容量紧张时渐进合并事件树，比持续重写一份总摘要更利于定位证据？
MemForest: Efficient Agent Memory Management via EventTree Partitioning and Progressive Merging
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：事件分区保留局部时间与因果结构，容量压力下只合并必要节点，避免每次压缩都搅乱全部历史。查询从语义锚点向邻域传播，还能利用跨事件关联；层次摘要仍可能遗漏细节，因此树结构是控制损失与检索路径，不是无损压缩保证。
教学例子：例如付款失败和之后退款分属两次事件，树间关联可连接它们；一份反复重写的总摘要可能混淆先后次序。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 token Jaccard EventTree 与论文 embedding/LLM 摘要器的边界是什么？
MemForest: Efficient Agent Memory Management via EventTree Partitioning and Progressive Merging
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：本地使用紧凑 CPU 数据结构、词项 Jaccard 选树并实际执行压缩，验证树分区与合并路径；没有运行作者 embedding、LLM 摘要器或长程 benchmark。结构正确和记录减少不能当成真实语义检索或记忆回答能力。
教学例子：例如两个节点共享“会议”一词可被 Jaccard 选中，但是否为同一事件仍需要更丰富语义，当前接口不自动证明。
依据：本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
语义 anchor 邻域传播与只检索单个最相似节点有什么不同？
MemForest: Efficient Agent Memory Management via EventTree Partitioning and Progressive Merging
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：单节点匹配可能只找到表面相关片段，邻域传播还可沿时间与跨事件链接补充支撑上下文。它提供结构性扩展，也可能带入噪声，因此传播范围和容量需要控制，不能把邻接节点都假定为正确证据。
教学例子：例如命中“改期”节点后再读相邻确认节点，可知道新日期是否最终生效；只看最相似一句可能仍停留在提议。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长期记忆为什么需要同时支持概览和回到具体事件？
MemForest: Efficient Agent Memory Management via EventTree Partitioning and Progressive Merging
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：历史很长时只读原文成本高，只读总摘要又可能找不到某次决定的来源。MemForest 研究让事件保持局部组织，并在容量压力下逐级压缩，查询时仍能沿联系回到证据；目标是在可扩展性与可追踪细节之间取得平衡。
教学例子：例如用户问上个月哪次会议改了计划，系统既需知道相关事件属于哪一组，也要能够追到那次确认消息。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么早期用 action guidance，后期要转向 observation enrichment？
Environments as Scaffold: Enriching Feedback to Bootstrap Self-Evolving Agents in Long-Horizon Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：能力不足时直接引导动作能降低探索难度，帮助获得可学习轨迹；长期持续示范却可能让策略依赖外部答案。后期改为丰富观察，把取证支持留下、动作选择交还 Agent，逐步降低脚手架依赖；两阶段反馈角色不同，不能用统一强提示覆盖所有训练过程。
教学例子：例如初学开柜时先提示“找钥匙”，熟练后只补充锁的状态，让 Agent 自己决定下一步，而非永远告诉它完整动作序列。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地第一步 workflow 可以从隐藏 AgentTask.plan 读取吗？
Environments as Scaffold: Enriching Feedback to Bootstrap Self-Evolving Agents in Long-Horizon Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：不能。只能使用公开 observation 明确给出的 workflow，后续仅加入状态摘要，隐藏计划不进入策略。当前未训练 LLM 或执行真实环境 rollout，受控支架路径只能验证信息隔离与阶段调度，不能把 oracle 指导造成满分写成学会长程任务。
教学例子：例如评测文件含标准三步计划，不能伪装成环境提示送给模型；否则不是观察增强而是直接泄露答案。
依据：本地复现与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
带脚手架完成任务与撤去脚手架后的自主完成，为什么需要分开评价？
Environments as Scaffold: Enriching Feedback to Bootstrap Self-Evolving Agents in Long-Horizon Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：脚手架可能直接减少动作选择难度或补充额外证据，成功既反映策略也反映外部支持。撤去后才可观察训练是否留下可迁移的决策能力。比较时要说明哪些帮助仍然可见，不能把不同信息条件的分数混用；本地阶段调度诊断尤其不能替代真实训练迁移实验。
教学例子：教学例：训练时提示“先读配置”，测试若仍给同一正确提示，只能说明会跟随；自主测试则需要模型自己发现应查配置。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
训练较弱的长程 Agent 时，为什么“完全放手探索”和“始终告诉答案”都有困难？
Environments as Scaffold: Enriching Feedback to Bootstrap Self-Evolving Agents in Long-Horizon Tasks
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：完全放手可能让策略很少得到可学习的成功经验，始终给正确动作又可能让它只学会依赖外部帮助。Feedback Scaffold 研究在训练中逐步调整支持方式，让早期更容易起步，后期仍需自己决策。评价目标应是撤去相应支架后的能力，不能把受指导完成当成自主解决。
教学例子：教学例：新手起初需要示范下一步，熟悉后只给检查结果让其判断；若测试时继续替它选动作，就测不到独立处理能力。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
AutoLR为什么不让LLM直接把自认为最好的方案写成长期冠军？
AutoLR: Automating the Path from Research to Launch Review in Industrial Recommender Systems
问答新增：2026-10-27 · NetEase, Inc.
展开答案与例子
答案：提案和讨论含有噪声，若每轮凭语言判断KEEP，错误会沿持久状态累积。AutoLR把语义推理交给LLM，却把预算、指标提取、护栏与状态迁移留给确定性控制器；只有通过对应实验门槛的证据才能更新冠军。一次代理指标胜出也不能绕过后续A/B与Launch Review。
教学例子：模型建议一种新优化器，但离线收益不稳定；控制器记录提案和失败而保留旧冠军，避免下轮把未验证方案当成已经成立的基线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
本地 AutoLR 在恢复磁盘账本后，怎样防止历史 test 结果影响下一轮晋级？
AutoLR: Automating the Path from Research to Launch Review in Industrial Recommender Systems
问答新增：2026-10-27 · NetEase, Inc.
展开答案与例子
答案：来源让提案读取研究证据与已执行 validation 账本，先做一步真实反向传播检查，再用固定预算训练，最终 test 只在选择后运行一次。恢复应保留候选、审查与验证状态，且 online_authorized 始终为 false；不能从账本中把测试表现变成选择奖励。
教学例子：程序中断后继续读取前两轮验证记录，第三轮无需重跑；最终测试即使发现退化，也只如实报告，而不把测试分写回提案提示再重选。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
AutoLR 的分歧惩罚与总选最有探索价值的候选相比，改变了什么预算取舍？
AutoLR: Automating the Path from Research to Launch Review in Industrial Recommender Systems
问答新增：2026-10-27 · NetEase, Inc.
展开答案与例子
答案：仅按探索价值选会偏向未知且高风险的想法，已有证据、探索不确定性和专家分歧同时入分，给风险冲突明确代价。分歧不等于错误，但要求更多证据或较低预算优先级。本地三轮没有胜过基线，也允许保持原冠军，避免把持续研究误解为必须持续报正增益。
教学例子：两个候选同样新颖，一个审查者均认可，另一个对保真存在严重争议；预算有限时可先测前者，后者先补证据而不是仅因未知就优先。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
AutoLR 的长期研究状态机为什么要区分离线评估、真实 A/B 与 Launch Review？
AutoLR: Automating the Path from Research to Launch Review in Industrial Recommender Systems
问答新增：2026-10-27 · NetEase, Inc.
展开答案与例子
答案：离线结果只说明特定数据协议下的表现，真实用户影响与上线资源约束需要另外验证。状态机将提案、实验、审查和晋级分开，让证据逐级增加，并把失败与预算写入长期状态。LLM 可以推理和写代码，不能用一句“有提升”跳过后续权限与证据。
教学例子：一个优化器在验证集更好但内存超预算，应停在离线阶段；另一个经过真实实验才有资格进入发布审查，而不是自动成为线上冠军。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
为什么有强共现关系的两件商品，仍可能不适合作为互补推荐？
Beyond Co-purchase Relation: Evolution of Complementary Recommendations at Allegro
问答新增：2026-10-27 · Allegro.com
展开答案与例子
答案：共现可以来自替代比较或流行度，互补却要求两件商品能共同完成需求。AlleCompanion先用多来源证据建立类别互补关系，再以类别约束双塔与Category Adapter学习具体匹配，避免只按相似或共购打分。推理必须对候选类别进行合法计算，不能提前读取待预测商品类别来选路。
教学例子：用户比较过两台相机，不代表需要一起买；镜头可能才与相机互补。类别先限定可用配件，再比较具体接口和用途是否匹配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
AlleCompanion 本地 Category Adapter 推理时能否读取测试目标的类别？
Beyond Co-purchase Relation: Evolution of Complementary Recommendations at Allegro
问答新增：2026-10-27 · Allegro.com
展开答案与例子
答案：不能。来源明确对所有候选类别分别计算，训练只使用 train 邻接对，测试目标类别不能作为正确答案提示。公开替代任务也没有真实 ComCat 互补标签，应该保留诊断性质与负结果，不能把类别提示泄漏包装成互补推荐能力。
教学例子：全库评估必须让每个候选按自身类别进入模型；若先告诉模型“正确答案是镜头类”再只评镜头，就绕过了它本该完成的类别选择。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
AlleCompanion 与普通同类相似召回，适用的推荐意图有何不同？
Beyond Co-purchase Relation: Evolution of Complementary Recommendations at Allegro
问答新增：2026-10-27 · Allegro.com
展开答案与例子
答案：同类召回常用于替代选择，强调功能与内容相近；互补召回寻找一起使用能满足需求的不同功能物品。两者正例定义不同，直接用 next-product 命中代替互补标签会改变任务，因此本地 Amazon 负结果不能单独证伪 ComCat 的类别知识。
教学例子：买帐篷后想替换型号时推荐另一顶帐篷，准备露营套装时则可能需要睡袋与防潮垫；同一候选在两种意图下的价值不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
AlleCompanion 的 ComCat 为什么先维护类别互补关系，再训练类别约束双塔？
Beyond Co-purchase Relation: Evolution of Complementary Recommendations at Allegro
问答新增：2026-10-27 · Allegro.com
展开答案与例子
答案：互补是一种用途关系，普通共购或语义邻近不可靠地代表它。ComCat 汇合规则、人工、语言推理和统计证据，把合理类别关系先显式化，双塔与适配器再在这些空间里学习匹配。类别先验提供约束，但不能代替具体商品是否兼容的判断。
教学例子：相机与镜头类别互补，但具体卡口仍需匹配；两台相机虽可能被共同浏览，也不应仅凭共现当作彼此配件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
KVMEM把历史地址空间与执行窗口分开，为什么不等于模型一次注意全部历史？
KVMem: Virtualizing Million-Token Agent Workspaces on a Consumer GPU
问答新增：2026-10-27 · Shanghai University of Finance and Economics
展开答案与例子
答案：历史KV分块存放在不同存储层，当前查询在注意力空间检索相关块，再物化成原生窗口内的执行视图。地址可以很大，单步注意的内容仍有界，未命中证据可能被遗漏。本地参考路径还保留完整后备缓存，未实现完整异步分层系统，不能据此宣称显存节省或加速。
教学例子：例如长会话有许多旧文件，当前只把检索命中的几块KV搬入窗口；这避免重复处理全文，但没有让窗口外全部证据同时参与注意。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
KVMEM 本地保留完整 backing cache 时，为什么不能报告峰值显存下降？
KVMem: Virtualizing Million-Token Agent Workspaces on a Consumer GPU
问答新增：2026-10-27 · Shanghai University of Finance and Economics
展开答案与例子
答案：有界工作集不等于完整存储已卸载。文档当前Python路径仍保留backing cache，任务级验证也未显示生产内核性能；应分别记录工作集、总驻留、数据搬运与端到端耗时。
教学例子：每次只读512槽，但全部2048槽仍驻留GPU，不能只用512计算总缓存占用。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
分页 KV 复用与先检索原始文本再 prefill，复用的计算对象有什么不同？
KVMem: Virtualizing Million-Token Agent Workspaces on a Consumer GPU
问答新增：2026-10-27 · Shanghai University of Finance and Economics
展开答案与例子
答案：分页方式保存已计算的K/V，命中后物化执行视图；文本检索取回token后通常还需重新prefill。两者的存储、位置与缓存一致性合同不同，不能只按检索条数比较成本。
教学例子：取回一段旧KV，和取回同一段文本再计算KV，不是相同的数据通路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
KVMEM 为什么把长期 Agent 历史组织成分页 KV？
KVMem: Virtualizing Million-Token Agent Workspaces on a Consumer GPU
问答新增：2026-10-27 · Shanghai University of Finance and Economics
展开答案与例子
答案：历史可能同时超过显存与原生窗口，摘要又可能丢证据。KVMEM把已算KV放在分层存储，用注意力空间索引选相关block，再构造不超过原生窗口的执行视图。
教学例子：工作区可存很多历史页，当前一次模型执行只加载其中几页。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
BeaconKV怎样避免“只看近期query”删掉长推理稍后还会重访的计划？
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
问答新增：2026-10-27 · Hanyang University
展开答案与例子
答案：它对历史query保持少量具有代表性的beacon，用这些代表查询为KV重要性提供跨阶段依据，并保护近期窗口。这样淘汰不完全受最近一步支配，适合推理中回看早期思路的情况。代表查询只能近似未来需求，不能保证固定预算内所有远程证据都保存。
教学例子：中间十步都在计算局部数字，最后却要检查最初的计划约束；早期beacon可让相关KV继续获得重要性，而不因十步未被关注就立刻淘汰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
BeaconKV 的 Python 选择器，为什么必须计入总耗时和 backing cache 占用？
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
问答新增：2026-10-27 · Hanyang University
展开答案与例子
答案：评分和索引本身可能昂贵，保留完整backing cache也不等于真实释放显存。文档公开checkpoint任务曾出现选择器更慢与质量退化，需把任务质量、工作集和总系统成本分别报告。
教学例子：只把attention工作集缩到512项，但另存全部KV并花时间逐项选择，峰值显存未必下降。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
BeaconKV 的代表查询评分，与按 KV 年龄淘汰有什么不同？
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
问答新增：2026-10-27 · Hanyang University
展开答案与例子
答案：按年龄只假设新信息更有用；代表查询评分依据query空间覆盖与key匹配决定历史价值，并额外保护近期窗口。代表性不足仍会漏证据，不能把它当成知道未来查询的oracle。
教学例子：一条很旧但与某个历史计划query高度相关的KV，可优先于无关旧项保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
BeaconKV 为什么保留少量代表 query，而不只保留近期查询？
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
问答新增：2026-10-27 · Hanyang University
展开答案与例子
答案：长推理可能重访早期计划。历史代表query覆盖不同关注方向，用来为KV保留投票，使有限缓存兼顾近期信息和稍后可能重访的证据。
教学例子：推理到最后需要回看开头的约束，最近几步的query未必能代表这项需求。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
共享团队回报为何能让推理策略和 Meta-Skill 策略一起适配？
CoSkill: Joint Reinforcement Learning of Reasoning and Meta-Skill Agents for Hierarchical Skill Evolution
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：技能内容决定推理可用的程序，推理选择又决定哪些技能得到执行反馈。联合目标把两侧对任务结果的影响连起来，交替更新减少只改库而策略不用、或只改策略却受旧技能限制的问题；共同回报仍不自动解决单次修改的信用归因。
教学例子：例如原技能步骤过长导致执行失败，Meta-Skill 可压缩步骤，推理 Agent 再学何时调用改版，而不是只把新文档塞进库。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地三 seed 实际更新后未晋级，应该怎样解释？
CoSkill: Joint Reinforcement Learning of Reasoning and Meta-Skill Agents for Hierarchical Skill Evolution
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：真实路径出现双角色非零梯度和参数变化，但重置验证未取得正增益，因此技能候选未晋级并保留基线冠军。旧版读取评测标签的分数已作废，legacy 解析也不是能力；本地 Qwen ToolRoute 不能与论文 ALFWorld/WebShop 分数横比。
教学例子：例如参数变化很大而 validation 不升，只能证明训练执行及拒绝路径有效，不能把“完成更新”写成“CoSkill 改善成功率”。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
联合训练与固定技能库下只训练检索有什么不同？
CoSkill: Joint Reinforcement Learning of Reasoning and Meta-Skill Agents for Hierarchical Skill Evolution
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：固定库方法只改变选哪个技能，联合训练还允许技能内容演化，解决内容本身不适合任务的问题。它也增加非平稳性和归因难度，因此需要角色信用、隔离编辑和无收益拒绝，不能因库增长就声称团队策略更强。
教学例子：例如检索再准确也无法补救一份步骤顺序错误的技能；元技能可改顺序，但改后必须防止其他任务回归。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
CoSkill 的 Meta-Skill Agent 为什么是可学习策略，而非固定脚本？
CoSkill: Joint Reinforcement Learning of Reasoning and Meta-Skill Agents for Hierarchical Skill Evolution
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：它依据执行回报修改技能内容，Reasoning Agent 则学习如何选择与使用任务和子步骤技能，两角色共享 backbone 并交替更新。技能库与行动策略因而共同适配，而不只是把规则提示存入库；仍需验证修改是否真的改善执行。
教学例子：例如推理角色发现旧技能少了恢复步骤，元技能角色提出修改，随后重置环境验证，而不是直接把每次反思都永久收录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
把用户画像拆成原子字段，为什么有助于避免新偏好覆盖旧偏好？
AtomRec: Evolving Atomic Memory for Agentic Recommendation
问答新增：2026-10-27 · Xi'an Jiaotong-Liverpool University
展开答案与例子
答案：更新只针对命中的事实字段，不必重写整份用户摘要，降低无关信息被顺带删除或改意的风险。语义协同边和多跳路径又把推荐依据连接起来，使可追溯证据与偏好值分开；原子化仍需要处理冲突和时间范围，不能默认旧事实永远有效。
教学例子：例如用户新增“晚餐不吃辣”，只更新晚餐口味字段，保留通勤预算和早餐偏好，而非让一次摘要重写把它们全部抹掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 pre-target 重建与非法链接记零分别防什么问题？
AtomRec: Evolving Atomic Memory for Agentic Recommendation
问答新增：2026-10-27 · Xi'an Jiaotong-Liverpool University
展开答案与例子
答案：每个留出时点只用目标之前历史建立记忆，防未来行为泄露；生成链接只能引用给定历史 ID，非法或畸形输出直接失败，不回填标准答案。本地小样本 test 为负结果，说明链路执行不等于推荐收益，更不代表原作者线上系统。
教学例子：例如推荐目标商品已出现在未来历史中就会让任务变简单；按时点重建必须删去它，而不能仅在 prompt 隐藏字段名。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
多跳证据路径与单一用户—物品协同边有什么不同？
AtomRec: Evolving Atomic Memory for Agentic Recommendation
问答新增：2026-10-27 · Xi'an Jiaotong-Liverpool University
展开答案与例子
答案：单边表达总体关联，多跳可展示偏好、历史物品属性与候选之间的支持链，帮助解释推荐原因。路径也可能包含不可靠语义边，不能把能连通当作因果偏好证明；下游排序仍要在闭合候选集和隔离目标条件下评价。
教学例子：例如用户喜欢旧鞋的轻量特征，经属性链接到新鞋，比只说两物品共同购买更可追踪，但链接必须来自真实历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
推荐助理为什么需要能追踪变化与依据的用户记忆？
AtomRec: Evolving Atomic Memory for Agentic Recommendation
问答新增：2026-10-27 · Xi'an Jiaotong-Liverpool University
展开答案与例子
答案：用户行为包含长期偏好、短期意图和具体物品反馈，混成一个固定画像会难以更新或解释。AtomRec 希望让推荐依据可细粒度演化，并通过历史关系说明候选为何相关；一次点击不自动代表长期喜好，记忆仍须保留情境与来源。
教学例子：例如用户为送礼购买香水，不应据一次购买认定本人长期偏爱该香型，后续推荐需要区分这次意图与稳定偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
Sparse OPD只监督少数最大正差异位置，为什么仍要保留完整学生轨迹上下文？
Extremely Sparse Supervision Incentivizes Reasoning Ability
问答新增：2026-10-27 · Amazon / Duke University
展开答案与例子
答案：关键位置的教师分布依赖前面实际生成的推理，去掉未监督部分会改变该状态。稀疏化改变的是哪些位置产生梯度，而不是把其余词元从条件输入删除。少量位置有效是实验条件下的发现，不能推断任何任务都只需一两个词元，本地也未做全参数蒸馏。
教学例子：例如只学习一次关键纠错词元，教师仍需看到之前的计算才能判断它；把整段前文删掉后监督同一个字，已经变成不同任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
Sparse OPD未选位置的梯度与上下文如何区分？
Extremely Sparse Supervision Incentivizes Reasoning Ability
问答新增：2026-10-27 · Amazon / Duke University
展开答案与例子
答案：未选token不产生对应直接损失，但保留为后续条件，模型共享参数仍可能间接受影响。本地未执行真实Qwen或Llama全参数训练，不能据候选核复述原表成绩。
教学例子：例如不监督第二步，并不表示第三步评分时可以删掉第二步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
稀疏监督与更短生成为什么不是同一效率优化？
Extremely Sparse Supervision Incentivizes Reasoning Ability
问答新增：2026-10-27 · Amazon / Duke University
展开答案与例子
答案：稀疏化减少被监督位置，仍需保留学生轨迹并可能评分全段寻找关键点；短生成直接改变采样成本和状态覆盖。不能把少loss token数等同总推理成本下降。
教学例子：例如先生成千词再选一词，仍已支付千词生成费用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
Sparse OPD为什么研究一两个关键位置也能否提供学习？
Extremely Sparse Supervision Incentivizes Reasoning Ability
问答新增：2026-10-27 · Amazon / Duke University
展开答案与例子
答案：全词元监督可能大量冗余，选教师与学生重要正差异处检验信息是否集中。特定实验少量有效不表示所有任务都可固定只教一词。
教学例子：例如一个关键运算符改正可能比整段连接词模仿更影响结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
Random Attention为什么保护完整prompt，却在生成轨迹中逐头独立随机保留？
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning
问答新增：2026-10-27 · Salesforce AI Research / University of Illinois Urbana-Champaign
展开答案与例子
答案：任务说明与原始证据留在prompt中，保护它们避免随机删除改变任务条件；生成轨迹按头独立采样，省去重要性评分并让各头拥有不同覆盖。预算必须容纳受保护部分，随机策略仍可能漏掉关键中间步骤；本地GPU重建验证不代表完整任务矩阵与内核吞吐。
教学例子：例如几个注意力头保留不同的中间推理片段，仍都能读取原问题；若把题干也随意删去，就不再是在同一输入条件下比较淘汰策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
随机预算 B 比完整 prompt 长度还小时，能偷偷从 prompt 里再删一些吗？
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning
问答新增：2026-10-27 · Salesforce AI Research / University of Illinois Urbana-Champaign
展开答案与例子
答案：这会违反完整prompt保护合同。B-|P|必须是合法的生成轨迹采样预算；不足时应显式调整预算或报告不可行，不能把负数当合法抽样量，也不能改规则后沿用同一方法名。
教学例子：prompt已有100项而总预算只有80项，就无法同时满足这两个条件。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
逐 head 独立随机保留，与所有 head 共用同一个随机集合有什么不同？
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning
问答新增：2026-10-27 · Salesforce AI Research / University of Illinois Urbana-Champaign
展开答案与例子
答案：独立采样允许不同head保留不同生成位置，形成不同访问子集；共享集合会把同一选择限制施加到所有head。二者平均预算相同，覆盖与误差相关性仍可能不同。
教学例子：一个head保留位置5，另一个保留位置8，不必两者都只剩同样几个位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
Random Attention 为什么尝试省去 KV 重要性打分？
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning
问答新增：2026-10-27 · Salesforce AI Research / University of Illinois Urbana-Champaign
展开答案与例子
答案：重要性评分本身也占计算，并可能让所有head受同一排名约束。方法完整保留prompt，只在生成轨迹中逐head均匀随机保留预算，用更简单的选择机制研究缓存取舍。
教学例子：每个head独立留一部分生成历史，而不先运行一次全历史重要性扫描。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Lngram v2使用硬二进制地址查表，为什么还需要反事实邻接地址和零Sink？
Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications / Kuaishou Technology
展开答案与例子
答案：硬地址使记忆访问离散且可解释，但不能沿普通索引直接获得平滑梯度；邻接地址提供反事实比较信号，帮助训练地址选择。查出的多路token再通过GQA读回，并加入零Sink，使模型可选择不使用当前记忆。能命中表项不意味着它必定有用，更不该强制把所有查表结果写回。
教学例子：当前地址查到不相关短语，邻接地址可能提供更合适关联；若两者都无帮助，注意力可转向零Sink，避免为了“有记忆”就注入噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
Lngram v2 为什么需要零 Sink，而不是强迫每次 lookup 都影响主干？
Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications / Kuaishou Technology
展开答案与例子
答案：零Sink为GQA提供拒绝无用记忆的选项，避免查到什么都必须注入。硬地址还需反事实邻接地址的训练梯度路径；不能把整数地址本身当成普通可导变量。
教学例子：当前记忆不相关时，注意力可以选择零Sink，减少这次查表对残差的影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Lngram v2 的 latent 地址与按输入文字 n-gram 哈希，寻址信息有何差别？
Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications / Kuaishou Technology
展开答案与例子
答案：latent地址由backbone hidden投影得到，会携带上下文表征；文字n-gram哈希直接依赖离散输入片段。二者即使都查表，也不共享相同地址空间与可解释对象。
教学例子：相同字面词在不同上下文的hidden可能不同，从而落到不同latent地址。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Lngram v2 为什么把 hidden state 变成离散 n-gram 地址？
Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications / Kuaishou Technology
展开答案与例子
答案：离散地址使最近状态组合能以期望O(1)方式查memory table，多路查询再读回主干。它把记忆寻址显式化，同时用训练路径让地址投影能够学习，而不是只查原始字符串。
教学例子：两个隐藏状态的二进制组合形成一项2-gram键，查得对应记忆token。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
系统已违规时，为什么安全门不能把所有仍不完全安全的动作都拒绝？
SiLR: Structure-Preserving Admission and Process Reward for LLM Tool Agents
问答新增：2026-10-27 · Institute of Science Tokyo
展开答案与例子
答案：恢复可能需要经过尚有残余风险的中间状态，全拒绝会让系统被锁死。SiLR 先 shadow-execute，再要求每个受约束分支的严重度都不恶化，允许逐步改善；只看一个总分可能掩盖某分支变坏，shadow 结果也仍需对应真实执行合同。
教学例子：例如两个权限问题中先撤销一个，另一个暂时保留，整体尚未完全安全却是有效恢复；不能要求一步消除全部问题才允许动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
SiLR的shadow执行可以用不可靠模拟器替代真实效果吗？
SiLR: Structure-Preserving Admission and Process Reward for LLM Tool Agents
问答新增：2026-10-27 · Institute of Science Tokyo
展开答案与例子
答案：不能据此宣称安全，准入依赖确定且覆盖充分的验证器。先shadow再比较状态，再真实执行；未建真实simulator时，本地只验证结构化判据与过程信号。
教学例子：例如模拟没建模删除副作用，向量看似不变也可能遗漏真实风险。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
乘积序与把多个违规程度加成一分有什么差别？
SiLR: Structure-Preserving Admission and Process Reward for LLM Tool Agents
问答新增：2026-10-27 · Institute of Science Tokyo
展开答案与例子
答案：向量逐分支不恶化禁止用一处改善补偿另一处恶化，标量总分可能掩盖这种交换。约束结构必须保留，不能用某个权重总和声称等价安全门。
教学例子：例如省了存储却扩大权限，总分下降也不满足每分支都不恶化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
SiLR的shadow-execute是在真实执行出错后撤销动作吗？
SiLR: Structure-Preserving Admission and Process Reward for LLM Tool Agents
问答新增：2026-10-27 · Institute of Science Tokyo
展开答案与例子
答案：不是。它先在影子执行路径评估提案造成的状态，再由安全门决定是否进入真实环境。提案评估与真实副作用必须分开；若先真正执行再检查，就无法据同一门控声称阻止了违规动作，尤其是不能撤销的副作用。
教学例子：先模拟一项配置修改会触及哪些约束，再决定是否提交；不是实际改坏配置后才检查并尝试回滚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
冻结同一批 task-harness 轨迹，只改 advantage 分组，能隔离哪种混淆？
What Does Multi-Harness RL Learn? Credit Assignment and Portability in Coding Agents
问答新增：2026-10-27 · New York University
展开答案与例子
答案：多框架训练同时带来数据多样性和信用比较范围变化，直接对比两个完整系统无法区分来源。固定轨迹后，在同 task 内比较跨框架与各自框架标准化，才更集中检验分组影响；迁移还要在训练未见的最小 harness 上报告差异与不确定性。
教学例子：例如同一道修复题在两种接口产生相同已存轨迹，重新计算分组优势而不重新采样，可减少把采样变化误归因给信用规则。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
为何 held-out Cross-Within 区间跨零时不能宣称已证实迁移？
What Does Multi-Harness RL Learn? Credit Assignment and Portability in Coding Agents
问答新增：2026-10-27 · New York University
展开答案与例子
答案：点估计微小正差仍与无变化相容，原文应连同配对置信区间解释。旧 gold-reading 本地分数作废，当前只验证分组、梯度和协议，未复刻 Qwen RL、真实 coding harness 或 sealed oracle，不把计数器包装为 SWE-bench 能力。
教学例子：例如提升零点二五百分点而区间含负值，证据不足以说稳定优于 Within，更不能省略区间只报正数。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
Within 与 Cross 怎样改变同一 reward 的相对意义？
What Does Multi-Harness RL Learn? Credit Assignment and Portability in Coding Agents
问答新增：2026-10-27 · New York University
展开答案与例子
答案：Within 在各 task-harness 内标准化，评价同环境兄弟轨迹；Cross 跨同任务不同 harness 标准化，会把环境间奖励差也带入优势。后者可能学到环境偏好，是否可移植需未见最小 harness 配对验证，不能只看训练均值。
教学例子：例如工具更强的 harness 整体奖励高，Cross 可能普遍给其正优势；这未必是模型在简约接口也更会修代码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
多 harness 强化学习为什么需要区分底座能力与执行接口带来的差异？
What Does Multi-Harness RL Learn? Credit Assignment and Portability in Coding Agents
问答新增：2026-10-27 · New York University
展开答案与例子
答案：同一任务在不同提示、工具协议和流程下可能呈现不同成功率，训练奖励还会因分组方式改变含义。Multi-Harness RL 研究这种条件变化如何影响学习和迁移。若底座、任务或采样同时变化，就难判断收益来源，因此要控制轨迹与评价口径，而非把跨框架涨分都归为能力增长。
教学例子：教学例：一种 harness 自动补全参数，另一种要求模型自己填写；成功率差异可能反映接口帮助，不能直接当成底座推理差距。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
CORAL为什么把配置投影到预算可行域，并只保留最近几轮实验记忆？
CORAL: An LLM-Native Harness for Production Recommender Systems
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：语言模型可能提出超配额或负数预算，投影先让配置成为可执行候选，再用真实实验反馈修正下一轮。有限近期记忆帮助适应系统变化，避免旧结论无限堆积干扰决策。记忆短不代表可以丢掉可审计历史，且提案经预算修正后仍需验证，不能把可行性误当成质量提升。
教学例子：模型把三路召回预算都加大，合计超过请求上限；先重新分配到允许总量，再运行实验。若近期流量分布变了，旧的最优配方也不应自动占优。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
CORAL 将配置投影到非负且总和不超预算的集合，为什么不只逐项裁剪？
CORAL: An LLM-Native Harness for Production Recommender Systems
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：逐项非负仅修复负值，不能保证总和满足 B，联合投影同时处理耦合预算条件。执行后的实际配置与观测应成对写回，而不是把原始超预算提案记为已运行。来源本地五轮流程只支持约束和反馈循环的可执行性。
教学例子：三个通道各提议六份资源，单项都合法但总和十八超过十；需要整体调整并记录真实分配，否则下一轮会基于从未执行的方案推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
CORAL 的短记忆闭环与保留全部历史最佳配置，分别适合什么变化假设？
CORAL: An LLM-Native Harness for Production Recommender Systems
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：短记忆更重视近期反馈，减少陈旧实验主导当前决策；全历史最佳依赖环境相对稳定，可能对过去高分过度执着。CORAL 通过最近观测持续更新并投影约束，代价是可能遗忘有用长期经验。两者机制取舍不能由来源小数据的单次分数判定普遍优劣。
教学例子：节日期间最佳广告配比未必适合节后，近期反馈应有更大影响；但过短记忆也可能忘掉之前发现的安全边界，仍需独立规则保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
CORAL 的结构化配置为什么必须带目标和预算，而不是让 LLM 自由写优化建议？
CORAL: An LLM-Native Harness for Production Recommender Systems
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：可执行配置要能交给系统验证、运行和比较，预算定义允许哪些资源分配，目标定义观测如何反馈。自由建议可能无法执行或超出服务限制，结构化接口把推理接到真实实验闭环。控制器成功运行仍不意味着获得生产因果收益。
教学例子：建议“多给召回算力”不够，配置需明确给哪个通道多少预算；总预算不足时系统应调整或拒绝，而不是把文字建议当作已完成优化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
TGR 为什么把可扩展排序、分层 SID 生成和离线 reason token 放在同一技术框架？
TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：排序负责细粒度判别，层级 SID 支持从单物品到整页生成，离线 reason token 则把昂贵推理准备成在线可消费条件。框架连接的是不同阶段的信息与计算，而非用一个新公式取代全部模块。理解时应分别检查生成路径、列表目标和推理接口；本地路径分数实现不能代表所有生产子系统都已重建。
教学例子：先离线整理用户可能的兴趣理由，生成器据此产生一页候选，再由扩展排序模型判断价值。请求时直接读取准备好的理由 token，不必重新运行长推理搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
TGR本地路径置信累计式是否完整生产CCFormer？
TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：不是，当前公开核心机制没有私有SID目录、生产检查点或在线生成。层路径概率与列表分需按明示协议对齐，代理融合不能充当真实多模块部署收益。
教学例子：例如几级码概率累积能算通，不代表整页生成器及精排服务均已搭好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
离线reason token与在线实时推理有什么覆盖取舍？
TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：离线省关键链时延，但可能陈旧且难回应突发上下文；实时更灵活却更贵。二者不能以相同token名当作等效能力，需要看生成条件和更新周期。
教学例子：例如当天热点改变后，昨天离线reason可能不再贴当前请求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
TGR为什么把排序、生成与离线reason一起组织？
TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：工业链路既要可扩展打分，也要生成候选或列表，还需可控推理成本。不同模块各承担职责，reason离线注入避免请求时额外昂贵rollout，不是单一新attention公式。
教学例子：例如先准备推理条件，实时模型再生成或排序候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
ReST 的 compute-once、decode-many 为什么需要区分重型用户编码和轻型候选交互？
From Language to Behavior: Scaling Sequence Transformers for Industrial Recommendation Ranking with Rec-Native Designs
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：长历史的门控注意力与顺序、时间间隔建模是用户侧公共成本，先算一次可供同请求多个候选使用。候选 cross decoder 再按物品读取相关用户信息，保留候选相关交互而避免重复完整编码。双门控减少噪声，但共享只适用于不依赖候选的状态；历史改变或缓存版本变化时仍要更新。
教学例子：对同一用户评估两百部电影，先统一编码其观看历史与间隔，再让每部电影做轻量查询。不能把为某个候选专门计算的交互结果直接当成所有电影通用用户表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
ReST 的重用户 encoder 缓存跨候选可复用，跨请求还要检查哪些依赖？
From Language to Behavior: Scaling Sequence Transformers for Industrial Recommendation Ranking with Rec-Native Designs
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：同请求共享 hU 以历史和版本不变为前提，跨请求新增事件、时间差编码或模型更新可能使状态失效。候选 cross-decoder 输出仍专属，不应回写公共缓存。本地执行结构不代表已经测到生产 QPS 和完整 cache 更新系统。
教学例子：用户刚购买相机后再请求，旧历史摘要可能应更新；只因 user ID 一样就永久复用，会把已经完成需求继续当待满足兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ReST 的门控噪声抑制与只缩短历史，相比证据保留在哪里？
From Language to Behavior: Scaling Sequence Transformers for Industrial Recommendation Ranking with Rec-Native Designs
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：截断删掉未保留事件，门控可在较广历史中降低噪声但保留潜在长期相关项，再由候选 decoder 取用。门控也可能误压关键事件，成本仍随输入处理增长。来源本地微负结果不支持门控天然优于任何近期基线。
教学例子：一年前摄影兴趣可保低但非零权重，误点新闻被压制；固定截断若全删旧史就无法再为相机候选取回这份偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ReST 为什么同时使用 RoPE 与相对时间编码？
From Language to Behavior: Scaling Sequence Transformers for Industrial Recommendation Ranking with Rec-Native Designs
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：位置顺序与真实间隔不同，相邻两次行为可隔一分钟或一年；RoPE 提供序列位置关系，时间编码补充节奏，双门控再筛噪声。多种编码不保证捕捉所有周期，也不能将时间间隔越大都简单视为无用。
教学例子：同样相邻的两次相机浏览，一次隔五分钟是集中比较，另一次隔半年可能是新需求；仅位置一格无法区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
负描述由冻结模型生成，为什么训练时还要对它的当前似然反向传播？
From Visual Cues to Spoken Narration: Rethinking Audio Description
问答新增：2026-10-27 · TU Darmstadt & hessian.AI
展开答案与例子
答案：冻结负描述生成器只固定负样本内容；当前模型对正负文本的评分仍应可训练。DRL 比较同一视觉输入下两段有效目标文本的平均对数似然，梯度同时提高正描述相对负描述的偏好；若把负评分也 detach，就改变了原本的对比优化方向。
教学例子：例如同一画面正描述说人在走路、负描述说人在跑步；固定两句话后，当前模型仍须调整二者的相对评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
SFT 和 DRL 的长度归一化能统一成同一个均值吗？
From Visual Cues to Spoken Narration: Rethinking Audio Description
问答新增：2026-10-27 · TU Darmstadt & hessian.AI
展开答案与例子
答案：不能。README 固定的公式要求 SFT 在每个样本内对有效目标 token 求和后再做批平均，DRL 则先分别计算正负描述的 token 平均 logp。prompt 与 padding 均排除；负描述生成器冻结也不意味着当前模型对负描述的 logp 停止梯度。
教学例子：例如正描述十个 token、负描述二十个 token，DRL 比较各自均值；若直接比较总和，长度较长者会被额外惩罚。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
DRL 与只做正描述 SFT 多加了什么约束？
From Visual Cues to Spoken Narration: Rethinking Audio Description
问答新增：2026-10-27 · TU Darmstadt & hessian.AI
展开答案与例子
答案：SFT 提高正确描述各目标 token 的似然，DRL 还显式拉开正负描述的平均对数概率差。它因此提供相对区分信号；但负描述的构造质量决定了信号含义，容易识别的负例并不自动教会细粒度视觉事实判断。
教学例子：例如模型同时很喜欢“她坐下”和错误的“她跑开”，只提高前者概率未必压低后者；相对损失会直接约束这对分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
这里的负 caption 为什么仍与同一视觉线索和 prompt 配对？
From Visual Cues to Spoken Narration: Rethinking Audio Description
问答新增：2026-10-27 · TU Darmstadt & hessian.AI
展开答案与例子
答案：正负描述要在相同条件下比较，差异才集中于描述内容是否适合目标音频描述任务。若同时更换图像或提示，分数差可能来自条件难度，而非模型是否区分有效线索；离线准备负描述只是构造训练材料，不是部署时额外生成负样本。
教学例子：例如同一电影片段的正确描述是“她把杯子放下”，负描述改成无关动作；两者都必须使用同一片段和同一任务提示评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
SetMIR 为什么训练时用一对一集合匹配，服务时仍要 presence head 和 query NMS？
SetMIR: Multi-Interest Retrieval as Set Prediction
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：匹配监督让多个兴趣查询分工，减少它们都解释同一正例的坍缩，但固定查询数不代表每次请求都有同样多的真实兴趣。presence head 决定哪些查询应激活，NMS 再删除高度重复的检索请求，分别处理训练分工与服务冗余。多兴趣表达丰富并不意味着把所有查询都发出去最有效。
教学例子：模型最多有八个兴趣，但某次请求只明显有摄影和露营。presence 只启用相关查询，若两个都指向同一种相机，再用 NMS 合并，避免浪费两次近邻检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
SetMIR服务时哪些query实际派发ANN？
SetMIR: Multi-Interest Retrieval as Set Prediction
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：同时通过presence且未被query-level NMS抑制的query，不能固定全部K条都发。当前只声明公开CPU路径，未复刻私有历史、生产Transformer和ANN dispatch。
教学例子：例如模型预留十个槽，不代表每个用户请求都必须做十次召回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
SetMIR的一对一集合匹配，与让每个兴趣槽独立挑同一个正例有什么不同？
SetMIR: Multi-Interest Retrieval as Set Prediction
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：一对一匹配在整组槽位与目标之间分配对应关系，限制多个槽反复解释同一目标；独立挑选则可能所有槽都被同一容易正例吸引。它处理训练分工，仍需可靠目标集合，不能仅因匹配唯一就认定全部用户兴趣都已被发现。
教学例子：两个槽与运动、摄影两项目标应分配不同对应；若各自贪选最容易的运动项，摄影目标可能无人负责。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
SetMIR的query是用户手动输入的搜索词吗？
SetMIR: Multi-Interest Retrieval as Set Prediction
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：不是。这里的query是模型产生的兴趣检索向量或槽位，用于向物品库发出ANN请求，不要求用户写出文本搜索词。多个槽位表达不同潜在兴趣，实际激活数还需由服务规则决定；向量名称相同不代表它与搜索业务中的自然语言query同义。
教学例子：用户只打开推荐页，模型仍可生成运动与摄影两个兴趣向量；这不表示用户刚输入过两个搜索词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
CAMIE为什么不用纯图文相似度训练商品向量，还要加入co-engagement对比学习？
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：图文相似度只表达内容接近，不保证商品在人类消费过程中有关联。CAMIE用用户旅程中共同互动的商品对形成对称对比监督，把多模态表示拉向推荐相关关系；共享编码接口还能支持不同模态可用性。共同互动本身仍受曝光和场景影响，不能把它等同于普遍互补或因果需求。
教学例子：图片里很像的两件家具可能尺寸用途不合，而外观不同的桌子和椅子经常一起被考虑；行为对比为内容编码补上这种推荐语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
CAMIE 对称 in-batch InfoNCE 为什么要计算两个方向？
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：一个方向以 a 为查询、b 为正目标，与批中其他 b 比较；反向交换两者，使两侧编码都接受匹配监督，再取平均。批中配对必须对应同一旅程关系，温度控制分布锐度，不能把重复正例未经处理地当负例解释。
教学例子：批中相机—镜头与帐篷—睡袋是两对，既用相机找镜头，也用镜头找相机；若把同一镜头重复行当作独立负例，会产生矛盾监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
CAMIE 的 co-engagement 对齐与通用图文对比，正例语义有何不同？
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：图文对比通常连接同一内容的图和文字，co-engagement 连接旅程中共同互动的不同商品，把用户行为关系写入空间。前者关注内容一致，后者可能反映搭配或连续需求；共同互动仍含曝光因素，不是天然无偏的互补标签。
教学例子：帐篷和睡袋画面不同，却在同次露营采购里共同转化。行为对齐可拉近它们，但两个共同出现的热门商品也可能只是曝光多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
CAMIE 为什么要求同一 checkpoint 能处理图文与纯文本商品？
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：实际商品模态可用性不同，统一接口让缺图片的商品也进入同一检索空间，减少为各模态维护割裂模型。内容输入经共同训练与行为对齐后可互相匹配，但缺失模态仍会减少信息，统一 checkpoint 不代表两种输入拥有完全相同精度。
教学例子：一件新品只有标题，另一件有图和详细属性，两者都要进入商品向量索引；统一接口允许检索，但不能凭空补出新品没有提供的视觉细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
生成 pseudo skill 后，为什么还需要 CSI 在执行前重新判断能力匹配？
Imagine Before Acting: Prospective Skill Identification for LLM Agents
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：伪技能把任务目标转成程序性检索代理，帮助找到相关文档，但它本身未经过验证，也不保证检索结果适合当前子目标。CSI 再核对证据、限制与下一有界动作，连接“找得到技能”与“实际用对技能”；不能把想象出的步骤当成已可执行能力。
教学例子：例如伪技能帮助检索到网页下载流程，执行前仍需检查当前网页是否需要登录，不能因文档标题相近就直接套用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
CSI 周期检查的每五步是模型思考轮数还是实际执行动作数？
Imagine Before Acting: Prospective Skill Identification for LLM Agents
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：是实际执行动作计数；下一动作前还需核对当前 subgoal、证据与限制，MATCH 或 PARTIAL_MATCH 时先加载真实 procedure 再行动。加载不是成功调用，pseudo 无效也不启发式补造；本地应分别报告加载、工具执行与最终通过。
教学例子：例如模型连续反思三次但未执行工具，不应把它计成三步来提前触发周期检查；否则改变 runtime 节奏。
依据：核心公式、本地复现、数据协议、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
HSR 的能力轮询与只取所有候选全局最高分有什么取舍？
Imagine Before Acting: Prospective Skill Identification for LLM Agents
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：全局最高分可能被一个容易匹配的能力占满，遗漏任务其他必需能力。HSR 为各 capability 排序后逐行轮询、去重，兼顾需求覆盖；候选内 min-max 归一化也使分数依赖各自候选集合，不能当跨任务校准成功概率。
教学例子：例如任务同时需清洗、绘图和导出，轮询可让三种能力各有代表，而不是五个名额都被清洗技能占据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
pseudo skill 为什么是检索代理，不能直接当成已验证程序？
Imagine Before Acting: Prospective Skill Identification for LLM Agents
问答新增：2026-10-27 · Sichuan University
展开答案与例子
答案：模型按任务想象所需能力和 procedure-like 描述，用来弥合目标文字与技能文档的表达差异。它没有经历实际执行验证，可能缺步骤或违背环境条件；真正行动前仍要加载真实技能并检查匹配，不能因为描述看起来完整就直接信任。
教学例子：例如 pseudo 写“批量导出并校验文件”，可帮助找导出技能，但真实工具参数、权限和校验流程仍需从实际文档获得。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Friend-GNN为什么既使用多哈希用户表示，又按时间前缀采邻居？
Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling
问答新增：2026-10-27 · AI VK
展开答案与例子
答案：多哈希共享表减少超大用户词表的存储，但哈希压缩并不解决时间泄漏。时序CSR把邻居按时间排序，查询只允许访问截止点之前的边，再由图网络聚合；否则模型可能通过未来已成好友关系猜中当前推荐。两部分分别控制内存与观测合法性，不能用图分数提高代替这两项检查。
教学例子：周二推荐好友时不能使用周五才新增的连接；即使用户embedding压缩得很省，采到这条未来边仍会让离线结果失真，因此必须按请求时刻截断邻居。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
时序 CSR 采样为什么要对每个用户邻居时间排序后取历史前缀？
Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling
问答新增：2026-10-27 · AI VK
展开答案与例子
答案：二分查找只能在有序时间数组中定位 τ−Δ 截止，随后仅从合法前缀采邻居，避免未来边进入消息传播。边界是严格前缀还是包含截止需遵循 lower_bound 定义，不能用当前全图过滤的口头声明代替实际索引。
教学例子：邻居边按一月、二月、三月排列，预测二月前只取早于截止的部分；若数组未排序，二分结果可能把三月未来边藏进采样集合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
三个独立 hash 拼接与单 hash embedding，相比为何能缓解碰撞而非消除碰撞？
Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling
问答新增：2026-10-27 · AI VK
展开答案与例子
答案：单哈希把同桶用户压成同表示，多哈希让身份由多组地址组合，两个用户全部地址相同的机会更低，投影再融合。共享表仍会产生部分冲突，存储与精度存在取舍。它不是完整独立 ID 表，不能声称每个用户唯一可辨。
教学例子：甲乙第一桶相同但另两桶不同，组合仍可区分；若三个桶都撞上，模型也不能靠这个编码恢复两人的独立身份。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Friend-GNN 为什么要同时解决用户 ID 存储和好友边时间可见性？
Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling
问答新增：2026-10-27 · AI VK
展开答案与例子
答案：超大图的逐用户表内存昂贵，多哈希共享表压缩身份表示；好友边若包含预测时点之后的新增关系，会泄漏结果。两项分别管理容量与时序正确性，GNN 传播再提取邻域信息。压缩与时间合法都不自动证明好友推荐更准。
教学例子：十亿用户难各存大向量，可用多个哈希组合；但预测昨天好友时仍不能采今天新增边，否则压缩再高效也只是在读未来答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
弱模型给出的推理前缀可能错误，Weak-Model Guidance为什么还要混入它？
Boosting LLM Exploration via Weak-Model Guidance in RLVR
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：弱模型前缀把目标策略带到自身采样不常遇到的状态，提供额外探索起点；熵截断限制不稳定续写，并与原生轨迹混合以保留覆盖。前缀只是引导，不能充当正确标签，最终奖励仍需独立验证器。本地冻结参考代理没有替代真实双模型训练。
教学例子：例如弱模型提出另一种分解问题的开头，强模型从此继续并接受答案检查；如果检查失败，不能因为有引导就把轨迹判为正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
本地冻结reference代理是否就是双checkpoint RLVR？
Boosting LLM Exploration via Weak-Model Guidance in RLVR
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不是，当前弱引导由参考候选分布模拟，未执行真实两套模型前缀生成。混合比例、原生样本和前缀边界需记录，不能把额外提示带到独立测试输入。
教学例子：例如用数值候选分布换个起点，尚未测真实弱模型语言前缀质量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
前缀引导与把弱模型完整答案当SFT目标有什么区别？
Boosting LLM Exploration via Weak-Model Guidance in RLVR
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：引导只干预起点，后续由目标模型生成并用奖励学习；SFT要求模仿整段文本。原生与引导混合及熵截断控制覆盖，不等于无条件信任弱解。
教学例子：例如只给思路开头，不要求强模型连同弱模型的最后错误一起抄。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
弱模型前缀为什么可能帮助更强模型探索？
Boosting LLM Exploration via Weak-Model Guidance in RLVR
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：它把强模型送到自身采样不常访问的起点，增加推理路线覆盖。前缀可能错，最终任务奖励仍需独立verifier，不能把来自弱模型就等同正确示范。
教学例子：例如弱模型先想到另一种分解，强模型尝试从它继续并接受验算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Video-OPSD的证据帧为什么只给训练教师，而学生仍要读取完整视频？
Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：教师在人工标注的证据帧上形成较聚焦的监督，再按词元对证据的依赖加权蒸馏。学生保留完整视频输入，学习在干扰中利用相关内容；若把证据定位也直接给学生，就改变了推理条件。本地无视频烟雾测试只是奖励轴代理，不能作为视觉能力证据。
教学例子：例如问题问谁先拿起杯子，教师只看相关片段，学生仍看整段活动视频；教学目标是学会找证据，不是假定已知片段位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Video-OPSD本地smoke是否真实含视频帧？
Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：不含，用独立奖励轴模拟证据依赖。即使存在真实checkpoint路径，也不等于已完成视频模型训练；教师目标与学生前缀需对齐，标注不能进入部署输入。
教学例子：例如smoke里一个过程分不代表模型实际看过那段视频。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
证据依赖权重与所有token等量KL有什么差别？
Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：前者更强调由视觉证据影响的位置，后者也同等模仿风格等词元。依赖性并不保证事实正确，论文训练时间比较也不能外推到本地无视频smoke。
教学例子：例如人物动作词可比通用连接词更依赖具体帧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Video-OPSD为什么教师只看证据帧而学生看全片？
Video-OPSD: Exploiting Privileged Visual Evidence for On-Policy Self-Distillation in Video Large Language Models
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：训练教师获得更集中证据，学生学习在完整视频干扰中吸收它；推理不假定知道人工定位。若学生也只看标注帧，会改变待解决的证据搜索任务。
教学例子：例如教师看拿杯子瞬间，学生仍需从整段活动中辨认相关事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
UC-MOPD的温度扩展、轨迹筛选和词元门控分别解决什么问题？
Preserving General Capabilities during Domain Specialization with Uncertainty-Calibrated MOPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：温度扩展先增加候选覆盖，正优势词元密度用于挑选更有学习价值的轨迹，熵校准的概率门控再控制具体词元更新。三个步骤作用在不同层次，不能把候选更多直接等同于监督更准；置信度也不是真值，本地未加载完整的通用与领域教师。
教学例子：例如先采到几条不同解法，再选有效步骤较密的一条，最后只加强可靠的关键词元；不能把整条高置信回答无条件当标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
UC-MOPD随机gate需要记录什么，checkpoint已加载吗？
Preserving General Capabilities during Domain Specialization with Uncertainty-Calibrated MOPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：需记录门控概率、随机种子与有效位置，避免把一次抽样误作确定选择。当前未加载通用或领域教师，公式控制流通过不证明保留真实通用能力。
教学例子：例如两次不同随机mask应可追溯，而非只选得分最好的一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
正优势密度筛轨迹与CLL gate筛token怎样配合？
Preserving General Capabilities during Domain Specialization with Uncertainty-Calibrated MOPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：前者决定哪条轨迹值得进入，后者在入选轨迹中控制局部更新。只实现一个会缺少另一层不确定性控制，不能把高置信直接叫真值。
教学例子：例如整条路线总体有价值，也可能有些局部位置不适合强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
UC-MOPD为什么先扩大采样温度覆盖？
Preserving General Capabilities during Domain Specialization with Uncertainty-Calibrated MOPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：普通采样可能很少产生值得强化的正优势位置，双温候选先增加探索，再由轨迹密度和词元可靠性筛选。扩大候选只是找材料，不等于材料都正确。
教学例子：例如多尝试另一种解法后，还要判断它是否真正提供有效步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
TTPO为什么对同意多数票与反对多数票的回答采用不同目标？
TTPO: Test-Time Policy Optimization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：多数票可能正确也可能错，完全照抄会把误差扩散。TTPO对同意分支使用自蒸馏，对分歧分支采用组式RL，并通过token选择过滤已收敛位置和高置信错误。两条路径利用不同信号，并不把多数票升级为真值，也不允许读取测试金标。
教学例子：几条回答都选同一答案，其中一条反对；不能简单把反对者整段删掉，而要按各分支的目标与可靠性过滤处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TTPO本地是否执行真实测试时采样与Qwen更新？
TTPO: Test-Time Policy Optimization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：未执行。当前只验证分支目标与词元选择路径，不能将手工候选上的更新视为真实无标签题目适配。实现需在分支判定前保持答案不可见。
教学例子：例如预给候选答案用于公式测试，不等于模型在评测题上真实生成这些轨迹。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
TTPO与直接把多数答案当金标相比多了哪些限制？
TTPO: Test-Time Policy Optimization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：它采用非对称目标，并过滤已收敛词元及高置信错误，承认多数票并非真值。过滤可靠性仍影响结果，不能用无标签共识宣称得到了独立验证解。
教学例子：例如一组一致猜错时，多数项也可能不值得继续强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TTPO为什么把同意与反对多数票的轨迹分开训练？
TTPO: Test-Time Policy Optimization
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：多数票可能错，但分歧轨迹通常仍提供不同性质的信号。同意分支用自蒸馏，分歧分支用组强化学习，避免给所有轨迹同一无标签伪监督。
教学例子：例如支持主流结论与另走一条路的回答，不直接按相同模仿目标处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SPEAR为什么用LCS-F1对齐符号milestone，而不只检查两条推理包含相同符号？
SPEAR: Distilling Domain-Adaptive Reasoning Skeletons via Sequential Symbolic Alignment in Reinforcement Learning
问答新增：2026-10-27 · University of Pittsburgh
展开答案与例子
答案：相同步骤集合可能顺序不同，导致推理依赖被破坏。最长公共子序列保留相对顺序，配合精确率和召回率衡量遗漏与冗余，形成比单个终局分数更密集的信号。符号抽取本身仍可能出错，本地候选轴不能冒充原文自然语言抽取器。
教学例子：先代入条件再求解与先写结论再拼条件，可能含相同标记却有不同依赖；顺序敏感对齐可以区分这种结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
本地SPEAR milestone是否实现自然语言符号抽取器？
SPEAR: Distilling Domain-Adaptive Reasoning Skeletons via Sequential Symbolic Alignment in Reinforcement Learning
问答新增：2026-10-27 · University of Pittsburgh
展开答案与例子
答案：没有，本地用候选过程和格式轴模拟里程碑，验证LCS-F1路径。真实教师文本到领域符号仍是独立模块，不能把手工标签的通过当自动抽取能力。
教学例子：例如直接输入一串已知步骤符号，测试不了模型是否能从长证明抽出它们。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
LCS-F1与无序符号集合重合率有什么差别？
SPEAR: Distilling Domain-Adaptive Reasoning Skeletons via Sequential Symbolic Alignment in Reinforcement Learning
问答新增：2026-10-27 · University of Pittsburgh
展开答案与例子
答案：LCS保留顺序，集合重合不管先后；F1同时考虑覆盖和冗余。若学生把关键步骤倒置，无序匹配可能高估过程正确，顺序对齐会给出不同信号。
教学例子：例如先得到结论再补前提，与按依赖推导，符号相同但顺序价值不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SPEAR为什么把教师推理转为符号milestone？
SPEAR: Distilling Domain-Adaptive Reasoning Skeletons via Sequential Symbolic Alignment in Reinforcement Learning
问答新增：2026-10-27 · University of Pittsburgh
展开答案与例子
答案：结果奖稀疏，完整神经过程裁判又昂贵；领域符号骨架让学生过程可被顺序对齐，提供稠密进度线索。它依赖抽取规则能保留真正重要推理结构。
教学例子：例如把证明中的关键等式作为里程碑，而非逐字匹配教师全部措辞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RLVR Fusion里的Merge、Mix RL和MOPD为什么不能当作同一种融合操作？
Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：三者复用的产物不同：Merge组合已有专家的参数增量，Mix RL混合领域数据再训练，MOPD同时利用专家指导与数据。可用专家、数据和预算因此决定可选路线。平均接近不代表各领域相同，也不能用概率向量合并的小实验证明真实checkpoint融合无损。
教学例子：只有两个领域专家权重、没有训练数据时，可讨论参数合并；若只有数据而无专家，则不能假装可以运行同样的蒸馏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
Merge的task vector为什么必须相对同一基座定义？
Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：专家参数减基座构成任务向量，再按规定合并。若基座或参数坐标不同，差向量不再表达同一参照变化；本地候选Merge也不能冒充大检查点完整融合实验。
教学例子：例如两专家来自不同词表或权重布局，不能直接逐元素平均差值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
平均接近为何不能证明三种融合在每个领域等价？
Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：平均会抵消单领域差异，论文也记录单项差距更大。比较需看目标领域、专家和数据可得性及成本；机制近似或总体相近不代表逐任务可互换。
教学例子：例如数学略好、代码略差的两个模型，平均相同也不满足相同部署需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RLVR Fusion中的Merge、Mix RL、MOPD各复用什么？
Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：Merge复用专家权重差，Mix RL复用训练数据，MOPD同时使用专家与数据提供蒸馏。这些资源前提不同，选择不能只依据一个平均效果数字。
教学例子：例如只有已训练专家没有原训练集时，能做的融合路径与数据齐全时不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
Normalized DPO除以beta后，为什么还能保持目标最优点却改变梯度尺度？
Disentangling Optimization Scale from Preference Scale in DPO
问答新增：2026-10-27 · Affiliation not listed in the paper
展开答案与例子
答案：对固定正beta，损失减常数再乘正数不会改变最优点，但会重标度梯度。标准DPO的beta同时控制偏好曲线与更新幅度；中心化softplus再除beta后，margin梯度不再额外乘beta，因而可以把偏好尺度和有效学习率分开讨论。
教学例子：保持同一组偏好，只调小beta。普通目标的更新可能同步变弱；归一化目标让曲线设置与步长不再被同一个因子绑定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
归一化DPO在β很小时如何避免把公式误算成零除零？
Disentangling Optimization Scale from Preference Scale in DPO
问答新增：2026-10-27 · Affiliation not listed in the paper
展开答案与例子
答案：中心化softplus与log2之差需要稳定计算或使用小β极限，梯度为负的sigmoid而不随β直接消失。实现应检查数值极限，不能只把β置零代入分式；本地候选诊断不代表全量偏好训练。
教学例子：例如β极小时应检验损失和梯度趋近有限值，而不是用异常捕获后统一返回零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
Normalized DPO与单纯重新调学习率在机制上完全相同吗？
Disentangling Optimization Scale from Preference Scale in DPO
问答新增：2026-10-27 · Affiliation not listed in the paper
展开答案与例子
答案：它通过目标的中心化和除β显式改变梯度尺度，单纯调学习率则在优化器外缩放更新。简单条件下可有联系，但动量、自适应统计等可能使训练路径不同，不能直接声称全面等价。
教学例子：例如自适应优化器还维护历史二阶量，外部步长与损失缩放不必产生完全相同的状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
Normalized DPO里的margin是人的评分差，还是模型对一对回答的相对偏好量？
Disentangling Optimization Scale from Preference Scale in DPO
问答新增：2026-10-27 · Affiliation not listed in the paper
展开答案与例子
答案：这里的margin是进入偏好损失的模型侧相对量，而不是直接读取两个人工分数相减。数据告诉模型哪条回答更受偏好，当前策略和参考策略的概率决定模型侧间隔；β再控制它进入偏好曲线的尺度。先区分标签与模型分数，才不会把归一化误读成改写标注。
教学例子：标注只给出回答甲胜过乙，没有说胜出三分；训练仍可从两条回答的概率算出当前间隔。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
TwinKV为什么交换冗余donor与缺少替代者的orphan，而不直接扩大KV预算？
TwinKV: A Composable Repair Pass for KV Cache Eviction via Pairwise Key Redundancy
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：基础淘汰可能留下多个相似键，却删掉唯一证据。修复先识别被删且无相似保留项的孤立项，再用有远处相似副本的冗余保留项交换，预算保持不变；受保护的起始与近期项不能作供体。键相似也不保证语义等价，本地重建评测不代表完整生成结果。
教学例子：例如缓存保留两段近似重复说明，却漏掉唯一日期，可拿冗余项换回日期；不能一边加回孤立项一边不删除任何项，再声称相同预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
寻找 TwinKV donor 时，为什么要排除局部 twin 及 sink/recent 保护项？
TwinKV: A Composable Repair Pass for KV Cache Eviction via Pairwise Key Redundancy
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：公式只在超出局部窗口的保留项中寻找相似twin，donor也不能破坏sink/recent保护。交换数取两集合可配对最小数，并保持|R′|=|R|，不能多补orphan而悄悄扩大预算。
教学例子：两条相邻key很像，不应未经局部排除就当成可安全牺牲的远程冗余。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
TwinKV 与直接替换 StreamingLLM/H2O 的基础评分，有什么组合关系？
TwinKV: A Composable Repair Pass for KV Cache Eviction via Pairwise Key Redundancy
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：它是wrapped policy之后的repair pass，不重新定义全部基础策略。公平比较应在相同初始策略、相同KV预算下开关repair，否则无法区分来自基础选择还是交换修复。
教学例子：StreamingLLM与StreamingLLM+TwinKV保留同样数量KV，只比较第二遍交换的作用。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
TwinKV 为什么把固定缓存预算花在“修复保留集合”上？
TwinKV: A Composable Repair Pass for KV Cache Eviction via Pairwise Key Redundancy
问答新增：2026-10-27 · The Hong Kong University of Science and Technology (Guangzhou)
展开答案与例子
答案：基础淘汰策略可能同时留多个相似key，却删掉没有替代者的旧项。TwinKV检查这些冗余与空缺，在不增加缓存项数的前提下交换donor与orphan，修复已有策略的选择。
教学例子：保留集里两个近重复key，可拿出其中一个换回一条独特旧证据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
核心机制
PACE 为什么把图像缩放与问题相关 Token 抽取拆成两个阶段？
PACE: A Unified Condense-and-Extract Paradigm for Fast VLM Inference
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：缩放先控制视觉输入本身的成本，抽取再控制哪些内容进入后续处理；只在末端丢 token，已经支付的编码成本不会消失。浅层预览估计图像难度，抽取又按置信度融合语言与视觉注意力，避免始终盲信单一路径或固定压缩所有图像。
教学例子：例如空白背景图可先缩小，密集菜单则保留较多细节；之后再根据问题选择相关区域，而非两张图都按同一比例裁减。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
实现细节
当前真实 checkpoint 路径完整验证了 DDAE 吗？
PACE: A Unified Condense-and-Extract Paradigm for Fast VLM Inference
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：没有。README 的小样本真实 checkpoint smoke 主要验证 APC，DDAE 由独立公式与单测检查，未复制作者完整模型 fork 和 kernel。APC 的全局密度排除对角自相似，局部项取偏离均值最大的 Top-K，压缩方向通过也不等于质量无损。
教学例子：例如八个样本压缩前后同为五题正确，只是小样本观察；不能据此把 DDAE 也标为实际生成链路已验证。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
方法对比
DDAE 与固定各占一半的注意力融合有何区别？
PACE: A Unified Condense-and-Extract Paradigm for Fast VLM Inference
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：DDAE 根据两路归一化注意力的离散度，通过温度 softmax 生成置信度权重，允许不同输入上更信某一路。固定平均不随证据分布变化；离散度只是该方法采用的置信度信号，不应直接当成校准后的答案正确概率。
教学例子：例如语言注意力较集中、视觉注意力分散时，融合可偏向前者；若换一个问题，两路权重也可随之变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉证据预算：选 Token、选帧与按需回看
基础理解
PACE为何不能仅凭图片尺寸，就认定两张图需要相同视觉预算？
PACE: A Unified Condense-and-Extract Paradigm for Fast VLM Inference
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：同尺寸图像可能有不同全局语义密度和局部细节。APC从浅层特征分别计算非对角相似度与偏离背景的Top-K细节，再把它们用于预算估计；文件像素数不是这两种信息的替代品。该估计仍是方法信号，不是答案正确性的保证。
教学例子：同样分辨率的空白墙面与密集小字页面，像素数量相同，保留细节的需求却可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
CritICL从弱模型错误归纳critique，为什么部署时不需要先让强模型答错再反思？
CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：离线失败模式库把重复错误抽象成可复用提示，静态版本用常见模式，动态版本按当前问题检索相关提醒。强模型在回答前读取这些提醒，只生成一次，不依赖本次错误答案反馈。迁移的是失败模式而非弱答案本身，提示相关性与库覆盖仍决定是否有用。
教学例子：例如弱模型常忘记单位换算，库中形成检查单位的提醒；新题可在首次回答前检索它，而不能先读取该测试题正确解再写针对性批评。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
CritICL 部署时为什么不能先用当前题正确答案来挑最有效 critique？
CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：这样会把评测目标泄漏进提示选择。文档dynamic依赖当前输入与已有CritBank的相似度，再让强模型生成一次；离线失败模式与当前题隐藏答案需保持边界。
教学例子：先看该题标准答案再选“刚好能纠正它”的critique，不是可部署的输入检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
CritICL static 与 dynamic 的 critique 选择有什么不同？
CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：static复用全局高频失败模式，dynamic根据当前问题从CritBank检索相关critique。两者都应在生成前提供帮助，dynamic额外引入检索；不能把全局提醒当作已实现输入相关选择。
教学例子：数学题可检索计算类提醒，另一类输入则可能检索不同失败模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
CritICL 为什么先从弱模型错误构建 CritBank？
CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：弱模型错误可聚成较稳定失败模式，离线整理后可作为强模型推理前的提醒。它把反思成本前移，不要求每个部署问题先让强模型失败一次。
教学例子：常见“忽略单位换算”的失败模式，可在新题作答前作为critique提示。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么上下文完整保留，却只对选中语义段计算 SFT loss？
SWE-Prime: Fewer Trajectories, Better Performance
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：未选段仍可能是理解后续行为所需的因果背景，删除会造成不完整前缀；但其生成行为可能冗余、危险或不值得模仿。mask 把“提供上下文”与“作为学习目标”分开，让模型读到真实过程而只学习有贡献且可学的部分，成功轨迹也不必全量监督。
教学例子：例如前面一次错误命令解释了后续修复原因，可保留给模型看，却不奖励重新生成那条危险命令。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地筛选策略结果能否说明代码 LLM 已训练或 SWE-bench 已运行？
SWE-Prime: Fewer Trajectories, Better Performance
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：不能。本地在相同 observation/tool 接口比较筛选策略，未训练代码模型或运行官方 SWE-bench。实现应检查 loss mask 只覆盖目标段、上下文仍完整，以及 train/validation/test 隔离；小型工具路由指标不能改名为代码修复提升。
教学例子：例如筛掉高风险片段后工具路线更稳定，最多支持本地协议观察，不能据此声称复刻原文只用一成代码轨迹的结果。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
整条轨迹筛选与轨迹内部语义段筛选，各解决哪一层数据质量问题？
SWE-Prime: Fewer Trajectories, Better Performance
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：轨迹级筛选关注结果、过程和代表性，先决定哪些完整经历值得保留；段级筛选再检查其中行为的贡献、可学习性和风险。优质轨迹仍可能含局部冗余，优秀片段也可能出自缺乏有效全局结果的记录。分层处理区分样本选择与监督目标，不是简单只留成功答案。
教学例子：教学例：一次修复总体通过测试，但中途有无关依赖安装；可保留完整执行作为上下文，同时不把那段行为设为模仿目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
成功轨迹为什么仍可能不适合作为全部 SFT 目标？
SWE-Prime: Fewer Trajectories, Better Performance
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：成功可能包含冗余试错、危险命令或对当前模型不可学习的步骤，照单全收会训练这些行为。SWE-Prime 先选过程、结果和代表性，再选贡献、可学习性与风险较合适的语义段；成功是必要证据之一，不是所有 token 都值得模仿的保证。
教学例子：例如最后修好 bug 的轨迹曾误删文件再恢复，成功结果并不意味着误删步骤也应被当成正面示范。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
把被引用文件插在首次引用附近，为什么比只预训练技能主说明更完整？
SPT: Skills as Pre-Training Data for Agentic Language Models
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：技能往往把参数约束或示例放在配套文件，主说明的引用只是入口。就近展开让因果语言模型在需要的位置看到真实依赖，而非学习悬空引用；与通用语料混合又控制技能训练的分布偏移，不能把读过技能文本等同于执行能力已被验证。
教学例子：例如说明写“按 schema.json 填参”，若训练只含这句话却没有 schema，模型无法学到字段限制；就近插入可补齐依赖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
把 skill 数据混入中期训练时，为什么还要保留通用语料并显式控制比例？
SPT: Skills as Pre-Training Data for Agentic Language Models
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：训练样本不仅决定模型学什么，也改变它常见的文本分布。按 α 混合技能包与通用语料，可控制程序性材料所占份额，不能把全部训练流替成技能文档而假定其他能力不变。本地只检查引用装配和混合合同，尚不能据此声称真实模型已保持通用能力或学会执行。
教学例子：教学例：一个批次既含技能操作说明也含一般文本；调大技能比例会改变学习重点，需要后续实训评估，而不是只检查文件数量。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
skill mid-training 与只在部署时检索 skill 文档有什么区别？
SPT: Skills as Pre-Training Data for Agentic Language Models
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：前者将程序性模式写入参数，部署未必逐次检索同一文档；后者在当前上下文显式提供技能，可更新但占 token。两者可能互补，训练过技能文本也不证明能正确调用工具，需要真实策略与环境验证，不能以文档装配成功替代。
教学例子：例如模型可能记住先验证再提交的顺序，但特定 API 的新参数仍需运行时文档，参数知识不保证版本永远正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么多文件 skill package 可作为 causal LM 中期训练数据？
SPT: Skills as Pre-Training Data for Agentic Language Models
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：skill 包含可复用程序性知识和引用材料，可在 post-training 前训练语言模型预测其文本，形成工作流先验。它不是只记录一次执行的轨迹，也不等于训练时真的运行了工具；学习文档模式仍需后续 SFT 或 RL 将其转成行动。
教学例子：例如技能说明引用配置示例与辅助脚本，模型读到的是可复用方法，而不是某次任务的偶然完整工具日志。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么经验技能晋级要在留出集优于 incumbent，而非只看原攻击轨迹成功？
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：原轨迹只能证明一次情境有效，技能抽象可能过拟合措辞或误把无关工具当关键因素。留出比较检验复用价值，严格提升才替换现任，避免持续累加低质经验；可读技能与真实执行之间仍需验证，本地筛选器不能代替完整评测行为。
教学例子：例如一条审计经验只在某个样例有效，换同类新场景失效，就不应仅凭原日志成功把它升级为默认技能。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
RedEvoAgent本地是否已对真实产品执行红队攻击？
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：没有，安全mini-suite只验证归因与技能更新控制流。公开产物回放不等于新外部攻击，技能来源、评估切分与替换证据需要记录，不把日志重放当真实执行。
教学例子：例如加载已有结果文件，只说明能读协议，不说明刚完成一次攻击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
RedEvoAgent只归因决定成败的工具，与给整条成功轨迹的所有工具记功有什么区别？
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：整条轨迹成功不说明每次工具调用都有贡献，等额记功会把无关步骤也固化成技能。决定性归因尝试保留真正改变攻击结果的工具经验，减少技能库噪声。这里比较信用对象，不能把一次归因分数当成已识别的普遍因果规律。
教学例子：轨迹先查一份无关页面，后用关键工具触发结果；成功标签不应让前一次无关查询自动成为必需技能。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
RedEvoAgent为什么把经验蒸馏成技能而非保存完整轨迹？
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
问答新增：2026-10-27 · City University of Hong Kong
展开答案与例子
答案：长轨迹噪声和上下文成本高，抽象可读技能更利复用；工具归因只聚焦真正决定成败环节。抽象仍可能丢细节，技能需留出验证后晋级。
教学例子：例如从一次长排查中提炼先验证权限边界，而不整段复制所有无关尝试。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
行为感知的成对验证为什么比固定验证集平均分更能发现局部回退？
Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavior-Aware Verification
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：修改只影响部分行为，混入大量无关题会稀释差异并浪费 rollout。针对受影响任务比较父子框架，要求变化可归因于该修改，才能辨别真正修复与偶然波动；局部通过仍需明确适用范围，不能从一个行为提升推导全部任务均变好。
教学例子：例如只改重试组件，应配对检查超时和恢复任务；大量简单成功题可能把某个重试死循环的退化淹没在平均分里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
Δ_b>0 之外的 A_b 条件为什么不能省略？
Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavior-Aware Verification
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：正差可能来自随机重试或环境变化，A_b 要求改善证据可归因到候选。当前本地有无 answer/guide 的真实工具反馈协议，但未运行论文四个完整 benchmark；本地成功率不能替代原文 held-out 提升，结构标签也不自动证明因果。
教学例子：例如两次运行随机结果不同，若未检查候选行为是否实际触发，就不能把这次正差全归给补丁。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
通过局部行为接纳门，与证明整个 Agent 能力提升，证据范围有何差别？
Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavior-Aware Verification
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：局部门要求目标行为的配对增益为正且可归因，回答这次改动在所选行为上是否值得接纳；整体能力还涉及未覆盖任务、其他行为及资源影响。Δ_b 与 A_b 不能自动外推到所有任务。应同时保留验证集合和修改作用域，而非把局部通过改名为全面能力验证。
教学例子：教学例：恢复任务五个样例改善，能支持这类改动的有限接纳；不能直接声称代码生成、数学和所有浏览任务都变好了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
HarnessLens 为什么把验证成本本身当作 harness 搜索的瓶颈？
Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavior-Aware Verification
问答新增：2026-10-27 · Fudan University
展开答案与例子
答案：每个候选都完整运行固定验证集会消耗大量 rollout，而整体平均值又可能掩盖少数受影响行为的退化。HarnessLens 研究让验证关注修改实际触及的行为，以有限预算获得更有针对性的证据。局部检查需说明覆盖边界，不能因节省评测就跳过归因或扩大质量结论。
教学例子：教学例：只改浏览恢复逻辑，却把全部无关计算题重跑一遍可能浪费；应找到对应行为任务，但仍需承认其他行为未被新证据覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么论文到代码的子计划必须读取当前仓库状态，而不能只按论文顺序展开？
DeepRepro: State-Aware Subplanning for Paper-to-Code Reproduction in Evolving Repositories
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：实现过程中接口、依赖和文件会不断变化，上一阶段成立的假设可能已失效。细粒度子计划把当前 repository state 与执行反馈作为输入，重新决定下一步；论文定义提供目标约束，仓库状态提供可执行条件，二者都不能由初始的一份静态清单替代。
教学例子：例如论文下一步要接评测器，但仓库刚改了数据接口；子计划应先适配新合同，而非照旧生成无法连接的实验脚本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
产物 replay 能否算作已经重新执行官方 PaperBench Code-Dev？
DeepRepro: State-Aware Subplanning for Paper-to-Code Reproduction in Evolving Repositories
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：不能。replay 读取固定 revision 的真实导出，按论文和状态顺序检查计划、执行步骤与测试覆盖；它没有重新支付模型 API 和完整实现实验成本。确定性 mini-suite 满分也只验证状态驱动路径，不能与官方复现能力或成本直接横比。
教学例子：例如回放旧测试记录能检查某次改计划是否覆盖失败项，但没有在当前环境重新生成代码并运行全部测试。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
检查已有产物与重新执行复现流程，分别能回答什么问题？
DeepRepro: State-Aware Subplanning for Paper-to-Code Reproduction in Evolving Repositories
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：产物检查能核对代码、日志和测试记录是否对应指定论文与版本，适合审计已有执行；重新执行还要实际安装依赖、调用模型和运行测试，才能观察当前环境能否重现结果。两者证据范围不同，DeepRepro 本地 replay 的一致性不能代替一次完整 Code-Dev 执行。
教学例子：教学例：日志里有测试通过记录，可检查它对应哪个提交；换到干净环境能否再次通过，仍需真实安装与运行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
论文复现为什么是一项持续变化的软件工程任务，而不只是翻译算法公式？
DeepRepro: State-Aware Subplanning for Paper-to-Code Reproduction in Evolving Repositories
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：公式只是部分规格，真实复现还会遇到依赖、数据格式、接口和测试约束。前一步实现会改变下一步可做的工作，DeepRepro 因而研究如何在不断演进的仓库中推进实现与验证，重点是维持论文目标和实际工程状态的联系，而非一次写出长计划就完成。
教学例子：例如网络结构已经写好，数据加载却暴露新轴顺序要求，后续训练代码需适配真实接口，不能只照论文段落顺序继续补文件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么需要语义对齐和 masked listwise 目标，不能只把 LightGCN 向量塞成 soft tokens？
When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems
问答新增：2026-10-27 · Shenzhen Technology University
展开答案与例子
答案：投影维度匹配不保证 LLM 会利用协同几何，语义对齐提供接口约束，候选内排序目标再迫使预测读取相关记忆。候选集驱动的检索也让同一用户面对不同选项时取回不同历史；冻结 bank 不意味着连接器无需训练，更不保证文本解释天然忠实。
教学例子：例如同一用户对电影候选和图书候选需要不同历史子集，soft token 还得通过排序监督学会影响对应候选的分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
候选集平均向量怎样决定本次从用户历史里读取哪些协同记忆？
When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems
问答新增：2026-10-27 · Shenzhen Technology University
展开答案与例子
答案：先由当前候选项在冻结协同 bank 中的表示形成均值，再用它为用户历史项打分并选取相关部分，随后经投影提供给 LLM。候选变化会改变检索需求，即使用户历史不变也可能选出不同记忆。本地验证了这种条件读取，未训练原文 LightGCN、连接器或 LoRA。
教学例子：教学例：同一用户的候选从相机变为登山鞋，候选均值改变，历史中更相关的摄影或户外交互项也可能随之变化。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
soft token 协同记忆与反复重写文本画像有什么不同？
When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems
问答新增：2026-10-27 · Shenzhen Technology University
展开答案与例子
答案：soft token 保留冻结 LightGCN bank 的协同几何，通过投影和对齐让语言模型使用；文本画像更可读，却依赖生成重写且可能丢失目录结构。向量接口也需要真实训练与解释边界，零新增文本维护调用不等于整体推理零成本。
教学例子：例如一次候选排序可直接读取协同向量，不必再请 LLM 重写“用户喜好”，但投影、检索和语言前向仍消耗计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
CoVeMem 的协同向量记忆为什么由当前候选集决定读取什么历史？
When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems
问答新增：2026-10-27 · Shenzhen Technology University
展开答案与例子
答案：当前候选集的平均协同表示提供局部需求，系统在用户历史中检索相关项，再投影成 LLM 可读取的 soft token。这样记忆聚焦本次排序，而不是固定把全部历史文本写成画像；候选集变化可能改变读取结果，不能把记忆视为静态用户常量。
教学例子：例如候选都是户外装备时优先取回相关购买历史，候选换成护肤品后同一用户可读取另一部分历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 Complexity 必须相对指定学习者校准，而不能只给任务一个固定难度标签？
What Makes Good Agentic Data? An ACE Lens on Data Generation for LLM Agents
问答新增：2026-10-27 · Huawei Technologies Co., Ltd
展开答案与例子
答案：同题对不同模型的可学性不同，过易提供少量新信号、过难可能只产生失败。Accuracy 先保证样本可信，学习者相对的复杂度再选有效区间，Diversity 补环境与行为覆盖；三者缺一不可，轨迹长或工具多本身不能证明数据更优。
教学例子：例如初级模型解三步工具题尚可学习，二十步全失败未必更好；强模型可能正需要后者，课程区间应随学习者变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
公开 artifact 评测怎样避免把三段准入变成虚构训练结果？
What Makes Good Agentic Data? An ACE Lens on Data Generation for LLM Agents
问答新增：2026-10-27 · Huawei Technologies Co., Ltd
展开答案与例子
答案：需固定真实数据 revision，记录环境、问题、轨迹、verifier 和 learner loss，在同预算比较随机与三段选择；本地只有准入合同及产物回放，不声称训练 checkpoint 或 SOTA。来源和失败记录缺失时不能用合成高分补齐。
教学例子：例如导出 JSONL 通过字段检查只说明可审计输入，若未训练并独立评测模型，就不能报告 ACE 带来任务成功率提升。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
Complexity 与 Diversity 分别描述学习挑战还是数据覆盖，为什么不能合并？
What Makes Good Agentic Data? An ACE Lens on Data Generation for LLM Agents
问答新增：2026-10-27 · Huawei Technologies Co., Ltd
展开答案与例子
答案：Complexity 关注样本对指定学习者的挑战程度，Diversity 关注样本之间和任务空间的覆盖差异。多样数据可以都很简单，困难数据也可以只是同一模式重复。二者还受 Accuracy 前提约束，错误但新奇的轨迹不能因此成为好监督，也不能从静态标签推导实际训练收益。
教学例子：教学例：十种不同工具的单步调用可能很广但很易；十条同类高难故障题可能很难却覆盖窄，两种数据补足的缺口不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
ACE 为什么认为更多 Agent 轨迹不一定意味着更好的训练数据？
What Makes Good Agentic Data? An ACE Lens on Data Generation for LLM Agents
问答新增：2026-10-27 · Huawei Technologies Co., Ltd
展开答案与例子
答案：数据可能答案不准、对当前学习者过难或过于重复，数量增加会同时放大这些问题。ACE 从 Accuracy、Complexity、Diversity 三个角度检查 Agent 数据，让质量与学习适配性进入选择。三者需要真实定义和评测，不能仅凭步骤多、主题多就认定训练一定受益。
教学例子：教学例：重复一千条错误调用并不会变成好数据；全是模型已熟练完成的简单题，也可能提供很有限的新学习信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
TransRetrieval 为什么按 token norm 聚合源域历史，并压缩目标域 token、注入域位置信息？
TransRetrieval: Scaling Up Transformer-Based Retrieval for Industrial Recommendation
问答新增：2026-10-27 · Renmin University of China / Taobao & Tmall Group, Alibaba
展开答案与例子
答案：源域行为多却可能带噪声，范数加权聚合提供不同于等权平均的信号选择；目标 token 压缩减少跨域注意力成本，域位置信息帮助模型区分相同表示在不同业务中的含义。三项分别控制源噪声、目标计算和域混淆，但高范数不必然等于高相关，压缩也可能损失目标域细节。
教学例子：阅读域历史迁移到广告召回时，先聚合行为，再把目标侧多种字段压成紧凑表示，同时标明来自哪个域，避免把“收藏文章”和“购买商品”误作相同动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
85% target FLOPs reduction可直接写成端到端时延降低吗？
TransRetrieval: Scaling Up Transformer-Based Retrieval for Industrial Recommendation
问答新增：2026-10-27 · Renmin University of China / Taobao & Tmall Group, Alibaba
展开答案与例子
答案：不可以，结构计数不包含访存、其他层和服务开销。当前没有原40B交互、千万广告和ANN，需区分目标分支解析节约与实测整体速度。
教学例子：例如attention少很多算式，若预处理或检索占主要时间，延迟不会同倍下降。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
按norm加权与直接平均源token有什么不同？
TransRetrieval: Scaling Up Transformer-Based Retrieval for Industrial Recommendation
问答新增：2026-10-27 · Renmin University of China / Taobao & Tmall Group, Alibaba
展开答案与例子
答案：大norm表示获得更大权重，平均则各项同权；norm是否代表有用性依模型和校准，不能当真实因果重要度。域位置编码也不能仅用一个共享常数替代。
教学例子：例如某噪声特征幅度很大时，norm策略可能需要额外审查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
TransRetrieval为什么同时压源历史与目标tokens？
TransRetrieval: Scaling Up Transformer-Based Retrieval for Industrial Recommendation
问答新增：2026-10-27 · Renmin University of China / Taobao & Tmall Group, Alibaba
展开答案与例子
答案：跨域源域噪声和目标多token都会抬高attention成本，norm-aware聚合与目标压缩分别处理两端，域embedding再减少信息混淆。压缩不保证无信息损失。
教学例子：例如许多源行为先汇总，目标侧多字段合一后再交互。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
DCEO为什么让actor按上下文输出目标权重，而不是全站固定一组CTR、CVR、GMV系数？
DCEO: Direct Causal Effect Optimization for Long-Term User Value Modeling in E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：固定系数假设所有用户状态具有相同取舍，难以体现一次动作对长期价值的不同影响。actor输出和为一的动态权重，critic在训练中评估相对干预效果，服务侧只保留轻量权重决策。动态权重本身不等于因果识别，若critic缺少可信对照，仍可能只学到相关性代理。
教学例子：新用户更需要探索合适内容，成熟购物用户可能更重转化；同一组分数可按状态采用不同组合，但要用相应长期反馈验证，而不是仅看即时点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
本地 DCEO 为什么只对验证选出的冠军执行一次 held-out test？
DCEO: Direct Causal Effect Optimization for Long-Term User Value Modeling in E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：causal_gain 与温度构成候选空间，二十个配置只按固定验证效用比较，最终冠军才进入 test。这样避免把测试波动当作下一轮搜索反馈。来源的公开代理评分不等同于真实用户干预效果，因果名称也不能替代实验设计。
教学例子：若测完二十组 test 再挑最高的一组，就把测试用成了验证；正确流程先锁定冠军，再如实报告它可能包含的 NDCG 退化。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
DCEO 的动态 simplex 权重与固定 log fusion，相比增加了什么自由度和风险？
DCEO: Direct Causal Effect Optimization for Long-Term User Value Modeling in E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：固定融合给所有请求相同取舍，simplex 权重随状态变化且非负和为一，能表达用户层面差异。自由度增加也可能利用代理奖励漏洞或过拟合，因此需要验证选择与分目标评估。本地 Hit 上升而 NDCG 略降，不能宣称全指标胜出。
教学例子：对两类用户使用不同点击与价值比例可能更合适，但某配置把热门商品推前提高命中，也可能让真正相关项位置变差，需要同时看两指标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
DCEO 中 actor 与用户级 critic 各自负责什么？
DCEO: Direct Causal Effect Optimization for Long-Term User Value Modeling in E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：actor 输出上下文相关目标权重，用于即时融合点击、转化与价值分；critic 在训练评估排序动作相对参考的长期作用，给 actor 提供更有方向的信号。线上只保留轻 actor，并不代表 critic 的因果假设已被结构自动满足。
教学例子：新用户状态可能更重相关性，成熟用户更重交易价值；critic 检查这种改变是否带来长期增量，服务时无需再运行完整长期评估器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
V-Rubrics为什么把视觉忠实、推理一致和指令遵循分开，而不只给整条回答一个总分？
V-Rubrics: Visual Faithfulness via Rubric-Based Reinforcement Learning
问答新增：2026-10-27 · S-Lab, Nanyang Technological University
展开答案与例子
答案：回答可能看图正确却推理跳步，也可能推理连贯却编造视觉细节。原子rubric区分这些来源，再把可定位的证据信用关联到前缀，减少终局标量掩盖局部幻觉。维度加权只是目标取舍，不能证明judge标签无误；本地候选轴并非真实视觉证据模型。
教学例子：回答遵守了输出格式，但把图中不存在的物体当作前提；格式分高不能替代视觉忠实度的单独检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
V-Rubrics本地固定维度分数能证明真实视觉判据已运行吗？
V-Rubrics: Visual Faithfulness via Rubric-Based Reinforcement Learning
问答新增：2026-10-27 · S-Lab, Nanyang Technological University
展开答案与例子
答案：不能。当前公开确定性候选或计划任务只隔离奖励组合和信用路径，没有论文视觉检查点、私有数据及完整评测，不能把固定分数代理当视觉忠实度能力。
教学例子：例如人为给VF分，再计算总奖，测试的是组合而非自动看图评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
V-Rubrics的维度权重与rubric判据覆盖范围，能互相替代吗？
V-Rubrics: Visual Faithfulness via Rubric-Based Reinforcement Learning
问答新增：2026-10-27 · S-Lab, Nanyang Technological University
展开答案与例子
答案：不能。权重决定已被评价的维度怎样合成奖励，判据覆盖决定哪些错误会被观察。提高VF权重也无法惩罚未被任何VF判据识别的视觉错误。权重选择是目标取舍，可靠证据与评价器则是测量问题，需分别审查。
教学例子：若判据只检查物体种类、没检查数量，把VF权重调高仍可能漏掉“两个写成三个”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
V-Rubrics中的VF、RC、IF分别在检查回答的哪一部分？
V-Rubrics: Visual Faithfulness via Rubric-Based Reinforcement Learning
问答新增：2026-10-27 · S-Lab, Nanyang Technological University
展开答案与例子
答案：VF关注陈述是否忠实于视觉证据，RC关注推理是否一致，IF关注是否遵守指令。这是三个检查维度，不是三个不同的候选答案，也不是按推理步骤先后编号。先识别错误属于哪一轴，再讨论奖励和前缀信用才有清楚含义。
教学例子：看图事实正确却没按要求列三点，主要触及IF；把图中不存在的物体写出来，则触及VF。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
GRIP为什么学习细粒度参数插值，而不是给thinking和instruct模型一个统一比例？
GRIP: Granular Reward-Guided Parameter Interpolation for Efficient Reasoning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不同层或参数承担的能力不同，统一系数可能同时削弱推理与简洁表达。GRIP用奖励指导细粒度插值，使不同位置有不同混合程度。原文讨论权重组合，本地策略概率插值只是缩小诊断，两者不能因公式外形相似就视为同规模模型验证。
教学例子：希望保留解题模型的计算习惯，又减少重复解释，可以让不同参数区域承担不同混合比例，而非所有层一律各取一半。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
GRIP的逐元素插值需要哪些形状与评估边界？
GRIP: Granular Reward-Guided Parameter Interpolation for Efficient Reasoning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：两套权重及插值系数必须可按目标粒度对齐，系数广播也要符合层或参数定义。奖励应来自允许的数据协议；本地确定性候选任务只隔离插值机制，不证明论文检查点的推理和长度收益。
教学例子：例如按层系数不能错广播成按词表列系数，否则即使张量能相乘也改变了粒度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
GRIP改变参数与推理时降低采样温度，都能影响输出长度，作用位置相同吗？
GRIP: Granular Reward-Guided Parameter Interpolation for Efficient Reasoning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不同。参数插值改变各上下文下的模型分布；温度则对某次前向已有的logits重新缩放。较低温度可能改变采样多样性，却不等于学到thinking与instruct能力的参数组合。即使两者都让某例变短，也不能用长度相同证明机制等价。
教学例子：合并模型可能改变首选推理步骤；同一模型降温通常仍围绕原来更高的logit进行选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
GRIP得到的是一个合并模型，还是每个请求都先运行thinking和instruct两套模型？
GRIP: Granular Reward-Guided Parameter Interpolation for Efficient Reasoning
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：原文操作对象是两套对齐权重之间的参数插值，产物是一套组合参数，再用它执行模型。它不是根据每次回答质量在线选择两位专家，也不需要先生成两份答案再投票。能否合理插值还取决于权重结构是否对应，不能把任意架构直接相加。
教学例子：先把同形状层的两份权重按系数组合，再做一次前向；并非先各生成一篇答案再挑短的一篇。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GRIN给失败组注入golden response时，为什么必须按混合采样分布校正？
From Memorization to Absorption: Mixed-Policy RL for Continual Knowledge Injection
问答新增：2026-10-27 · University of California, Merced
展开答案与例子
答案：注入的专家回答并非由无提示当前策略采到，组内数据来自策略与外部来源的混合。以混合分布作分母的校正用于处理这种变化，能力提高后再减少注入、回到探索。gold只属于训练监督，不能让被评估Agent在部署输入中直接读取。
教学例子：学生整组都答错，训练时加入一份已验证解法；可以利用它学习，但不能把这份外部解法记成学生自己探索成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GRIN的重要性比为什么用q_mix而非冻结reference？
From Memorization to Absorption: Mixed-Policy RL for Continual Knowledge Injection
问答新增：2026-10-27 · University of California, Merced
展开答案与例子
答案：q_mix描述样本实际怎样产生，reference通常描述正则锚点，两者职责不同。实现需追踪混合来源及概率；本地确定性候选诊断未复刻论文知识吸收数据。
教学例子：例如参考模型很旧但样本来自另一专家，二者概率不能随意替换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GRIN混合策略校正与把专家答案当作学生采样有什么差别？
From Memorization to Absorption: Mixed-Policy RL for Continual Knowledge Injection
问答新增：2026-10-27 · University of California, Merced
展开答案与例子
答案：混合数据的采样分布包含注入来源，校正分母应反映这个分布。把专家样本标成纯on-policy会给错误权重，并掩盖外部知识来源。
教学例子：例如人工加入的解法没有由学生随机采到，不能拿学生生成概率当它唯一来源。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GRIN为什么只在失败组注入golden response？
From Memorization to Absorption: Mixed-Policy RL for Continual Knowledge Injection
问答新增：2026-10-27 · University of California, Merced
展开答案与例子
答案：全失败组缺少相对正信号，正确轨迹可提供可学方向；学生已有成功样本时则更多保留原生探索。注入是训练期帮助，不是让评测模型读取答案。
教学例子：例如学生所有尝试都失败时才补一条验证解，而非每题始终给出标准答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Clue-OPSD为什么要在学生自己的前缀上查询只看线索片段的教师？
Where to Look Matters: On-Policy Self-Distillation for Long-Video Understanding
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：学生前缀决定训练时真正遇到的状态，线索片段则让教师聚焦与问题相关的证据；二者结合减少只在教师理想轨迹上学习的偏移。线索是训练期特权信息，推理时学生仍须处理完整视频，不应依赖片段标注、答案或教师。
教学例子：例如学生已写出一个不完整的事件顺序，教师读取相关时间段后续写纠正；部署时不能把人工圈出的时间段继续作为输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Clue-OPSD为什么在学生前缀而非教师自写前缀上计算KL？
Where to Look Matters: On-Policy Self-Distillation for Long-Video Understanding
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：这样指导学生真实访问状态，减少理想轨迹偏移；师生对齐同一词元位置但视觉条件不同。当前mini-suite无完整视频检查点实验，不能报告原文数值。
教学例子：例如学生已误认角色时，教师仍需评价这个前缀而不是换成自己的正确开头。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
Clue教师与单纯裁短学生视频有什么不同？
Where to Look Matters: On-Policy Self-Distillation for Long-Video Understanding
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：裁短学生同时降低输入难度，无法检验完整长视频能力；特权教师只改变监督条件。两者成本和任务条件不同，不能拿裁短学生结果替代该方法。
教学例子：例如学生看到全片与只看答案片段，不是在做相同评测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Clue-OPSD为什么把相关时间区间作为训练特权信息？
Where to Look Matters: On-Policy Self-Distillation for Long-Video Understanding
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：长视频中的关键证据难找，冻结教师看clue可给更聚焦指导，学生仍只依赖完整视频与问题。训练目标是内化定位能力，推理去掉clue与外部教师。
教学例子：例如问题问首次开门，教师知相关时间段，学生部署时不能直接拿人工时间戳。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
可执行 scorer 为什么比通用 VLM judge 更适合某些时空约束任务？
VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning
问答新增：2026-10-27 · Nanyang Technological University / VBVR Community
展开答案与例子
答案：任务若能明确列出中间状态、约束和最终条件，就可逐实例检查，而不只凭答案是否流畅判断。这样的奖励把可验证条件接入训练，但只覆盖已定义的规则；scorer 自身正确、被评模型不读 gold 与生成任务真正执行，仍是不同的验证要求。
教学例子：例如移动方块不能穿墙且最终到达目标格，可逐步检查轨迹；一段听起来合理却实际穿墙的解释不应获得成功奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
本地程序化 reward 从带噪基线到满分说明什么？
VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning
问答新增：2026-10-27 · Nanyang Technological University / VBVR Community
展开答案与例子
答案：只说明当前确定性 task-specific scorer 在给定程序化任务上的执行与失败归因，比带噪 judge analogue 稳定；不是多模态生成模型完成 RLVR 后的能力收益。原论文训练与外部 benchmark 需要真实轨迹、模型更新和独立评价，当前机制结果不能替代。
教学例子：例如已知轨迹满足所有布尔条件时 scorer 返回一，验证的是评分器，不是证明生成模型能自己找到这样的轨迹。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
约束奖励加权求和，与要求全部约束硬性通过，是不是同一种任务合同？
VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning
问答新增：2026-10-27 · Nanyang Technological University / VBVR Community
展开答案与例子
答案：加权和让各项满足程度贡献分数，高权重项目可能补偿低权重项目的失败；全部硬性通过则把任一违反视为不可行。两种定义表达不同偏好，不能从总分较高推断所有约束都满足。这是对论文公式的假设比较，不是声称作者另外做过这两种方法的对照实验。
教学例子：教学例：两项各半权重的条件只过一项可得半分；若要求安全条件必须满足，即使其他项全对也不能把安全失败补偿掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
视觉推理生成了一个好看的终图，为什么还可能没有完成要求的任务？
VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning
问答新增：2026-10-27 · Nanyang Technological University / VBVR Community
展开答案与例子
答案：有些任务约束对象如何移动、何时经过某状态或是否避开禁区，终图正确也可能掩盖错误过程。VBVR-Pro 把这类任务规则变成可执行检查，为生成轨迹提供更具体反馈。程序化奖励覆盖已定义约束，不能自动衡量未定义的所有视觉质量，也不代表任意任务都有可靠 scorer。
教学例子：教学例：物体最终到达目标点，但途中穿过禁止区域；只看终图会漏掉违反路径约束，过程检查才看得到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
CKA 蒸馏为什么能在师生特征维度不同的情况下传递结构？
MLLMCLIP: Feature-Level Distillation of MLLM for Robust Vision-Language Representations
问答新增：2026-10-27 · KAIST / Sony AI
展开答案与例子
答案：CKA 比较样本间表示关系的对齐程度，而不要求逐维一一相等。教师先按注意力选择有信息的 token，再用这种结构约束训练学生图文表示；学生仍保持轻量双塔部署，迁移的是特征关系，不是把大型教师的全部推理过程复制进去。
教学例子：例如教师输出一千维、学生输出五百维，仍可约束两者把相似样本放近；无需把每个坐标硬配成同一含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
当前真实 checkpoint 路径是否训练了完整 CLIP 学生？
MLLMCLIP: Feature-Level Distillation of MLLM for Robust Vision-Language Representations
问答新增：2026-10-27 · KAIST / Sony AI
展开答案与例子
答案：没有。README 的该路径冻结 SmolVLM2 教师与 CLIP 编码器，训练匹配维度的 feature projection，并以独立验证选择权重。三 seed 留出 CKA 和邻域重合未稳定提升；退化标签的伪满分已标为无效，不能当成分类能力证据。
教学例子：例如投影后的特征能运行 CKA 计算，只说明蒸馏算子链路可检查；它不是完成原论文二十六个 benchmark 的整体学生训练。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
MLLMCLIP按教师attention选择token，与不加区分地蒸馏全部token，监督对象有什么不同？
MLLMCLIP: Feature-Level Distillation of MLLM for Robust Vision-Language Representations
问答新增：2026-10-27 · KAIST / Sony AI
展开答案与例子
答案：选择策略先从教师各层找出较有信息的token，再对这些表示建立结构蒸馏信号；全token方案则把所有位置都纳入同一监督范围。区别在教师信息的筛选，而不是CKA是否允许异维表示；选择可能遗漏信息，不能未经对照就宣称一定更优。
教学例子：教师一层有许多背景位置，attention选择让部分位置成为监督来源；并非只要token更多，学生就必然学到更多有效知识。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
MLLMCLIP 为什么把多模态大模型放在教师端而保留双塔学生？
MLLMCLIP: Feature-Level Distillation of MLLM for Robust Vision-Language Representations
问答新增：2026-10-27 · KAIST / Sony AI
展开答案与例子
答案：教师具有丰富的图文交互语义，但直接部署其生成路径成本较高；学生保持 CLIP 图像与文本独立编码的接口，通过特征蒸馏吸收关系知识。训练读取教师不意味着在线检索也必须每次调用教师，因此应分别核算训练与部署代价。
教学例子：例如离线用大模型分析图文关系并训练学生，线上可预先缓存商品图向量，再用文本向量检索，无需逐商品生成回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
记录版本、动作意图和编辑规模，为什么比只保存分数曲线更能学习规划规律？
TraceML: An Empirical Analysis of Human-Agent Planning in Machine Learning Development
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：分数只表示结果，无法区分模型在试新架构、调参还是回退旧方案。把每次修改与意图及效果对应起来，才能观察阶段切换和重开旧路线的策略，再形成规划先验；人类轨迹中的相关规律仍需在 Agent 环境检验，不能直接解释成最优策略。
教学例子：例如两次分数下降，一次是探索新特征、一次是意外删配置，只有版本和动作记录才能判断该继续尝试还是立即回滚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地失败反思先验在 validation/test 能继续读隐藏 route 吗？
TraceML: An Empirical Analysis of Human-Agent Planning in Machine Learning Development
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：不能。先验从训练 split 形成，验证测试只读固定先验并根据真实工具反馈行动，不读隐藏答案或路线。PlanBench 的四阶段与重开计数是机制 smoke，ToolRoute 也非 Kaggle 原文全实验，不能把两套指标混成同一 ML 开发能力。
教学例子：例如 test 失败后可依据公开错误调整动作，但不能打开 reference plan 来“重开正确方案”，否则先验已变成答案通道。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
人类阶段交替和重新打开旧方案，与单调推进计划有什么不同？
TraceML: An Empirical Analysis of Human-Agent Planning in Machine Learning Development
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：人类开发可在分析、实现和评测间往返，也会基于新证据重访旧假设；单调计划容易把已放弃方向永久排除。先验可鼓励适时回开，但不能机械要求每题都循环相同次数，行为差距缩小也不等于最终分数一定提升。
教学例子：例如新验证发现问题来自数据，之前放弃的简单模型可能重新有价值，而不是只继续加复杂度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
TraceML 为什么研究人类开发 ML 方案的全过程，而不只收集最后一个高分模型？
TraceML: An Empirical Analysis of Human-Agent Planning in Machine Learning Development
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：最终代码和分数看不到开发者如何探索、放弃、回到旧方案或分配实验预算。TraceML 记录决策与版本变化，试图把这些过程变成可研究的规划经验。观察到人类行为规律不等于证明它是最优策略，模型利用这些数据后的能力也需在独立任务验证。
教学例子：教学例：最终方案用了较小模型，但开发中曾试过大模型并发现瓶颈；只保存最终文件会丢掉为什么转向的关键信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么共享缓存调度不能只追求最高 prefix hit rate？
TOPAS: Workflow-Aware Prefix-State Scheduling for Multi-Agent LLM Serving
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：缓存命中提高局部复用，却可能让关键路径上的工作流等待，或产生昂贵搬运和抢占。TOPAS 同时估计最长剩余路径、下游复用收益及移动成本，并用 aging 避免长期饥饿；命中率是一项中间指标，不能单独代表多 Agent 任务的总完成时间。
教学例子：例如反复服务一批高命中小请求，却堵住即将完成的主流程；牺牲一点命中率优先关键路径，可能更早交付整个任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地模拟 prefix hit 与 ToolRoute 结果能证明真实 LLM serving 加速吗？
TOPAS: Workflow-Aware Prefix-State Scheduling for Multi-Agent LLM Serving
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不能。受控 mini-suite 只模拟 prefix、关键路径与 aging，状态化工具结果也不含真实 KV serving kernel。原文 mean/p99 JCT 是作者系统实验，需实际请求、内存、移动与墙钟测量；不能用代理 cost 或命中次数直接换算。
教学例子：例如 cache hit 计数增加三次不等于节省三次相同 prefill 时间，真实收益还取决于前缀长度和调度开销。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
关键路径优先与 aging 分别处理整体延迟的哪一种风险？
TOPAS: Workflow-Aware Prefix-State Scheduling for Multi-Agent LLM Serving
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：关键路径优先关注哪些请求会阻塞工作流完成，aging 则随等待增长提升长期未获资源请求的优先级，防止调度持续偏向其他路线。二者解决依赖瓶颈和公平等待的不同问题，需要与缓存复用及移动成本共同权衡；任何单项优先级都不保证所有任务同时最快。
教学例子：教学例：短链请求因一直没有缓存命中而反复被跳过，aging 可逐渐提升其机会；另一长链上的阻塞节点仍有关键路径价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
TOPAS 为什么关注整个工作流最长剩余路径，而不只看单请求进度？
TOPAS: Workflow-Aware Prefix-State Scheduling for Multi-Agent LLM Serving
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：一个请求可能阻塞多个下游任务，局部优先会让工作流尾部等待。关键路径估计把依赖和剩余工作纳入调度，再权衡 prefix 复用、移动和抢占成本；目标是整体完成时间，缓存命中率只是其中一个中间量。
教学例子：例如一个短请求完成后能解锁五个后续节点，即使另一个长请求已跑很多，也可能应先处理这个依赖瓶颈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
SKILL.state 为什么不是“完整对话再加一个状态块”？
SKILL.state: Scalable Long-Horizon Agent Skills
问答新增：2026-10-27 · Google
展开答案与例子
答案：下一步只接收技能说明、当前状态和最新观察，旧对话不再反复携带，因此可持续信息必须显式写入状态。递归 patch 保留未修改字段并允许删除，运行时验证后才提交；若仍传全部历史，就绕过了状态充分性和容量受限的核心要求。
教学例子：例如前轮确认的文件路径要写入状态字段，下一轮才能使用；若偷偷保留整段聊天来找路径，就无法检验状态是否足够。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
有效状态提交后动作执行失败，运行时是否已撤销状态和外部副作用？
SKILL.state: Scalable Long-Horizon Agent Skills
问答新增：2026-10-27 · Google
展开答案与例子
答案：没有。原算法先提交有效状态再执行动作，本地执行器抛错不盲目重试，也不宣称撤销外部副作用；调用方须把失败作为最新观察处理。格式重试上限与字符 cap 是本地保护，计数事件诊断不表示真实 LLM 能正确产生 patch。
教学例子：例如状态已记“尝试支付”后网络超时，不能自动重发付款；应先核查实际结果，避免一次逻辑动作产生两次支付。
依据：核心公式、本地复现、成本与复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
固定 schema 状态与通用滚动摘要在更新合同上有何差别？
SKILL.state: Scalable Long-Horizon Agent Skills
问答新增：2026-10-27 · Google
展开答案与例子
答案：结构状态以递归 patch 保留未改字段，并用 null 明确删除，类型与字段可由运行时验证；自然语言摘要更自由但难以精确约束覆盖和删除。结构合法也不保证内容忠实，不能由 schema 验证通过推导语言模型状态更新正确。
教学例子：例如 patch 只改 progress 时旧 order_id 应保留；自然语言重写若忘记编号，不一定有同样明确的字段级拒绝机制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么长任务的“当前进度”不能只依赖模型从全部聊天中自行回忆？
SKILL.state: Scalable Long-Horizon Agent Skills
问答新增：2026-10-27 · Google
展开答案与例子
答案：历史会增长且充满试错，接续执行需要明确已完成事项、仍未满足要求与关键资源。SKILL.state 关注把这些持续信息作为受约束执行状态维护，让新动作依据当前事实，而不是每轮重新推断全部历史；状态能否充分表达任务是关键前提。
教学例子：例如修改三个文件后还剩一个失败测试，下一轮应明确这个待办，不能只从几十轮聊天里猜哪些步骤真正完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么模型路由要预测边际进展，而不只比较各模型的平均准确率？
ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
问答新增：2026-10-27 · Aston University
展开答案与例子
答案：不同子任务状态下，强模型可能只比弱模型多推进一点，也可能解决关键阻塞。边际进展结合当前完成度、趋势和质量，才能评价下一次调用的价值，再与时间和长期预算权衡；平均准确率忽略阶段差异，预测分数也仍须由后续执行检验。
教学例子：例如格式修复时小模型已足够，困难证明阶段强模型才可能带来显著推进；固定每一步都用平均最强者会浪费预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地冻结程序路由与论文多模型进展 predictor 的实现范围相同吗？
ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
问答新增：2026-10-27 · Aston University
展开答案与例子
答案：不同。本地将验证后的工具选择压成路由，validation/test 冻结后实际执行，mini-suite 检查 progress/meta-gate 与降级；没有复刻论文模型、服务资源或完整 benchmark。代理成本与程序选择结果不能当作真实能耗焦耳或 citation precision。
教学例子：例如本地一条路由少读两个候选，不等于真实 HumanEval 工作流节省相同能耗，需要模型和硬件计量才能验证。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
质量、时间与长期成本 meta-gate 相比始终调用最便宜模型有什么取舍？
ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
问答新增：2026-10-27 · Aston University
展开答案与例子
答案：最便宜单次调用可能因反复失败增加总成本，meta-gate 以预计进展、调用代价和预算压力共同选择。它也可能为高质量候选支付额外费用，不能只报告调用单价下降；应同时看交付质量、时间和完整预算。
教学例子：例如便宜模型三轮无进展，换较贵模型一次解决可能总体更省；若贵模型也无进展，则预测应被实际反馈否定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
ProgRouter 为什么关注同一任务执行过程中不断变化的模型需求？
ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
问答新增：2026-10-27 · Aston University
展开答案与例子
答案：复杂任务不同阶段需要的推理强度不同，固定一直用强模型成本高，一直用弱模型又可能卡住。ProgRouter 研究按当前进展选择下一次调用哪个模型，使路由服务于继续推进任务。模型的静态平均准确率不足以说明此刻能带来多少帮助，实际收益还受时间和调用预算限制。
教学例子：教学例：常规文件定位可交给便宜模型，定位后遇到复杂推断再换模型；不能因为某模型总体排名高就让每一步都调用它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么按任务生成 harness 时，要把 memory、planning、action protocol、tools 分成模块？
JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution
问答新增：2026-10-27 · LV-NUS Lab
展开答案与例子
答案：不同任务瓶颈可能位于不同层，模块化让生成与失败修复定位具体对象，也便于从配置档案提炼可迁移模式。即用即生成不等于无需验证，每个模块仍要满足运行合同；仅改提示内容却未生成相应工具或状态接口，不能算四模块都已实现。
教学例子：例如长任务需要换记忆策略、短计算题只需配置计算工具，不必每次重建全部组件，也不能让两者混用不兼容协议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地训练期修路由与 test 冻结执行为什么要分开？
JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution
问答新增：2026-10-27 · LV-NUS Lab
展开答案与例子
答案：训练任务可写入修复经验，validation/test 冻结后只凭公开观察、工具元数据和真实反馈行动，不能读取答案或 reference-plan。受控低成功率及真实 ToolRoute 结果应各按协议报告，没有原模型与完整 DeepSearchQA 就不能移用作者分数。
教学例子：例如 test 看到报错可按已冻结规则恢复，但不能把隐藏正确路线写入 archive 后再说即时适配成功。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
按任务即时生成与复用固定单一 harness 有何取舍？
JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution
问答新增：2026-10-27 · LV-NUS Lab
展开答案与例子
答案：即时配置可适应不同任务需求，archive 还能帮助迁移，但生成与修复增加开发成本并可能引入不稳定。固定框架更容易维护却可能过于通用；比较需计入候选生成和实际失败，不能只挑最终成功配置忽略探索费用。
教学例子：例如长检索任务需要引用核查，简单计算未必需要，按任务生成可区分；但无用核查器也可能拖慢简单任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Jit-Agent 为什么希望根据当前任务生成工作流程，而不只选择固定提示？
JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution
问答新增：2026-10-27 · LV-NUS Lab
展开答案与例子
答案：任务对记忆、规划、动作协议和工具的需求不同，一套通用 harness 可能过重或缺少关键支持。Jit-Agent 研究在任务到来时组合相应工作方式，让外部组织更贴近需求。即时生成仍需要质量约束和冻结评测，不能因为模块齐全就认为所得 Agent 一定胜过固定流程。
教学例子：教学例：单步计算不一定需要长期记忆，而多页资料整理可能需要取证与进度管理；任务特征应影响使用哪些模块。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么技能图中的语义或 I/O 相似边，还要用 remove、substitute、reorder 探针校准？
CaSKG: Counterfactual-Causal Skill Graphs for Scalable Agent Skill Retrieval
问答新增：2026-10-27 · Jilin University / Ant Group
展开答案与例子
答案：相似性适合高召回，却不证明某技能真正依赖另一技能或应按该顺序执行。文本反事实改变局部结构，观察关系是否仍成立，再经平滑筛出更可靠边；这提供的是探针条件下的关系证据，不能自动宣称已经完成真实环境的因果效应验证。
教学例子：例如两个技能都提文件上传，删除认证步骤后才暴露前置依赖；仅凭共同词汇把它们连成可互换关系可能出错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
Bayesian smoothing 中 s、n 与先验分别起什么作用？
CaSKG: Counterfactual-Causal Skill Graphs for Scalable Agent Skill Retrieval
问答新增：2026-10-27 · Jilin University / Ant Group
展开答案与例子
答案：后验边分数为 (α0+s)/(α0+β0+n)，成功证据增加支持，探针数量控制置信收缩，先验避免少样本极端值；只有超过阈值的边发布。不能把一次探针成功直接记成概率一，本地 ToolRoute 隔离结果也不等于原论文完整环境复刻。
教学例子：例如一条边只测一次成功，带先验后不应与测试百次都成功的边完全等同；二者可靠性证据量不同。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
文本反事实探针与真实环境因果干预的证据强度有什么不同？
CaSKG: Counterfactual-Causal Skill Graphs for Scalable Agent Skill Retrieval
问答新增：2026-10-27 · Jilin University / Ant Group
展开答案与例子
答案：文本探针修改技能描述或顺序，提供关系校准信号，但可能只反映模型对措辞的判断；真实环境执行还需验证操作后果与任务状态。不能因名称含 causal 就把文本边可靠性解释为不受混杂的实际因果效应，机制与能力评价要分开。
教学例子：例如模型认为删除某段会失败，但实际环境可能有另一工具完成同样功能；文本预测仍需真实执行检验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
技能库变大后，为什么“找到几份相似技能”还不足以组成可执行方案？
CaSKG: Counterfactual-Causal Skill Graphs for Scalable Agent Skill Retrieval
问答新增：2026-10-27 · Jilin University / Ant Group
展开答案与例子
答案：技能之间可能有顺序、输入输出与替代关系，相似描述并不说明能正确组合。CaSKG 研究怎样检索带有可靠关系的技能证据，减少看似相关却不可衔接的候选；关系可信度来自额外校准，不能仅凭文本相近宣称依赖成立。
教学例子：例如查询和修改技能都与订单相关，但若修改需要先确认支付状态，缺少该关系的组合仍可能执行错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么工具必要性判断与证据不可靠时的回退反思要分开？
AdaVDR: Adaptive Tool Use and Reflection for Video Deep Research
问答新增：2026-10-27 · Accio Team, Alibaba Group
展开答案与例子
答案：前者决定是否需要外部取证，后者在已取得信息后判断是否值得重新检查，两者面对不同失败点。按能力过滤无必要调用可节省成本，冗余惩罚再约束训练；若为了少调用而无视不可靠证据，也会牺牲视频研究结果，不能把调用数最低直接当最优。
教学例子：例如模型能直接判断视频有人跑步就不搜索网页，但人物身份线索矛盾时应回退核查，不能机械坚持首次结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 ToolRoute 的较高成功率应怎样与成本和视频边界一起报告？
AdaVDR: Adaptive Tool Use and Reflection for Video Deep Research
问答新增：2026-10-27 · Accio Team, Alibaba Group
展开答案与例子
答案：必须同时保留额外 verifier 成本，并说明本地是无 oracle 状态化工具环境、未运行原文视频数据与完整 VDR 系统。PlanBench 满分只作机制诊断，不能将回退计数或不同协议成功率写成视频研究能力提升。
教学例子：例如本地候选验证多花一步换来任务成功，可如实报告这次取舍，不能只摘成功率而宣称同时减少视频工具调用。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
redundancy-aware reward 与一律惩罚所有调用有什么差别？
AdaVDR: Adaptive Tool Use and Reflection for Video Deep Research
问答新增：2026-10-27 · Accio Team, Alibaba Group
展开答案与例子
答案：冗余惩罚针对不必要或重复调用，保留有助回答的工具价值；一律惩罚可能让策略为省成本拒绝取证。需要连同答案奖励和可靠性反思检查，调用更少不保证更好，失败恢复或 verifier 也会带来必要额外成本。
教学例子：例如第二次相同搜索没有新信息可算冗余，但核对冲突来源的额外搜索可能正是保证答案可靠的关键。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
为什么工具必要性要相对目标模型能力判断？
AdaVDR: Adaptive Tool Use and Reflection for Video Deep Research
问答新增：2026-10-27 · Accio Team, Alibaba Group
展开答案与例子
答案：模型自身已能回答的部分不必重复外部调用，确实缺信息时才用工具。必要性因模型能力和当前证据而变，不是全局禁止某工具；中间证据不可靠再反思回退，避免只按调用数量最少优化而漏掉必需验证。
教学例子：例如清晰画面可直接读出颜色，细小文字则可能需要放大或检索；换一个视觉能力较弱模型，必要性边界会改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
TAGR 为什么把直播适应拆成码分配、兴趣时间尺度和间歇式策略更新三层？
TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：直播内容、用户意图和反馈分布以不同速度变化，只更新一处容易仍受其他过时环节限制。LSID 刷新分配但保持词表接口，IAG 融合短中长期兴趣，IOPO 在 on-policy 更新之间继续 NTP 维护行为分布。三层分别处理物品、用户和策略变化；本地有界门控不等同于完整在线 GRPO 闭环。
教学例子：直播间突然换商品，用户刚转向新兴趣，旧偏好策略也需校准。只改商品码无法解决后两者；间歇强化学习又配合常规序列训练，避免一次更新忘掉基础分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
TAGR本地是否执行真实GRPO burst与NTP间歇维护？
TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：没有生产在线burst和价值标签，当前只验证适配结构及非时变公开数据失败边界。完整调度需记录采样政策、两类reward和维护版本，不能只加目标名就称已在线。
教学例子：例如一个静态数据loss相加，不等于按时间真实触发一次GRPO训练服务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
LSID保持token词表稳定与冻结item到码映射是一回事吗？
TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不是，词表符号可不变但商品分配周期刷新；冻结映射则连路径身份都不改。两种更新语义影响旧模型兼容性，不能把稳定词表写成永不重分配。
教学例子：例如同一组数字token仍在，但某直播间可能换到另一条码路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
TAGR为什么同时做LSID、IAG和IOPO三层适配？
TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：直播内容语义、用户意图和反馈政策都快速变化，动态码、多尺度历史及间歇在线优化分别对应这些漂移。单改一个层次不覆盖其余问题。
教学例子：例如直播换品、用户本次意图变化与出价价值改变，发生在不同组件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPDVR为什么对正确轨迹只保留非负教师信号，对错误轨迹只保留非正信号？
OPDVR: On-Policy Distillation with Verifiable Rewards
问答新增：2026-10-27 · LeapLab, Tsinghua University
展开答案与例子
答案：采样token的师生log比可能与整条轨迹正确性冲突，例如教师不喜欢学生的正确写法。单侧ReLU用verifier校正隐式奖励符号，而不是再简单叠加一个独立RL loss。轨迹标签仍粗，不能证明其中每个token都正确；verifier也只在训练评分边界使用。
教学例子：学生用不同但正确的解法，教师给出负模仿信号；正确性门可挡住这类负向更新，而不要求学生照搬教师表达。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPDVR对正确与错误轨迹分别保留哪半轴？
OPDVR: On-Policy Distillation with Verifiable Rewards
问答新增：2026-10-27 · LeapLab, Tsinghua University
展开答案与例子
答案：正确保留非负教师log比，错误保留非正，零保持零。verifier作为训练固定信号，不能进入学生采样输入；当前候选代理未跑真实Qwen数学rollout。
教学例子：例如错误轨迹若教师log比为正，应归零而非取负号反转成额外惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
OPDVR与额外加一个RL loss有什么差别？
OPDVR: On-Policy Distillation with Verifiable Rewards
问答新增：2026-10-27 · LeapLab, Tsinghua University
展开答案与例子
答案：它直接修改原隐式奖励的允许符号，而不是并列两套损失再调权重。额外相加可能仍相互抵消，符号门控则删除不一致部分，两者目标不同。
教学例子：例如错误轨迹的正教师信号被置零，不是用另一负奖试图恰好抵消它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPDVR为什么用verifier校正教师隐式奖励符号？
OPDVR: On-Policy Distillation with Verifiable Rewards
问答新增：2026-10-27 · LeapLab, Tsinghua University
展开答案与例子
答案：师生概率比不必与对错一致，可能惩罚正确轨迹或奖励错误轨迹。按可验证结果只保留符号一致的一侧，避免教师偏好直接逆着任务正确性推动。
教学例子：例如学生答对但教师不喜欢其解法，不应因此接受负向蒸馏奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPDSearch+为什么先用冻结通用教师蒸馏，再让搜索Agent继续RL？
OPDSearch+: Search-Enhanced On-Policy Distillation with Reinforcement Learning
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：蒸馏先在学生自己的搜索轨迹上提供较密指导，改善query、推理与答案的行为起点；后续可验证RL再按环境结果调整，不必永久受教师偏好限制。通用教师无需先训练成任务专家，但其评分仍可能有偏，本地候选信号没有重现真实搜索引擎链路。
教学例子：先学会提出可用查询，再让检索结果与最终验收纠正查询习惯；不能把教师最喜欢的query直接当作最有效搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPDSearch+本地process轴是否真实运行query、reasoning和answer token？
OPDSearch+: Search-Enhanced On-Policy Distillation with Reinforcement Learning
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：不是，候选级过程信号代理三类生成及搜索反馈，未加载真实搜索索引和模型。实际监督mask需只覆盖学生生成内容，不能训练工具返回正文。
教学例子：例如一个候选得过程分，不等于它实际调用Wikipedia后获得证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
OPDSearch+沿学生搜索轨迹蒸馏，与离线照抄教师完整示范的前缀分布有何不同？
OPDSearch+: Search-Enhanced On-Policy Distillation with Reinforcement Learning
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：沿学生轨迹时，教师面对学生实际造成的搜索状态和生成前缀；离线示范的后续监督则基于教师走过的状态。即使教师相同，两类训练暴露给学生的错误恢复场景也不同。这里比较状态分布，不据此断言任意预算下哪种训练更强。
教学例子：学生先搜错关键词后，在线教师评估该状态的下一步；离线正确示范可能从未出现这个错误前缀。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPDSearch+中的搜索返回正文，也是学生要模仿生成的内容吗？
OPDSearch+: Search-Enhanced On-Policy Distillation with Reinforcement Learning
问答新增：2026-10-27 · University of Chinese Academy of Sciences
展开答案与例子
答案：不是。学生生成query、推理和答案，搜索环境返回的正文是后续决策的条件信息。教师在学生轨迹上给指导，并不把工具返回变成学生应输出的台词。先区分模型动作与环境观察，才能正确理解搜索Agent训练的数据单位。
教学例子：搜索工具返回一段网页，学生下一步可以据此生成新query或答案；训练不要求学生逐字“扮演”网页返回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
WeMM 为什么先做大规模 alignment，再引入精选 relevance 与跨尺度蒸馏？
WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：第一阶段先建立多模态共享空间，第二阶段再用更精细的相关性监督修正“内容相似但不满足查询”的情况。跨尺度蒸馏与 Matryoshka 表征让不同输出尺寸承接语义结构；两阶段承担不同角色，不能把向量相近直接解释为业务相关或答案正确。
教学例子：例如一张红鞋图与“红色物品”很相似，但“适合雨天的鞋”还需要用途相关性；精选监督进一步约束这种差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地 MovieLens 的 Matryoshka 结果能替代微信线上 A/B 吗？
WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：不能。本地以公开内容与协同视图验证共享空间、精炼与截断维度，没有加载原始大 checkpoint 或私有多模态 pair。原文 MMEB 与微信线上实验属于作者系统证据，本地小维度推荐代理只说明对应数据流，不能作为业务复刻或同表排名。
教学例子：例如四维与十六维代理向量的 Recall 可比较本地机制，却不能推算视频号流量上的收益百分点。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
WeMM对多个Matryoshka尺寸做跨尺度KD，与只监督最大尺寸有什么不同？
WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：公式对不同学生尺度分别计算教师到学生的KL再求和，使各输出尺寸都收到蒸馏信号。只训练最大尺寸没有同样显式约束较短表示。多个尺寸共享语义目标，不意味着质量完全相同或任意截断都合法；应按规定尺寸分别评估成本与检索质量。
教学例子：完整向量对齐教师，并不能单凭这一点保证前半段也好用；多尺度目标会另外检查短表示对应的预测分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
WeMM 的交错多模态输入与单一图片向量有什么区别？
WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report
问答新增：2026-10-27 · WeChat Vision, Tencent
展开答案与例子
答案：一个输入可以包含文本、图像、视频或文档片段及其交错关系，再被映射为统一检索表示。目标不仅是给每种媒体单独建索引，还要表达组合输入的语义；统一空间并不意味着任意模态组合都无需训练或无需单独验证。
教学例子：例如查询可以同时含产品照片和“找同款但蓝色”的文本，组合语义不同于只检索照片或只检索颜色词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 token-mean actor loss 要用动作 token 数加权 advantage 标准化？
SPO++: Stabilizing Asynchronous Agentic Reinforcement Learning via Measure-Theoretic Token Correction
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：若每条轨迹只投一票做白化，而损失按 token 平均，长短轨迹在两处的测度不一致，会改变实际更新权重。token 加权让标准化与优化对象一致，dispatch 冻结 baseline 又防止异步完成顺序污染历史；它不是简单把奖励按文本长度重新定义。
教学例子：例如一条十 token、一条一百 token，损失中后者占更多位置，标准化若各算一票，就与真实梯度平均的权重不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地事件时间和 token measure 验证包含异步 Qwen 训练吗？
SPO++: Stabilizing Asynchronous Agentic Reinforcement Learning via Measure-Theoretic Token Correction
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：没有。本地在确定性 mini-suite 检查冻结 value、历史时序和动作 token 加权公式，未运行真实异步模型、ALFWorld 或 Math-TIR。事件计数可以验证分支实际发生，但不等于论文 reward-curve area 或吞吐收益。
教学例子：例如人为乱序完成十条 fixture 后统计仍正确，能测时序合同，尚未测真实 worker 延迟、模型陈旧度和参数更新。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
按 dispatch 事件冻结 baseline，与按完成顺序取最新 baseline，会改变什么条件？
SPO++: Stabilizing Asynchronous Agentic Reinforcement Learning via Measure-Theoretic Token Correction
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：dispatch 冻结让每条 rollout 的优势对应其发出时可见的 prompt value；完成时取最新值会掺入后来才到达的其他结果，且耗时不同的轨迹受影响程度不同。SPO++ 将证据按生成策略事件组织，不能用事后历史覆盖已冻结条件；这与 token 加权标准化是另一项独立修正。
教学例子：教学例：轨迹甲先发后到，乙后发先到；乙的结果可更新未来基线，但不能倒写进甲发出时本不存在的历史信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
异步 Agent RL 为什么容易受到“哪个任务先完成”的影响？
SPO++: Stabilizing Asynchronous Agentic Reinforcement Learning via Measure-Theoretic Token Correction
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：长任务耗时不同，异步训练希望先用已返回结果而不等全部同伴，但完成顺序与任务难度、策略版本相关。SPO++ 研究在保持吞吐的同时让优势基线和证据统计对应正确生成事件。快完成不表示更有代表性，训练记录必须追踪采样时的条件，而不是事后随结果回填。
教学例子：教学例：简单任务先返回并改变历史值，较早发出的难任务晚到时不应被当成在新基线下采样，否则会混入时间顺序偏差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么创建工具与使用工具要在同一策略中联合训练？
SMITH: Self-Improving Tool-Using Agents through Multi-Aspect Verification
问答新增：2026-10-27 · Appier AI Research / National Taiwan University
展开答案与例子
答案：只奖励生成可运行代码，可能得到难调用或不解决新题的工具；只训练使用者又无法改进工具设计。build 与 held-out use 混合任务把 schema、执行和最终结果信号连起来，鼓励可复用抽象；样例通过不是独立问题解决，使用评测仍需隔离。
教学例子：例如工具能算训练样例却把常量写死，代码执行奖励可能通过，但 held-out 调用会失败，从而暴露它没有真正可复用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地结构化 plan 工具是否等于可执行 Python sandbox？
SMITH: Self-Improving Tool-Using Agents through Multi-Aspect Verification
问答新增：2026-10-27 · Appier AI Research / National Taiwan University
展开答案与例子
答案：不等于。本地分开 build/use 状态并实际运行三轴 verifier，但工具内容是受控计划，没有 Qwen3-4B、Python 沙箱或 Reasoning-Gym 等环境。生成与复用次数只能验证流程，不应将原文代码工具训练效果归给该小型替代表示。
教学例子：例如计划节点“加法”可由规则解释器执行，不代表系统能安全编译并运行任意模型生成 Python backend。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
schema、代码执行、最终答案三轴奖励为什么不能互相替代？
SMITH: Self-Improving Tool-Using Agents through Multi-Aspect Verification
问答新增：2026-10-27 · Appier AI Research / National Taiwan University
展开答案与例子
答案：schema 合法只保证接口可解析，代码运行只保证执行不崩溃，最终结果才检验任务是否解决。三者各自有失败方式，单一成功标志会隐藏问题；更难问题用于促使工具形成抽象，不能靠扩大样例硬编码冒充泛化。
教学例子：例如函数签名正确且能返回数字，但计算公式错了，前两轴可过、答案轴仍应失败。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
SMITH 为什么让 Agent 不只使用现成工具，还学习创建可再用的工具？
SMITH: Self-Improving Tool-Using Agents through Multi-Aspect Verification
问答新增：2026-10-27 · Appier AI Research / National Taiwan University
展开答案与例子
答案：固定工具集未必覆盖新任务需要的处理方式，反复临时写代码又会重复劳动。SMITH 把工具构建与后续使用作为相互关联的任务，使生成的接口和实现接受真实使用检验。能产出代码不代表工具有用，格式、执行结果和下游答案各自都可能失败。
教学例子：教学例：多次遇到相同数据清洗需求，可以创建专用处理工具；它是否值得保留，要看后来能否正确调用并完成实际清洗。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么技能候选要经历激活、修订或去重，而不从成功轨迹提取后直接永久追加？
SkillForge: Automated Skill Discovery and Refinement for Tool-Using Agents
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：单次成功可能依赖偶然环境，旧技能还会过时或互相冲突。多路径归纳先产生候选，调用策略和环境反馈再决定是否使用及怎样修订，把技能选择纳入学习；追加只增加库容量，却不能保证候选适用或避免错误被反复检索强化。
教学例子：例如成功下载经验写死了旧按钮名称，新界面失败后应修订或停用该技能，而不是把第二份相近文档继续叠到库里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
a_t=(环境动作,技能选择) 对本地验证提出什么要求？
SkillForge: Automated Skill Discovery and Refinement for Tool-Using Agents
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：要记录策略在行动时实际选择了哪个技能及执行后果，不能只在日志中事后贴技能名。本地以结构化 plan 验证调用、posterior 与修订控制流，没有 LLM teacher induction 或 RL 训练，技能复用计数不能当成学得策略或论文环境成绩。
教学例子：例如动作已执行完再挑一份相似技能做解释，不算策略真正使用技能；选择应在行动生成时影响执行。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
从成功、失败与对比轨迹多路径 induction，与只总结成功有何不同？
SkillForge: Automated Skill Discovery and Refinement for Tool-Using Agents
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：成功轨迹提供可用步骤，失败暴露边界，对比轨迹帮助识别关键差异，候选因此不局限于复述一次成功。归纳仍只是提案，环境验证后才决定是否激活；不能把失败叙述中的猜测直接写成可靠规则，或用同一 case 成功证明通用。
教学例子：例如成功与失败都用了相同查询，只有成功额外校验结果，可将“校验”提出为候选必要步骤，再验证而非直接宣告因果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
SkillForge 为什么让 Agent 学会选用技能，而不只拥有一份技能目录？
SkillForge: Automated Skill Discovery and Refinement for Tool-Using Agents
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：目录中有程序性知识并不代表策略会在合适时机使用，技能可能被忽略、误用或与当前状态不匹配。SkillForge 把技能调用决策纳入行动学习，并从执行经历持续改善内容，关注知识与策略真正协作，而不是单纯增加文档数量。
教学例子：例如已存“先校验输入再导入”技能，但 Agent 每次直接导入，库再完整也没有实际帮助，选择行为需要受到任务反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
纠错 hint 为什么只额外给关键错误步骤的 teacher，而不是所有步骤都给完整答案提示？
AHEAD: Agentic Hints for Effective Agent Development
问答新增：2026-10-27 · AWS AI Labs / Purdue University
展开答案与例子
答案：普通步骤已有环境反馈，统一特权提示会浪费信号并掩盖真正需要纠正的位置。定位错误后，在相同生成动作上比较有无 hint 的对数概率差，再有界调节终局优势；提示只在训练教师侧使用，不能把答案或纠错信息直接放进部署学生上下文。
教学例子：例如轨迹只有第三步选错工具，额外 hint 应聚焦该决策，而非让每一步都看到最终解决方案再假称学生自主完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地确定错误位置、真实 ToolRoute 与论文 LLM analyzer 如何区分？
AHEAD: Agentic Hints for Effective Agent Development
问答新增：2026-10-27 · AWS AI Labs / Purdue University
展开答案与例子
答案：mini-suite 用确定性错误位置验证提示分流，不含 LLM analyzer、Qwen GRPO 或原三 benchmark；ToolRoute 是另一隔离反馈协议，也不能补成原算法完整训练。hint、gold 和参考动作必须只在允许训练侧，test 策略不得读取。
教学例子：例如 fixture 告诉第六步错误可测试门控，但没有证明模型能从真实失败长轨迹自主找出第六步。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
乘法调节原 episode advantage 与直接用 teacher gap 当新奖励有什么区别？
AHEAD: Agentic Hints for Effective Agent Development
问答新增：2026-10-27 · AWS AI Labs / Purdue University
展开答案与例子
答案：乘法在原优势基础上调节力度，受 clip 和 λ 限制，保留终局信号的角色；直接替换会把教师偏好变成独立目标。gap 反映相同 token 在不同上下文的似然，不是最终成功概率或真实因果贡献。
教学例子：例如失败轨迹某 token 受 hint 更支持，不应因此无条件当成功动作正奖；它仍受原轨迹 advantage 和有界因子影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
AHEAD 为什么不满足于给长程 Agent 整条轨迹同一个成功或失败反馈？
AHEAD: Agentic Hints for Effective Agent Development
问答新增：2026-10-27 · AWS AI Labs / Purdue University
展开答案与例子
答案：轨迹中可能只有少数关键错误决定终局，其他步骤则合理或只是受错误连累，统一信用难以说明应改哪里。AHEAD 研究用针对性的教师信号调整这些步骤的学习重点。更细信号也依赖错误定位可靠性，训练教师的额外信息不能被当成部署 Agent 已知答案。
教学例子：教学例：多步检索只有第三次查询偏离目标，后续失败不应让所有正确取证步骤承担相同责任；需要识别真正关键的偏差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SRPO把失败后的reflection patch给同参数教师，为什么学生原始rollout前缀仍要保持不变？
SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：patch是训练时事后得到的特权反馈，用来让教师重新评价学生实际走过的位置。若改写学生前缀或直接把patch给部署学生，就变成另一种采样或推理任务。逐token教师与旧学生log-ratio形成稠密信用，反思文本本身也不是经过独立证明的正确答案。
教学例子：学生先做错一个检索决策，任务结束后才知道遗漏约束；教师可借提醒评分这个旧决策，但不能假装学生当时已经知道。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SRPO教师评分是否应沿教师重新生成的理想前缀？
SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：应沿学生on-policy前缀评分，patch只改变教师条件；奖励差及优势停止梯度。本地用结果过程轴构造同向信用，未真实生成patch或运行大模型工具环境。
教学例子：例如学生第三步已经偏离，教师仍需评价这个状态，而非悄悄换成正确第三步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
SRPO自反思教师与独立外部教师的区别是什么？
SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：师生共享模型但条件输入不同，能力差来自额外反馈和patch，而非更大的外部参数。若反思本身错误，同源模型也可能相互强化偏差，不能视为独立验证。
教学例子：例如同一个人看过结果再点评，信息更多，但不是另一位独立专家。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SRPO为什么在失败后生成reflection patch？
SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning
问答新增：2026-10-27 · Wuhan University
展开答案与例子
答案：终局反馈粗，patch把可修正线索转成特权上下文，使同一模型在学生实际前缀上提供稠密指导。它不是直接把整个旧错误轨迹都当作监督。
教学例子：例如工具报错后归纳应检查参数，教师据此重新评价学生当时的词元。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ERPO把正则移到问题分布一侧，和直接限制回答分布有什么区别？
Beyond the Stability-Exploration Dilemma: Environmental Regularization for LLM Policy Optimization
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：回答侧KL会直接压制输出变化，稳定训练的同时也限制探索。ERPO用reference的问题似然对query加权，并约束模型诱导的问题分布漂移，改变的是哪些输入获得多少更新压力。它不是把回答KL换个变量名；本地typicality代理也没有验证真实query分布建模。
教学例子：训练持续偏向某类熟题时，可调整问题侧权重；这与要求每个回答都紧贴原模型，是两种不同的约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ERPO本地candidate typicality为何只能叫query-likelihood代理？
Beyond the Stability-Exploration Dilemma: Environmental Regularization for LLM Policy Optimization
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：它在有限候选上模拟输入典型性，用来验证控制流与梯度边界，并非真实语言模型对自然问题的似然。静态权重来自冻结参考，不能用测试正确率倒推权重。
教学例子：例如候选特征常见程度不等于完整中文问题在真实模型下的生成概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
Query-KL与Policy-KL能否在实现里直接互换？
Beyond the Stability-Exploration Dilemma: Environmental Regularization for LLM Policy Optimization
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：不能。一个约束问题分布，一个约束给定问题下回答分布，梯度边界不同。两者都写KL不代表同一正则，也不能在回答score function上施压后仍称仅输入侧控制。
教学例子：例如常抽哪些题与一道题怎样作答，是两个不同条件分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ERPO为何把策略漂移问题放到输入侧观察？
Beyond the Stability-Exploration Dilemma: Environmental Regularization for LLM Policy Optimization
问答新增：2026-10-27 · AMAP, Alibaba Group
展开答案与例子
答案：回答正则会直接限制响应探索；ERPO关注模型诱导的问题分布漂移，用问题似然加权及Query-KL控制输入环境的偏移，改变正则作用位置。
教学例子：例如保持学习问题的分布不至于失衡，而非要求每个回答都贴近旧措辞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
同 batch 检查 patch 效果后，为什么还要在 dev set 选择并写 EvoDAG？
AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces
问答新增：2026-10-27 · Microsoft / POSTECH
展开答案与例子
答案：原失败 batch 适合诊断因果方向，却可能被针对性补丁过拟合。开发集再比较更新，版本图记录从哪个父框架与证据产生，支持后续迭代和回溯；结构化 patch 有边界不等于语义安全，测试报告集也不能加入循环选更新。
教学例子：例如补丁恰好修好三条相同报错，需要再看其他开发任务是否退化，并保存父子关系，而不是立刻覆盖唯一框架文件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地 durable update 和 reuse 计数能够代表什么？
AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces
问答新增：2026-10-27 · Microsoft / POSTECH
展开答案与例子
答案：它们证明公共 mini-suite 中优化循环、验证门与持久复用状态运行，没有原 GAIA2、SWE-Bench Pro、Terminal-Bench 或生产 harness。失败诊断和写入次数不是实际 LLM 深诊断能力，代理成本也不等于真实 API、人效或线上收益。
教学例子：例如十二次规则更新后复用一百零八次可核对版本路径，但未执行真实模型和工具，不能移用作者九到十点提升。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
修改 harness 代码与更新底座模型权重，改变的是哪一种长期状态？
AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces
问答新增：2026-10-27 · Microsoft / POSTECH
展开答案与例子
答案：harness 修改影响提示、工具配置或中间件如何组织后续执行，底座权重更新则改变模型本身的行为分布。AutoSaddler 将前者作为可持续代码资产迭代，不需要把一次流程修复称为模型已经训练。两类改进可互补，但证据、版本与回退对象都应分别记录。
教学例子：教学例：加入测试失败时的恢复分支是流程代码变化；若模型仍用原 checkpoint，就不能据此说它的参数学会了错误恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
AutoSaddler 为什么希望一次任务的失败能转化为以后任务也可利用的流程改进？
AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces
问答新增：2026-10-27 · Microsoft / POSTECH
展开答案与例子
答案：长任务中的提示、工具配置和中间件缺陷会反复造成相似失败，只修当前回答难以消除共享原因。AutoSaddler 从执行证据提出有边界的 harness 改动，并维护持续版本。候选补丁只是提案，只有实际验证和后续复用才能说明其作用，版本数不能代替能力证据。
教学例子：教学例：多次漏掉提交前测试，可尝试修共享执行流程；手动补跑当前任务的测试只修了一次交付，并未保证以后不再遗漏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 guidance 深度要按难度簇采样，而不是所有任务都保留相同长度的专家前缀？
Agent-G²: Gaussian Guidance for Agentic Reinforcement Learning
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：简单题给过多前缀会减少自主探索，难题给太少又可能只产生失败。已有 rollout 的簇级成功率与波动用于调整引导带中心和方差，再为任务采样深度，减少逐题额外 probe；训练前缀是脚手架，评测不能继续提供参考专家轨迹来冒充独立解题。
教学例子：例如简单开门题只给很短提示，复杂多房间任务可给较长起步；固定一半前缀会让前者过度依赖、后者仍难学。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
Agent-G² 采样到负深度或超过整条专家轨迹的比例时怎么办？
Agent-G²: Gaussian Guidance for Agentic Reinforcement Learning
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：文档先为均值设边界，再将高斯样本clip到[0,1]；方差也有下限。专家前缀是训练guidance，不应把隐藏专家计划直接交给独立能力评测中的策略。
教学例子：一次采样r=1.2需裁到1，不能索引到轨迹之外或把越界当成额外oracle信息。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
按簇估计 guidance band，与每题单独反复 probe 有什么成本差异？
Agent-G²: Gaussian Guidance for Agentic Reinforcement Learning
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：簇统计复用已有policy rollout的成功率与变化信息，减少额外逐题探测；逐题probe可能更细，但要额外付rollout成本。固定或按簇帮助也不能视为已知道每题最优深度。
教学例子：同类任务可共享一个深度分布，而不为每题先跑很多次找起点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Agent-G² 为什么在探索前提供部分专家轨迹，而非始终全靠随机试错？
Agent-G²: Gaussian Guidance for Agentic Reinforcement Learning
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：专家前缀能把策略带到较有学习价值的位置，再由当前策略续写探索。方法按已有rollout估计不同难度簇所需guidance比例，希望兼顾帮助与自主学习，避免逐样本昂贵probe。
教学例子：难任务可给更长起步提示，容易任务则让策略更早接手。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
单级大码本缩短了解码，为什么还需要独立碰撞码与曝光加权更新？
From a Static Multi-Level Small Semantic Codebook to a Dynamic Single-Level Large Semantic Codebook for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：少生成几个语义层能降低自回归开销，但多个物品仍可能落入同一码，必须保留额外区分入口。动态更新让码中心跟随实际使用分布，曝光权重影响哪些区域更精细地被表示；与此同时更新会改变索引语义，需要维持生成器与服务映射的一致性，不能只比较token数量。
教学例子：单枚主码已定位一组热门商品，额外碰撞码负责区分组内物品；如果码中心更新后服务仍读旧映射，即使解码快了，也可能返回错误商品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
动态码本加权更新遇到空桶，为什么必须有明确规则？
From a Static Multi-Level Small Semantic Codebook to a Dynamic Single-Level Large Semantic Codebook for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：新中心分母是桶内权重和，空桶没有可估计均值，应按约定保留或受控处理，不能除零后随机补数。EMA、物品分配和碰撞映射需同版本发布，才避免无依据漂移。数值兜底若改变算法，应作为不同实现而非静默等价。
教学例子：本批没有商品进入码七，就没有数据支持其新位置；把中心随手重置会改变旧码七含义，已有生成路径也跟着失效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
动态码本与冻结码本，对分布变化和路径稳定性怎样取舍？
From a Static Multi-Level Small Semantic Codebook to a Dynamic Single-Level Large Semantic Codebook for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：冻结保留旧路径含义，动态更新可跟随新曝光与内容，但中心移动可能让旧生成器与索引错位。曝光加权也可能强化旧策略偏差，并不天然去偏。机制比较需同时检查更新收益、漂移与版本维护，不能把变化更快直接称为更准确。
教学例子：节日新品增多时中心可调整，但旧商品若悄悄换码，模型仍按旧概率生成就会错位；需要同步映射而非只更新均值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
单级大码本为什么可缩短生成，却仍不等同于唯一 item ID？
From a Static Multi-Level Small Semantic Codebook to a Dynamic Single-Level Large Semantic Codebook for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：减少层数使语义路径更短，但有限中心仍可能分到多个物品，需要独立碰撞码完成唯一映射。大词表增加候选与更新压力，不能只数自回归步数就判断所有成本下降。单级结构仍要维持语义与可服务身份的联系。
教学例子：一本书一次选到大码后，可能与另一书同桶，仍需碰撞码区分；只输出桶编号并不能确定最后展示哪一本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
RARE怎样改变MoE表征，同时避免steering顺便把token送到另一组专家？
RARE: Decoupling Representation Steering from Expert Routing in Mixture-of-Experts Language Models
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：直接加steering向量会改router可见的分量，导致原有专家路径发生变化。RARE把方向投影到router零空间，让当前层路由logit保持不变；传播到后续保护层时，再移除新产生的可见漂移。保护路由与改变行为表示被分开，但这不等于所有后续非线性影响都可忽略。
教学例子：一条行为方向同时带有“改回答风格”和“改专家选择”的分量；投影先去掉后一部分，并在受保护的后续层继续纠偏，减少专家路径变更造成的混杂。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
为什么 RARE 在编辑层投影一次后，还要校正后续保护层？
RARE: Decoupling Representation Steering from Expert Routing in Mixture-of-Experts Language Models
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：非线性传播可能重新产生router可见分量。后续层需以clean activation为参考，将编辑与clean的差值再投影到该层零空间，不能只保证最初一层的logit相同。
教学例子：第一层编辑不改路由，但经过后续变换后仍可能影响下一层router，需逐保护层检查。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
RARE 的 router 零空间投影，与单纯减小 steering 强度有什么差别？
RARE: Decoupling Representation Steering from Expert Routing in Mixture-of-Experts Language Models
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：减小强度只能缩小路由扰动，不能一般性消除；零空间投影在所保护router的线性映射下满足RΔh=0。它保证的是对应路由logit不变，行为效果仍需独立测量。
教学例子：很小但非零的logit变化仍可能跨过top-k边界，而零空间约束针对这一影响方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
为什么在 MoE 上直接做 activation steering，可能同时改变专家选择？
RARE: Decoupling Representation Steering from Expert Routing in Mixture-of-Experts Language Models
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：router读取hidden产生专家logits，直接沿行为方向编辑hidden也可能改变这些logits。一旦专家路径变化，原先估计的行为方向就不再作用于同样的计算路径。
教学例子：想增强某种回答风格，却顺便把token送到另一组专家，观察到的变化就混合了两种原因。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
动作级 JSD 调权为什么要有界且不翻转原轨迹 advantage 的符号？
AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：有无技能的分布差说明该动作受技能影响多大，却不直接证明它有益。保留结果优势符号，让局部权重只调节信用强弱，避免把失败轨迹某步因分歧大就变成正奖励；内化、探索和利用分阶段处理，也减少外部技能上下文的持续开销。
教学例子：例如一次失败中某动作很依赖技能，可以加强对其错误的学习力度，但不能仅因依赖强就把这一步改奖为成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
比较有技能和无技能策略时，为什么要使用相同 h_t 和动作分布口径？
AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：上下文若同时变化，JSD就混入其它条件差异；应在同一动作边界比较两份分布。调权还需核对实际w非负及有界，不能只写出1±β就忽略保advantage符号的条件。
教学例子：一边多看了工具结果、另一边没看时，分布差异不能只归因于技能S。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
AUSO 的动作级 JSD，与整条轨迹是否成功提供的信息相同吗？
AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：最终成功只能说明整条过程的结果；动作级分布差异显示某一步对技能条件的敏感性。差异不自动等于技能带来的因果收益，仍需结合结果和有界调权，而非只因JSD大就认定更优。
教学例子：同一成功轨迹中，只有一次工具选择可能真正受到技能信息影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
AUSO 为什么既要内化技能，又保留按动作利用技能的阶段？
AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：外部技能每次检索有上下文成本，完全内化又不易按任务选择。AUSO先让技能teacher帮助通用内化，再探索，并逐动作比较有无技能的分布差异，调整学习重点。
教学例子：常用步骤可以学进策略，但某个复杂动作仍可能从特定技能提示获益。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
同一自回归骨干输出 policy 和 value 时，为什么必须指定不同因果边界？
SAPO: Single-Rollout Autoregressive Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：动作概率应只条件化于决策前可见历史，价值估计也要对应正确时点，混入动作后观察会使优势携带未来信息。共享骨干节省模型结构，但 PPO、SARSA 与 GAE 的状态动作对齐仍要严格维护，单 rollout 不表示可以忽略 bootstrap 与终止语义。
教学例子：例如决定运行命令前的 value 不能先读到该命令测试通过的输出，否则策略看似获得精确信用，实则泄漏了未来结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
GAE 计算为什么要保留 trajectory 边界，而不能把多个 episode 直接串接？
SAPO: Single-Rollout Autoregressive Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：优势沿后续TD残差累积，跨episode串接会把另一个任务的回报传进当前任务。需按终止边界处理bootstrap与累积；当前确定性mini-suite不等于真实浏览器或完整RL训练。
教学例子：任务A结束后的下一条记录属于任务B，不能继续作为A的未来奖励。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
单 rollout 的轨迹优化，与同一状态先采很多分支再做组比较有何区别？
SAPO: Single-Rollout Autoregressive Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：SAPO强调从单条on-policy过程组织policy/value和时序优势，分支组比较则依赖多个候选rollout。数据需求、价值估计和信用分配口径不同，不能只看最终成功率就当成同一训练方式。
教学例子：只有一条已执行轨迹时，不能假定还拥有同状态其它候选的真实回报。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
SAPO 为什么希望一个自回归骨干同时提供 policy 与 value？
SAPO: Single-Rollout Autoregressive Policy Optimization for Agentic Reinforcement Learning
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：共享骨干可在不同因果位置读出动作决策和价值信号，再结合PPO、on-policy SARSA及轨迹GAE。共享参数不表示两种读出可以无视各自输入边界。
教学例子：动作生成前的策略信息，与后续可用于价值估计的信息应按协议区分。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
OneModel 已共享因果主干，SAIM 的场景 gate 还保留了什么专门化能力？
OneModel: A Unified Foundation for Platform-Scale Multi-Scenario Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：异构事件先投影到统一空间，使不同业务能共享历史建模；但完全共用 FFN 容易把场景差异压平。SAIM 依据场景嵌入调制共享 FFN 的激活，让同一中间表示在不同任务里使用不同通道。全局聚合与最近局部状态再分别保留稳定偏好和即时变化，避免统一表示只剩一种时间尺度。
教学例子：用户既看旅游内容也买旅行用品。共享主干能理解这些行为相关，但广告场景和内容推荐场景用不同门控组合特征，近期订机票的信号也可通过局部状态保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
OneModel 的 SAIM gate 应由什么信息生成，为什么不能读取预测后业务标签？
OneModel: A Unified Foundation for Platform-Scale Multi-Scenario Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：gate 来自请求时已知场景嵌入并调制共享 FFN，任务标签只作监督，不能先看是否购买再决定场景门。event 序列也需因果 mask 和正确域投影。本地场景由 genre 派生，是公开代理而非真实推荐、广告、商家三套日志。
教学例子：知道当前是广告请求可选 gate，知道之后买了才选购买 gate 则泄漏；两者在字段名字上相近，实际可见时间完全不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
OneModel 的 global/local 融合与一个 pooled 用户状态，相比保留哪些时间尺度？
OneModel: A Unified Foundation for Platform-Scale Multi-Scenario Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：全局 attentive pooling 概括稳定模式，最近局部状态捕捉快速变化，融合避免一种时间尺度独占。单 pooled 状态更紧凑但可能平均掉新需求。人工 genre 场景会降低本地数据密度，来源退化不能用于否定真实跨业务，更不能隐去负号。
教学例子：长期旅游兴趣与刚开始装修可同时存在，global/local 让两者有不同位置；若全部均值，装修信号可能被多年旅游数量稀释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
OneModel 为什么先把各场景异构字段映射成统一 event token？
OneModel: A Unified Foundation for Platform-Scale Multi-Scenario Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：混合历史来自不同业务，字段结构和动作含义不一致，场景专属投影先建立共享维度，再附场景、动作、时间与位置，让因果主干能处理共同序列。统一维度不表示语义完全一致，场景 gate 和分层表征继续保留差异。
教学例子：观看十秒与购买一次不能只作为两个无标签 ID 拼接；event token 告诉主干它来自什么场景和动作，才有条件解释关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
R²-OPD为什么要求教师排序与独立推理进展排序一致，冲突时不直接信教师？
Beyond Imitation: Filtering On-Policy Distillation by Reasoning Progress
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：教师偏爱某段表达不一定意味着它推进了求解，独立进展信号用于检验两者方向。排序冲突时屏蔽对应蒸馏，减少模仿与任务目标相悖的更新。过滤只说明该信号不可靠，不证明被屏蔽段落一定错误；进展评价本身也需要独立质量检查。
教学例子：教师偏爱流畅的长解释，但进展评估显示关键约束尚未解决；此时不应仅因教师高分就强化整段表达。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
R²-OPD的两套rank应针对什么对象对齐？
Beyond Imitation: Filtering On-Policy Distillation by Reasoning Progress
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：同一组reasoning spans及同一身份顺序，两套分数不能混来自不同轨迹。并列规则需明确，当前候选机制未执行真实大模型进展评价器。
教学例子：例如教师排序的第三段必须对应进展排序的同一段，而不是第三个列表位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
R²排序过滤与把两种reward直接加总有什么差别？
Beyond Imitation: Filtering On-Policy Distillation by Reasoning Progress
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：过滤把一致性作为是否保留教师信号的条件，加总允许一个高分抵消另一个低分。两者激励不同，排序一致也不证明两评价器都正确。
教学例子：例如教师分极高不能自动买回被进展判断为不利的蒸馏片段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
R²-OPD为什么单独估计reasoning progress？
Beyond Imitation: Filtering On-Policy Distillation by Reasoning Progress
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：教师喜欢的片段不一定推动任务完成，独立进展信号用于核对蒸馏方向。当排序冲突时屏蔽相应监督，避免把语言偏好误作推理改进。
教学例子：例如解释更流畅但离解题目标更远，教师分与进展分可能相反。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
环境设计者为什么用有 hint 与无 hint 的 regret，而不是只追求让 Agent 失败？
SPADE: Self-Play in Adaptive Synthetic Executable Environments
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：纯失败奖励可能生成根本无解或过难的环境，无法提供有效课程。hint 能显著提高表现而无 hint 仍困难的差距，更接近可学习能力边界；环境还必须可执行，特权信息只属于训练比较，不能在无提示评测时暗中交给推理 Agent。
教学例子：例如迷宫无提示难走、给方向后可完成，适合作为训练挑战；完全封死出口让双方都失败，不应只因困难就获高设计分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
SPADE 的 hint 条件能在无 hint 评测中保留给被评估 Agent 吗？
SPADE: Self-Play in Adaptive Synthetic Executable Environments
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：不能。两种条件的输入必须分开，privileged hint只用于对应训练/对照路径，不能偷偷流入无hint策略。还需实际执行环境验证；本地mini-suite没有运行原文外部环境和大模型训练。
教学例子：无hint回调若仍拿到设计者保存的解题计划，就无法解释两条件回报差。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
最大化失败率，与最大化 hint/no-hint regret，会偏好相同环境吗？
SPADE: Self-Play in Adaptive Synthetic Executable Environments
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：不会。只追失败可鼓励无解或无意义环境；regret还要求特权帮助能提高回报，从而区分可解但当前困难的任务。它仍需真正的可执行环境与反馈，不是固定难度标签。
教学例子：两种Agent都得0分的环境，失败率高但regret为0。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
SPADE 为什么让同一 LLM 同时扮演环境设计者与推理 Agent？
SPADE: Self-Play in Adaptive Synthetic Executable Environments
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：设计者生成可执行的合成环境，Agent尝试解决，再用有无privileged hint的回报差寻找能力边界上的任务。目标是产生有学习价值的挑战，而非堆积任何无法解决的问题。
教学例子：无hint失败、有hint成功的环境，可能比两者都失败的坏题更有区分价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么按 turn 逆序更新有助于保持决策与下游 continuation 的 on-policy 对应？
RTPO: Reverse-Turn Policy Optimization for Stabilizing Agentic RL Training
问答新增：2026-10-27 · Adelaide University
展开答案与例子
答案：早期动作价值依赖后续策略，若下游已大幅改变却仍用旧 continuation 信用，会产生不一致。反向树先处理靠近结果的回合，再向前传播相应训练依据，让前段决策面对更新后的续跑关系；顺序稳定训练不等于无需重要性或执行对齐检查。
教学例子：例如最后两步已学会恢复，开局动作的好坏应按新的恢复能力重新理解，而不持续沿用末段还是旧失败策略时的估值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
RTPO 为什么要同时记录每个 turn 的行为策略与下游 continuation 版本？
RTPO: Reverse-Turn Policy Optimization for Stabilizing Agentic RL Training
问答新增：2026-10-27 · Adelaide University
展开答案与例子
答案：早期决策的优势若来自不匹配的后续策略，可能失去on-policy对应。仅把更新索引改成倒序并不足够，还需核对树节点、状态与续写归属；本地控制流不是完整外部环境RL。
教学例子：某节点已按新版后续策略重评，不能仍把旧续写奖励当成同一状态的当前回报。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
逆 turn 更新与把整段 token 文本倒序训练，是同一操作吗？
RTPO: Reverse-Turn Policy Optimization for Stabilizing Agentic RL Training
问答新增：2026-10-27 · Adelaide University
展开答案与例子
答案：不是。逆序指决策更新顺序及下游continuation关系，语言模型的因果输入仍按合法轨迹构造。倒置文本会改变任务与可见性，不能用它代替反向策略优化。
教学例子：先更新第3轮再更新第2轮，不代表让模型先读第3轮观测去预测第1轮动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
RTPO 为什么把多轮决策组织成反向更新过程？
RTPO: Reverse-Turn Policy Optimization for Stabilizing Agentic RL Training
问答新增：2026-10-27 · Adelaide University
展开答案与例子
答案：一个早期动作的价值取决于后续continuation。RTPO把rollout组织成稀疏反向树，按turn逆序更新，让决策与用于评价它的下游策略尽量保持对应。
教学例子：先处理最后几次动作的后果，再回到更早决策，而非把整条轨迹当无结构文本。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
OGR 为什么先融合语义码与协同码，再对整张 slate 做保守策略优化？
Once Generated, Ranked: End-to-End Generative Slate Recommendation with Unified Semantic-Collaborative IDs
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：语义码帮助内容相近物品共享结构，协同码补充用户行为关系，联合编码先决定生成空间怎样组织物品。列表规划再把整张推荐列表作为行动，使训练能考虑项目之间的配合；保守优化利用列表反馈调整策略，同时约束偏离已有监督策略的幅度。编码、规划和反馈分别解决表示、联合决策与稳定更新。
教学例子：一屏四个商品若逐个选最高分，可能全是相似运动鞋。联合列表目标可以考虑鞋、袜、背包的互补性，策略约束则防止为追求一次反馈突然生成完全陌生组合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
OGR 的 R(Y) 与 KL 应比较什么完整对象，为什么不能只看单个 item？
Once Generated, Ranked: End-to-End Generative Slate Recommendation with Unified Semantic-Collaborative IDs
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：Y 是整张 slate，奖励、生成概率与参考分布需针对同一列表或定义的 token 分解，候选身份与去重规则一致。单品奖励平均不一定等于列表效用，固定分数混合也不等于策略更新。本地代理实现范围需以实际更新路径为准。
教学例子：五条各自相关却重复的列表，单品平均分仍高，列表奖励应看到组合冗余；否则并没有检验 GL2P 所要优化的整页决策。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
OGR 的保守 SPA 与无约束奖励最大化，为什么保留 SFT 锚点？
Once Generated, Ranked: End-to-End Generative Slate Recommendation with Unified Semantic-Collaborative IDs
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：奖励可能稀疏或偏离真实满意，KL 惩罚限制相对监督策略的偏移，减少为代理高分生成极端列表。它在改进自由与稳定间取舍，不能消除奖励错误。来源本地整体 NDCG 与 Hit 方向不同，也不支持宣称全部列表目标改善。
教学例子：新颖性奖励可能鼓励全冷门无关商品，SFT 参考保留已学兴趣；约束太强又可能难探索，系数需要合适验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
OGR 为什么用 TUSID 同时承载语义与协同，而不只做内容量化？
Once Generated, Ranked: End-to-End Generative Slate Recommendation with Unified Semantic-Collaborative IDs
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：内容码方便共享与新物品泛化，协同码保留行为关系，联合编码为整页规划提供两种线索。GL2P 再面向列表行动，SPA 用反馈调整，三个环节不同。联合空间可能有冲突，编码更丰富不自动代表页面质量更高。
教学例子：两件商品外观不同却常被一起消费，协同可连接；新品没有反馈时又可借内容，整页规划据此组织而非只按外观相似凑满。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Netflix MediaFM 为什么冻结多模态表示并让多个资产任务共享，而不是每个任务各训一个视觉模型？
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：冻结的共享表示把媒体理解成本集中到可复用特征层，下游双塔再学习用户、查询与资产之间的适配。查询相似度可补充个性化相似度，使搜索场景兼顾当前意图。共享减少重复编码与特征分裂，但冻结表示不能靠下游训练自动补回缺失的视觉细节，离线代理筛选也不能替代线上验证。
教学例子：同一张海报的多模态向量可供首页选图和搜索画布共同使用。搜索“海边喜剧”时增加查询匹配权重，首页则更多结合用户长期口味，无须重算媒体编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MediaFM 融合两类点积分时，为什么三侧向量尺度要一致？
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：用户、查询和资产需位于可比较空间或按定义校准，否则 α 表面平衡实际被一侧范数支配。checkpoint 筛选与融合权重不能用 test 反复挑选，冻结媒体特征也要绑定版本。本地电影内容代理不等于原多模态生产链路。
教学例子：查询向量范数十倍大，五五权重仍几乎只看查询；先明确归一与校准，才能解释融合比例而非仅看公式系数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
查询相似度增强与纯用户个性化匹配，相比当前搜索意图如何进入？
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：用户相似度表达长期口味，查询相似度补充当前明确需求，通过权重取舍。只个性化可能忽略搜索词，只查询又丢个人差异。机制对比不是普遍权重结论，离线 IPS 与 winner proxy 筛选也不能替代真实线上效果。
教学例子：爱动作片用户搜索温馨喜剧时，应让查询覆盖部分长期偏好；若仍全按动作兴趣排，搜索画布可能相关性不足。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MediaFM 为什么作为共享媒体特征，而不直接输出最终推荐概率？
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：多模态表示提供内容理解，用户、查询与任务目标再由下游双塔适配，不同资产任务可复用同一媒体编码。冻结接口降低重复计算，但缺失细节不会因下游训练自动出现。共享特征与最终业务价值需分别验证。
教学例子：同一海报向量可用于首页选图和搜索画布，任务头结合不同用户意图；向量相似高不等于该海报在每个场景都最好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么只在成功轨迹中比较回合数和响应长度，而不能直接奖励所有短轨迹？
PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：短可能来自高效规划，也可能只是提前放弃。先以结果区分成功，再在可比成功路径内看少回合和短响应，才更接近规划效率。粗到细优势补充 outcome，不能压倒正确性，也不能用少 token 掩盖必要工具取证被跳过。
教学例子：例如两条都修好同一 bug，一条少三次无效搜索可获效率优势；另一条直接说完成却没改文件，不能因更短而受奖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
统计 turn-count 与 response-length 时，为什么要区分 Agent 响应和环境 observation？
PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：两种效率轴分别描述交互轮次与单turn响应，若把工具返回的大段文本也当Agent写作长度，会改变信用口径。应记录成功筛选、计数边界和各优势系数，而非只报平均总token。
教学例子：一个工具返回长网页，不一定表示该轮Agent自己生成了同样多的响应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
PlanPO 的成功条件内效率比较，与直接奖励最短答案有什么差别？
PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：直接短奖励可能偏好失败或过早停止；成功轨迹内部比较先保证完成任务，再优化turn与长度。长度优势也不等于全局outcome优势，二者不能混成同一个奖励。
教学例子：一句“完成了”但没做任务，不应因最短而胜过真正成功的多轮过程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
PlanPO 为什么把规划效率分成回合数与单回合响应长度？
PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs
问答新增：2026-10-27 · Xiamen University
展开答案与例子
答案：少走环境turn与少写内部响应是两种成本。方法在成功轨迹内做coarse-to-fine比较，再与outcome优势结合，既保留任务完成目标，又鼓励更有效的过程。
教学例子：两条都成功的轨迹，一条工具调用少，另一条每次解释短，可分开评价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SA-MRPO为什么根据奖励饱和度调权，而不一直给所有目标相同权重？
Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：某些维度已被模型掌握后，继续分配同样更新预算可能挤占尚未掌握的目标。方法逐维标准化优势，再按饱和程度降低已学会目标的权重。饱和必须按明确统计口径估计，不等于高分维度从此永远无用，也不能混淆奖励量纲与真实掌握程度。
教学例子：格式目标几乎总通过，推理正确性仍不稳定；可减少格式维度的相对压力，但仍需监测它是否因训练其他目标而退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SA-MRPO实现可把所有reward合并后只算一个饱和度吗？
Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：那会丢掉逐维转移预算的定义。需分别维护每维均值、方差与饱和度，再汇总；本地候选策略只验证公式，未复刻论文检查点训练。
教学例子：例如正确性低而格式高，合成一个平均饱和度无法指出该加强哪一维。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
饱和度重权与固定多奖励权重有何不同？
Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：固定权重不随学习状态变化，饱和感知根据当前批目标掌握程度调整。它不改变各维度最终重要性定义，也不保证被降权维度永远不会遗忘。
教学例子：例如某维度暂时学会后少更新，仍需后续监控，不能永久宣布完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SA-MRPO为什么关注各奖励的饱和度？
Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization
问答新增：2026-10-27 · University of Florida
展开答案与例子
答案：已经掌握的目标继续占据梯度预算，可能妨碍尚未学会的维度。逐维标准化后按一减饱和度加权，把注意转向剩余学习空间，但依赖饱和指标合理。
教学例子：例如格式已几乎总满足，训练可多关注仍经常失败的事实检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
把 Evidence、Execution、Invalidity 分开评估，为什么比单一过程分数更可定位？
TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：转移可能增加证据却执行失败，或动作格式合法但没有任务价值，分项 rubric 能区分这些情况并限制无效行为。breakthrough 信号强调关键推进，不必等待成功锚轨迹；但 rubric 仍需基于真实状态转移，不能由固定模板分数代替环境过程。
教学例子：例如搜索返回新错误原因属于证据进展，随后命令语法错属于执行问题；合成一个总分会模糊究竟应该修检索还是修调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
TRCA 聚合 invalidity 时，为什么要核对符号与分项日志？
TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：公式减去r_invalid，其余基础与breakthrough按定义相加。漏负号会奖励无效行为；只记录总和又会掩盖错误，应保留逐分项及对应转移，不能以固定分数替代实际评估。
教学例子：保持其它分项不变、增加invalidity时，总奖励应下降。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
TRCA 无需成功 anchor，与依赖成功参照轨迹的反馈相比，前提有何不同？
TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：依赖成功参照的方案首先需要取得可比较的成功执行，TRCA则从实际状态转移的rubric构造基础和突破奖励，不要求先有成功anchor。这是反馈来源的前提差异，不能仅凭它宣称实际任务成功率更高。
教学例子：两条完整轨迹都失败时，其中一次转移仍可能收集有效证据，逐转移rubric仍可提供反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
TRCA 为什么为每次状态转移定义 rubric，而不只给最后一次总分？
TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：长程结果难定位关键动作，逐转移rubric可分开检查证据、执行和无效行为，并加入突破奖励。它不依赖先找一条成功anchor，提供更细的信用来源。
教学例子：某一步获取了关键证据但执行失败，可在两个维度上分别记录，而非全归零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
先写前后置条件再生成测试，为什么能暴露直接写单测时的覆盖盲点？
Grounding AI Agents in Contracts: An Empirical Evaluation of Spec-Driven Test Generation
问答新增：2026-10-27 · Google
展开答案与例子
答案：规范把每个代码单元的输入限制与应保证行为显式列出，再标记已测未测条件，测试生成才有可检查的覆盖目标。它仍来源于读取源码与解释，不能自动保证规范忠实；论文自动比较没有人工修订，也不应把可选开发者步骤算成已执行条件。
教学例子：例如函数要求空输入返回空列表，规范可把它列为未测后置条件；直接模仿现有正常样例写测试可能一直漏掉边界。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
编译失败或修改被测源码算成功检出bug吗？
Grounding AI Agents in Contracts: An Empirical Evaluation of Spec-Driven Test Generation
问答新增：2026-10-27 · Google
展开答案与例子
答案：都不算。相同测试先在fixed编译通过，在buggy编译成功后出现真实断言失败才检出；非法文件修改使运行作废，审计需外部可信diff，不能信模型自报。
教学例子：例如故意写不存在API导致旧版编译错，不是有效回归测试。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
fixed-source输入与向测试生成器暴露历史bug有什么区别？
Grounding AI Agents in Contracts: An Empirical Evaluation of Spec-Driven Test Generation
问答新增：2026-10-27 · Google
展开答案与例子
答案：原流程只读修复后源码和公开需求，buggy版本由私有评价器使用。给出旧补丁或bug位置会改变任务难度，不能当同协议测试发现能力。
教学例子：例如知道哪行曾经错过，可轻易定向写测试，却不是独立契约推导。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
规范驱动测试里的Pre、Post和Sug分别是什么，测试建议能代替行为契约吗？
Grounding AI Agents in Contracts: An Empirical Evaluation of Spec-Driven Test Generation
问答新增：2026-10-27 · Google
展开答案与例子
答案：Pre约束调用前应满足的条件，Post描述满足前提后应得到的行为，Sug提示怎样验证这些条件。建议不是函数契约本身；先把合法输入与预期结果写清，再标出已测和未测部分，才能判断生成测试遗漏了什么。
教学例子：排序函数的Pre可限制输入可比较，Post要求结果有序且元素不变，Sug再建议检查重复值和空列表。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
规划、执行和 isolated reasoning 分层，为什么能减少上下文污染？
HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：不同层需要的信息粒度不同：规划关注目标进度，执行关注当前操作，临时推理无需永久传播。刷新间由结构化摘要保留必要状态，可避免大量局部猜测挤占长期任务信息；隔离并不等于证据自动正确，摘要仍须保留关键约束与来源。
教学例子：例如一次调试尝试产生很多假设，只把验证后的接口变化和剩余问题传回规划层，不让所有临时猜想变成长期事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地确定性 PlanBench 结果能否表明已跑 GAIA 或 BrowseComp-plus？
HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：不能。本地只验证分层上下文、刷新摘要和机制计数，没有浏览器、外部工具服务或论文大模型。mini-suite 的成本单位和饱和正确率属于受控协议，不能移植为真实长程 token 费用，也不能与原文 Pass@1 横比。
教学例子：例如受控流程中一次摘要只记一个事件，不说明真实网页证据摘要也能用相同成本保留关键内容。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
结构化进展摘要与转发原始执行日志，作为层间交接时分别保留什么？
HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：原始日志保留细节但夹杂大量局部尝试，接收层还需自行判断哪些影响目标；结构化进展摘要提炼已完成事项、当前状态和待办，让全局规划获得较稳定入口。压缩也可能漏掉关键限制，因此应检查交接信息是否足以接续，而不能只按日志缩短比例判断质量。
教学例子：教学例：几十条安装日志可交接为“依赖已装，测试因缺凭据未跑”；若只写“安装成功”，规划层就可能误以为验证也完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
多阶段长任务为什么容易把无关局部细节带进全局决策？
HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
问答新增：2026-10-27 · Institute of Automation, Chinese Academy of Sciences
展开答案与例子
答案：搜索、执行和推理产生的材料很多，若所有内容不断进入同一上下文，规划可能被旧日志或临时假设干扰。HyMem 研究怎样让不同工作阶段保留适合自己的信息，并通过进展记录接续，目标是让必要证据流动而不是一律共享全部文本。
教学例子：例如一个编译错误的数百行日志对修复者有用，规划下一研究方向时可能只需失败原因和受影响模块。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DrEM为什么对偏好翻转风险修正损失，而不是只对多个预测分求平均？
DrEM: Dual-Side Robust Ensemble Ranking from Noisy User Preference Predictions in Video Recommendation
问答新增：2026-10-27 · Shenzhen University
展开答案与例子
答案：各路预测存在噪声时，组合得到的物品偏好可能被翻转，简单平均仍可能稳定地学到错误次序。DrEM先筛选扰动下保持偏好的样本，再根据翻转风险修正目标，并用一致性融合降低排序漂移。修正依赖对噪声机制的估计，翻转率接近不稳定边界时不能无条件套用公式。
教学例子：两件视频原本只差一点分，轻微CTR噪声就让正负对颠倒；与其把这种随机次序当可靠标签，更应识别其风险并约束融合结果对扰动的敏感度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
DrEM 实现为什么要分别检查概率转 logit 与 1−2ρ？
DrEM: Dual-Side Robust Ensemble Ranking from Noisy User Preference Predictions in Video Recommendation
问答新增：2026-10-27 · Shenzhen University
展开答案与例子
答案：零或一概率会产生无限 logit，ρ 接近二分之一又让反演分母趋零，二者是不同数值边界。处理方式需明确记录，不能静默输出巨大梯度。筛选、修正和一致性融合也需各自执行，只有一个噪声函数不构成完整方法。
教学例子：翻转像抛硬币一样随机时，除以极小分母不会创造偏好证据；应报告不适用边界，而不是把异常大 loss 当成强监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DrEM 的风险反演与普通扰动增强，额外依赖什么假设？
DrEM: Dual-Side Robust Ensemble Ranking from Noisy User Preference Predictions in Video Recommendation
问答新增：2026-10-27 · Shenzhen University
展开答案与例子
答案：增强只要求模型见过噪声输入，反演则按估计翻转概率组合正反标签损失，试图校正噪声前目标。因此依赖风险模型和非奇异分母，错误概率会残留偏差或放大方差。不能把任意加噪训练都称为完成反演，更不能预设其必胜普通增强。
教学例子：真实四成标签会翻转却按两成校正，训练目标仍有偏；若不知道风险，仅加随机扰动并不能合理生成那项反演系数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DrEM 为什么围绕 pair 偏好翻转研究噪声？
DrEM: Dual-Side Robust Ensemble Ranking from Noisy User Preference Predictions in Video Recommendation
问答新增：2026-10-27 · Shenzhen University
展开答案与例子
答案：排序依赖相对次序，分数误差不大也可能颠倒接近候选。logit 扰动、偏好保持筛选与风险修正关注这种顺序脆弱性，再以一致性融合降低漂移。单品预测准确不保证 pair 稳定，翻转风险估计本身也可能出错。
教学例子：甲乙分数只差零点零一，轻微噪声就交换首位；各自平均误差很小仍无法说明这个排序可靠，简单平均多路分数也不显式检查翻转。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
TCAB为什么要求完整上下文与动作都匹配，不能只因两策略选了同一动作就共享反馈？
Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing
问答新增：2026-10-27 · New York University
展开答案与例子
答案：同一动作在不同用户或候选集合下可能有不同结果，单看动作相同会改变反馈分布。树上最大耦合匹配完整上下文动作对，才可共享条件奖励并保持各策略单独运行的边际轨迹分布。策略间刻意相关而非独立，省查询也不等于任意联合设计的全局最优。
教学例子：例如两策略都点同一商品，但用户状态不同，不能复用一次点击；只有完整情境与动作匹配，才能在相应奖励模型假设下共享反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
TCAB 记录反馈节省时，为什么不能只统计“动作字符串相同”的次数？
Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing
问答新增：2026-10-27 · New York University
展开答案与例子
答案：反馈可共享还取决于完整上下文与策略状态条件；相同动作在不同环境下可能得到不同结果。应对照真实共享调用与树边差异计数，不能把任意同名动作当成一次可合并观测。
教学例子：不同用户都点击推荐动作A，反馈不因此是同一条可复用样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
耦合后的策略轨迹彼此相关，是否等于每个策略自己的分布被改变？
Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing
问答新增：2026-10-27 · New York University
展开答案与例子
答案：不一定。耦合可以改变联合相关性，同时保持各策略各自的边际分布；这正是共享反馈需保留的条件。只检查最终准确率相同，不能替代边际轨迹与自适应更新合同。
教学例子：两个随机选择可以更常同时相同，但每个单独看仍遵循原来的选择概率。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
TCAB 为什么希望多个自适应策略共享一次真实反馈？
Fast A/B/n Testing: Exact Multi-Policy Comparison via Tree-Coupled Feedback Sharing
问答新增：2026-10-27 · New York University
展开答案与例子
答案：分别运行A/B/n可能为相同上下文与决策重复付出反馈成本。方法用耦合组织策略选择，在保持各策略边际轨迹分布的条件下复用可共享反馈，减少重复查询。
教学例子：两策略在同一状态都选同一动作，可以考虑一次环境反馈供两者对应更新。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
Rubric Dropout为什么让同一个rollout组共享丢弃的rubric子集？
Rubric Dropout: A Simple Way to Mitigate Reward Hacking in Rubric-as-Reward RL
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：同组响应需要在可比标准下形成相对奖励，共享子集能避免每个回答因随机评价规则不同而被误排序。跨组变化的rubric又使策略难以持续利用固定评分捷径。随机丢弃只是缓和特定reward hacking机制，不能保证余下标准可靠或主任务不会受损。
教学例子：比较两份答案时都暂时去掉“简短”标准，比一份按简短评分、另一份不按它评分，更能保持相对奖励可比。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
Rubric Dropout的mask应该何时采样并怎样留存？
Rubric Dropout: A Simple Way to Mitigate Reward Hacking in Rubric-as-Reward RL
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：每个rollout group采一份条款mask并固定用于组内奖励，记录随机种子便于复核。不能按哪条回答得分更好再选mask；本地未运行真实rubric judge。
教学例子：例如先看结果再隐藏难达标条款，会把随机机制变成事后刷分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
组内共享dropout与每条回答独立丢条款有什么差别？
Rubric Dropout: A Simple Way to Mitigate Reward Hacking in Rubric-as-Reward RL
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：共享子集让同题组的回答在相同标准下比较，独立子集会把评分标准差异混进相对优势。随机化需在组级处理，而非每响应各自随机。
教学例子：例如A只评格式、B只评正确性，它们分数差就难解释为回答质量差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
Rubric Dropout为什么随机隐藏部分评价条款？
Rubric Dropout: A Simple Way to Mitigate Reward Hacking in Rubric-as-Reward RL
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：固定条款可能被策略持续利用形成奖励投机，随机子集让它难以只依赖某个固定代理。被隐藏并不表示条款不重要，而是在训练中改变可见奖励组合。
教学例子：例如某条容易靠套话拿分，不能保证每组都靠它获得总奖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
PTO给当前回答打偏好时，为什么还模拟后续对话？
Preference Tree Optimization: Enhancing Goal-Oriented Dialogue with Look-Ahead Simulations
问答新增：2026-10-27 · Reichman University
展开答案与例子
答案：当前说得讨喜不一定有利于长期目标。PTO扩展候选回答的后续用户交互，由评价器比较整条分支，再把长期差异转为当前回答的偏好对供DPO使用。模拟深度改变成本和估计范围，模拟器或oracle的偏差也会进入训练，不能当真人反馈。
教学例子：助手立即猜测需求与先问一个澄清问题，第一轮可能前者更顺畅；模拟下一轮后，才可能看出澄清能避免后续走错方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
PTO实现时为什么要保留当前历史与各未来分支的对应关系？
Preference Tree Optimization: Enhancing Goal-Oriented Dialogue with Look-Ahead Simulations
问答新增：2026-10-27 · Reichman University
展开答案与例子
答案：偏好对属于同一个当前状态，未来续写必须从各自候选动作展开，不能错接其他分支或把未来结果直接放进当前策略输入。本地确定性评价器替代昂贵oracle，仅验证树与信用路径。
教学例子：例如候选A引出澄清、候选B引出误解，若把A的成功结局接到B上，偏好就反了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
PTO增加候选分支数与增加前瞻深度，分别扩展了哪种搜索范围？
Preference Tree Optimization: Enhancing Goal-Oriented Dialogue with Look-Ahead Simulations
问答新增：2026-10-27 · Reichman University
展开答案与例子
答案：更多候选主要扩大同一状态可比较的动作范围，更深前瞻主要延长对动作后果的观察范围。两者都会增加模拟与评价成本，却不能互相替代：许多短分支可能漏掉迟发后果，一条深分支也可能错过更好的起始动作。这里是搜索结构对比，不是效果排名。
教学例子：五种开场各模拟一轮，是增加宽度；只试一种开场但续聊多轮，是增加深度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
PTO里的对话策略、虚拟用户和oracle分别负责什么，最终更新谁？
Preference Tree Optimization: Enhancing Goal-Oriented Dialogue with Look-Ahead Simulations
问答新增：2026-10-27 · Reichman University
展开答案与例子
答案：策略产生当前候选回复，虚拟用户负责续接可能的后续交互，oracle评价展开分支的结果。由这些比较构造当前状态的偏好对，再更新对话策略。模拟用户和评价器提供训练信号，并不因此等同真实用户，也不意味着三者都由同一损失更新。
教学例子：咨询策略提出两个问题，虚拟用户各自回答，评价器比较进展；被学习的是咨询策略的当前回复选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GCPO为什么把低秩更新投影到左右奇异空间的正交补，而不只惩罚投影大小？
GCPO: Diagnosing and Constraining Subspace Geometry in Rollout RL for LLMs
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：软惩罚允许优化用足够大收益换取主子空间漂移，双侧投影则把这类更新从可行域中直接排除。固定预训练主奇异空间后，输入和输出两侧都受约束，目标是减少覆盖已有主映射。向量级诊断并不等同真实逐层矩阵LoRA训练。
教学例子：若某个权重矩阵的主要输入输出方向需要保护，只在损失里罚它仍可被突破；双侧投影要求每次有效更新都避开这些方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GCPO本地向量策略验证了原文逐层双侧LoRA吗？
GCPO: Diagnosing and Constraining Subspace Geometry in Rollout RL for LLMs
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：没有。向量参数用经验更新协方差的主右空间做正交限制，是参考机制代理；原文矩阵还需输入与输出两侧固定投影。不能把单侧向量核的结果当逐层双侧模型证据。
教学例子：例如一维参数数组没有独立左右作用轴，无法直接测试完整矩阵两侧约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GCPO硬正交约束与加一个小投影惩罚有何区别？
GCPO: Diagnosing and Constraining Subspace Geometry in Rollout RL for LLMs
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：硬约束把不合条件的更新从可行域排除，软惩罚仍允许优化器用目标收益交换违规。二者约束强度与训练行为不同，不能只调惩罚系数就声称严格双侧正交。
教学例子：例如软目标允许暂时进入主方向，硬投影则每次都移除相应分量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GCPO为什么保护预训练权重的主奇异空间？
GCPO: Diagnosing and Constraining Subspace Geometry in Rollout RL for LLMs
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：论文观察到rollout更新进入这些主空间的尖峰可能先于验证退化，于是把更新限制在两侧正交补，避免覆盖已有主要映射。观察关联并不表示所有主方向都不能学习。
教学例子：例如保持已有重要输入输出映射，优先在剩余子空间添加任务变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
C²-DPO为什么比较完整与退化上下文中的偏好margin，而不只训练chosen更高？
Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：仅提高chosen概率时，模型可能依靠语言惯性忽略图像。上下文偏好增益比较同一回答对在完整和退化证据下的margin差，鼓励偏好真正随证据改变，同时保留原偏好顺序。增益依赖退化方式是否有效，不能直接解释为视觉理解已经正确。
教学例子：同一对图表答案在有图和遮图时都被同样偏爱，说明语言先验可能主导；希望有图后正确答案得到额外支持。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
C²-DPO里两个margin必须使用什么一致性协议？
Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：应对同一问题、同一chosen/rejected对比较两种上下文，避免把回答变化混入上下文效应。退化上下文也不能携带答案。本地尚未完成指定多模态模型和数据的完整微调。
教学例子：例如完整图评A/B、退化图却评C/D，两个间隔相减就不再只测图像贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
CPG为正与chosen在完整上下文中胜出，是同一条件吗？
Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：不是。CPG比较两个上下文中的margin差，而chosen胜出要求完整上下文的margin本身为正。差值变好时，完整条件仍可能偏好错误回答。因此增加上下文增益与保持原偏好顺序是不同约束，不能只凭正CPG就宣布回答已正确。
教学例子：教学用margin从−3变成−1，增益为正但chosen仍未胜出；这些数字只说明两个判断条件不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
C²-DPO的一条训练样本为何同时需要回答对和两种上下文？
Context Blindness in DPO: Mitigating Object Hallucination in MLLMs via Context-Calibrated Preference Optimization
问答新增：2026-10-27 · Korea University
展开答案与例子
答案：回答对给出同一问题下chosen与rejected的相对偏好；完整与退化上下文则提供两种证据条件。这是两个不同维度，不能把退化上下文误当另一条被拒回答。先固定回答内容、只改变证据，后续比较才是在观察上下文带来的偏好变化。
教学例子：仍比较“红车”和“蓝车”两条回答，分别让模型看原图与退化图，而不是换成另一道问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
GAS 的生成辅助监督为什么可以在部署时整条删除？
Generation as Auxiliary Supervision: Enhancing Visual Understanding at Zero Inference Overhead via Decoupled Embedding Prediction
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：辅助生成分支只在训练期预测连续视觉 embedding，与理解分支共享较低层视觉路径，因此它的梯度能改善共享表示。上层生成参数与理解上层解耦，推理输出不依赖该辅助分支；删除的是额外路径，而训练得到的共享参数仍被保留。
教学例子：例如训练时同时要求理解图片并预测目标图像特征；上线只回答图像问题，保留被训练过的共享视觉部分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
为什么检查“部署参数为零增量”还要确认分支依赖？
Generation as Auxiliary Supervision: Enhancing Visual Understanding at Zero Inference Overhead via Decoupled Embedding Prediction
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：只有理解前向不再读取生成上层、vision head 或 EMA projector，删除它们才不会改变部署图。训练期 NEP 要保留移位的自回归预测、EMA 目标与分支隔离；本地镜像目标的小规模诊断不能验证原文大规模生成数据的能力收益。
教学例子：例如误把生成分支的中间输出接回理解输出，即使声称删掉参数，实际推理仍依赖它，便不满足可删除辅助分支的设定。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
GAS的next-embedding prediction与把当前patch直接重建回自身，有何条件信息差别？
Generation as Auxiliary Supervision: Enhancing Visual Understanding at Zero Inference Overhead via Decoupled Embedding Prediction
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：NEP按自回归次序用上下文和此前视觉embedding预测下一位置，目标来自EMA投影的视觉表示。若把同位置目标直接作为当前输入再重建，就改变了可见信息和预测任务，可能退化成复制。训练辅助分支是否能删除是另一问题，不能替代移位预测的合同。
教学例子：预测第i个视觉embedding时只给此前序列与允许的上下文；不能先输入第i个目标向量，再把复制正确当预测成功。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
GAS 预测的 next embedding 是离散图像 token 吗？
Generation as Auxiliary Supervision: Enhancing Visual Understanding at Zero Inference Overhead via Decoupled Embedding Prediction
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：它预测与语言模型视觉输入相同空间中的连续视觉 embedding，以余弦目标对齐 EMA 投影得到的目标表示，而不是训练离散图像码本分类器。生成任务服务于共享视觉表征的训练，主要目标仍是增强理解，部署并不要求真的生成图像。
教学例子：例如目标 patch 用一个连续向量表示，生成头预测其方向；损失比较两个向量，而不是在上万个图像词表项中选编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么 reflect/backtrack 要建模为可逆的 memory-control actions？
LoongReflect: Boosting Long-Horizon Reflection in Search Agents via Global Perspective Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：长搜索不仅选择外部动作，也要控制保留哪些轨迹、回到哪个分叉点。把反思和回退显式纳入策略，才能学习何时改变记忆状态；特权教师提供训练信号，结果奖励补充长期成败，但评测时不能把教师的全局视角或未来答案直接交给学生。
教学例子：例如搜索走入死胡同后应回到前一个分支并保留失败原因；仅追加一段反思文字却不改变轨迹状态，不能实现真正回退。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
本地 mini-suite 的低 average cost 能代表真实长上下文模型节省吗？
LoongReflect: Boosting Long-Horizon Reflection in Search Agents via Global Perspective Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：不能。当前确定性 suite 验证反思、回溯与过程状态，不调用真实浏览器、外部工具或论文大模型。成本字段属于该诊断定义，正确率饱和时更应检查实际分支与记录，不将代理调用数直接换算真实 token 或 API 费用。
教学例子：例如一个规则分支只记零点几单位成本，并不表示真实模型反思这一步只耗同样比例的 token 或时间。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
privileged teacher 快通道与 outcome GRPO 慢通道监督什么不同信号？
LoongReflect: Boosting Long-Horizon Reflection in Search Agents via Global Perspective Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：快通道通过教师视角为反思相关决策提供细粒度蒸馏，慢通道用轨迹最终结果优化长程策略。前者提供局部引导，后者检验整体有效性；特权信息只能留在训练教师或评分侧，部署学生不能读取 gold 结果来选择回溯。
教学例子：例如教师可指出某次搜索缺少关键证据，最终奖励再检验完整回答是否成功；学生在线仍只能根据已有观察行动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
长程搜索 Agent 为什么需要能恢复路线的反思，而不只在结尾解释失败？
LoongReflect: Boosting Long-Horizon Reflection in Search Agents via Global Perspective Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：搜索常包含多跳取证与尝试，早期选错方向可能让后续步骤都围绕错误证据展开。LoongReflect 希望反思能改变当前信息状态和继续路径，让 Agent 在任务结束前恢复；结尾总结即使写得合理，也已经无法改善这次执行的后续取证。
教学例子：例如一路搜索只找到同一报道的转载，Agent 应及时回到先前分叉换来源，而不是最终答案写完后才承认证据单一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
Sona 为什么让 SID 生成与排序模块共享用户状态，并只在训练期使用高容量 teacher？
Sona Technical Report
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：独立候选生成器与排序器会重复理解历史，也容易优化不同表示。Sona 用按时间编码并压缩的同一状态支持生成与物品排序，联合目标连接两条路径；教师只在训练期提供额外监督，服务保持较轻结构。共享状态不消除生成漏召问题，历史压缩也有损失，本地负结果不能用生产统一架构的描述覆盖。
教学例子：用户最近转听古典乐，生成器和排序头都读取同一更新后的状态，避免一边还按旧摇滚偏好召回。大教师训练时指导表示，上线无需为每次请求调用它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
Sona教师在在线推荐时还需要被调用吗？
Sona Technical Report
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：原设定教师训练期使用，线上不依赖它；本地未复刻完整教师、音乐tokenizer和十五余源生产链。生成与排序loss需共享状态且各目标mask清楚。
教学例子：例如在线仍同时调用大teacher，就改变了单模型服务成本条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
单模型替换级联与简单删除中间排序器有何不同？
Sona Technical Report
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：需联合学习生成、排序及蒸馏目标，并控制长历史，不是把原模型少跑几层。多源级联带来的覆盖和鲁棒性也需替代评估，不能只按模型数少就判更好。
教学例子：例如删掉预排但未训练联合模型，可能只是丢掉功能而非统一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
Sona为什么同时有SID生成器与Ranking Module？
Sona Technical Report
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：同一用户状态支持候选生成和精细排序，希望减少多级独立模型的重复表征；高容量教师仅训练期指导，线上以单一服务模型完成链路。
教学例子：例如先由状态生成一批音乐，再用同状态评具体歌曲。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
滑窗或 causal mask 为什么仍要保留模型特有的 sink scaling？
Efficient Reinforcement Learning for Long-Horizon Tool-Use Agentic Tasks
问答新增：2026-10-27 · Capital One AI Foundations
展开答案与例子
答案：稀疏可见性与 sink 数值机制影响注意力的不同部分，改 mask 并不授权删除模型原有缩放。训练系统还需连接真实环境状态、长上下文与 GRPO 数据流；公式 kernel 通过只能说明局部算子，不能替代完整 on-policy rollout 和工具任务验证。
教学例子：例如窗口只保留最近文本和 sink，若同时把 sink 的特殊缩放去掉，输出变化就混入两项改动，无法归因于滑窗本身。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
SinkFlex-RL 公式里的 token 平均，为什么不能擅自改成每轨迹先平均再等权？
Efficient Reinforcement Learning for Long-Horizon Tool-Use Agentic Tasks
问答新增：2026-10-27 · Capital One AI Foundations
展开答案与例子
答案：文档分母为总有效长度ΣT_i，长短轨迹的计数口径与先各自平均不同。还需保留模型sink scaling并核对实际mask；本地mini-suite未复刻FlexAttention GPU显存曲线。
教学例子：长度10与100的两条轨迹，逐token均值与各占一半权重不是同一loss。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
GRPO 的组相对优势与 PPO 的独立 value model 路径，训练依赖有什么不同？
Efficient Reinforcement Learning for Long-Horizon Tool-Use Agentic Tasks
问答新增：2026-10-27 · Capital One AI Foundations
展开答案与例子
答案：文档方案不使用独立value model，而从轨迹组构造相对优势，再做裁剪策略目标及KL正则。替换估计路径影响rollout需求和显存，不能只把优化器名字换成GRPO。
教学例子：一组轨迹回报提供相对基线，不代表已训练了一个逐状态critic。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
SinkFlex-RL 为什么同时关注 rollout 环境与 attention 显存？
Efficient Reinforcement Learning for Long-Horizon Tool-Use Agentic Tasks
问答新增：2026-10-27 · Capital One AI Foundations
展开答案与例子
答案：长工具轨迹既有多轮状态管理，也有上下文与训练显存瓶颈。方法把环境、fresh轨迹组、无value-model GRPO与sink-aware FlexAttention结合，不能只把它理解成一个压缩mask。
教学例子：省下attention显存仍需正确保留环境状态，才能进行真正多轮策略更新。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
MetaStrategy为什么让LLM生成typed策略而不是直接生成最终物品次序？
MetaStrategy: Generative Ranking with Executable LLM Strategies
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：结构化策略把目标权重、类目偏好和位置约束显式化，确定性compiler再对真实候选执行，便于限制范围与审计失败原因。LLM负责理解意图，排序逻辑负责保证可执行，二者可分别更新与评价。JSON格式正确只证明接口合法，不证明策略有用，更不能用模型自评分替代真实回放反馈。
教学例子：用户想少看重复内容，模型输出限定的类目打散与权重参数，compiler据现有候选排表；若没有相关候选，应暴露限制，而不是凭空生成不存在的商品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
MetaStrategy 的 compiler 为什么必须对未知字段和越界值显式拒绝？
MetaStrategy: Generative Ranking with Executable LLM Strategies
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：否则语言模型可绕过允许空间，让策略评估与服务行为不一致。应绑定 schema、默认值与执行后的实际列表，记录失败而不是猜测修复含义。线上奖励路由与 teacher-student OPD 也不是只写一个 JSON 文件便已实现。
教学例子：模型给“无限提高购买权重”或不存在的字段，compiler 不应静默执行任意表达式；必须在受控参数范围内才能审计结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
MetaStrategy 与直接生成物品清单，相比审计和复用单位有什么不同？
MetaStrategy: Generative Ranking with Executable LLM Strategies
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：清单绑定当次候选，策略可在更新候选上重复执行并检查规则，使控制意图更透明；但 compiler 能表达的空间有限，复杂偏好未必能写成参数。来源完整生产蒸馏与本地 typed bundle 代理范围不同，不能把控制可执行当作同等智能。
教学例子：一条“同作者最多一项”可用于多份候选表，具体十本书清单则过期就失效；但规则无法独自判断所有内容语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
MetaStrategy 为什么将目标权重、偏好、约束和位置规则放在 typed JSON 中？
MetaStrategy: Generative Ranking with Executable LLM Strategies
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：固定打分网络难快速表达当下意图，自由文本又难直接可靠执行。typed 策略给 compiler 明确可检查参数，让语义规划与确定排序分离。输出合法 JSON 只是格式门槛，规则可能不合理，仍需 replay、反馈和范围校验。
教学例子：用户要新鲜内容，策略明确增加新内容权重并设位置限制，比生成一句“多推荐新品”更可执行；合法字段也不保证这个权重对用户好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
IntHQ让when、where、how、via查询进入多层编码，而不只加四个输出头，有何作用？
IntHQ: Task-Interactive Hierarchical Query on Dual-Stream Representations for Generative Recommendation
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：仅在末端分头预测，早期编码仍可能按同一种方式压缩所有信息。任务查询在不同层级读取行为与上下文双流，让任务需求参与选择证据，例如时间问题关注周期、渠道问题关注入口。共享底层仍可保留共性，但这种互动不意味着任务冲突自动消失，需要检查各查询是否产生真实分工。
教学例子：同一条午间搜索记录，时间查询关心午休周期，渠道查询关心搜索入口；让两种问题在编码中取证，比最后对同一摘要各接一层分类头更灵活。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
IntHQ 多层查询聚合时，为什么任务轴与历史轴不能混用？
IntHQ: Task-Interactive Hierarchical Query on Dual-Stream Representations for Generative Recommendation
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：每个任务 query 应对相应流或层级的 K/V 读取，再形成该任务状态，softmax 轴需按实际候选证据定义。将四个任务一起当历史归一，会变成任务彼此竞争。输入输出角色一致比末维相同更重要，公开代理也不覆盖全部真实时空任务。
教学例子：when query 的权重应在历史时点间分配，不能与 where query 的权重一起总和为一，否则位置任务出现会改变时间任务的证据预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
IntHQ 的双流交互与把行为上下文一次拼接，相比保留什么结构？
IntHQ: Task-Interactive Hierarchical Query on Dual-Stream Representations for Generative Recommendation
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：双流先区分事件与上下文，再由任务查询跨层读取，避免所有字段从一开始无差别混合。一次拼接更简单却较难显式追踪来源和任务条件。结构更强不保证效果，来源本地公开代理退化，不能用查询名字代替任务评估。
教学例子：工作日午间是上下文，最近餐饮点击是行为；双流可分别编码后回答“何时、何处”，而不必让二者同等作用于所有目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
IntHQ 的 when、where、how、via 为什么是查询角色，而不只是四个标签？
IntHQ: Task-Interactive Hierarchical Query on Dual-Stream Representations for Generative Recommendation
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：查询引导模型从行为和上下文流中抽取不同证据，使任务需求影响中间表示，不只在末端各预测一个结果。双流保留来源差异，多层交互再联系时间、地点、方式和渠道。名称提供语义假设，是否真正分工仍需检查。
教学例子：何时回访更关注间隔，去哪里更关注地点历史；若两者只接同一固定向量，早期编码无法按这两种问题分别取证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
为什么高购买概率用户未必是有限触达预算下的最佳对象？
From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：触达策略关心动作改变了多少结果，而高购买概率可能表示用户不干预也会购买。方法分别估计处理和不处理结局，以uplift扣除不确定度后分配预算，避免把资源都花在本来就会发生的结果上。差值是否可信取决于实验支持与识别条件，不能由两个预测头存在就保证因果正确。
教学例子：甲无论是否触达都常买，乙只有看到合适推荐才可能买；同样一个触达名额，乙的原始购买率虽低，增量收益却可能更高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
固定预算分配为什么既要检查 B，也要允许不花满？
From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：约束是总动作数不超过 B，风险调整价值可能全负，不应为填满预算而触达无益对象。排序与求解需使用同一对象身份及截止特征，不能看测试后结果挑用户。来源固定百分比代理不等于真实长期在线增量。
教学例子：预算可发十条但只三位用户风险调整后为正，硬发十条可能降低价值；除非业务明确要求花满，数学约束并没规定必须全部使用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
用 τ−λσ 分配与单纯按 uplift 均值，风险偏好如何不同？
From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：不确定度惩罚降低高估且证据不足对象的优先级，适合强调稳健预算价值；仅按均值可能追逐高方差极端值。惩罚也可能错过真正有潜力的新群体，不同于专门探索策略。机制取舍不能用一次代理 policy value 判定普遍最优。
教学例子：两个用户估计增量相同，一人数据丰富、一人只有一次反馈；保守分配偏向前者，但若要主动探索，可能需要另一套预算安排。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Incrementality 为什么把触达动作的价值定义成 μ1−μ0？
From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：μ1 估计处理后的结果，μ0 估计不处理的结果，两者差区分动作创造的增量和用户本来就会发生的行为。预算应优先分给可改变的人群，而非天然高响应者。潜在结果无法同时观测，估计需要支持与识别假设。
教学例子：甲不触达也会买，乙触达后才改变选择；甲购买率高不代表给甲发消息更有增量，不能只按处理组结果排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Netflix GenRec使用decoder-only LLM，为什么线上却不逐token生成推荐清单？
GenRec: An LLM-Backed Recommendation Ranker at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：文本上下文经LLM前向得到用户表示后，catalog-aware head直接对目录物品评分，服务可以只做prefill，不必自回归写出商品名。这样既利用语义与高阶交互，又避免目录外生成和多步解码成本。联合语言目标服务表示学习，并不改变最终是目录排序；本地单种子路径不证明Netflix规模收益。
教学例子：模型读完用户历史和场景后，一次输出目录里每部电影的分数；它无需先写第一部片名，再把片名回填生成第二部，因此不会凭空推荐目录外作品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Netflix GenRec 本地对 GRU 的比较为什么不能解释为同参数量架构消融？
GenRec: An LLM-Backed Recommendation Ranker at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：实验组真实加载更大的公开 causal LLM 并训练 LoRA，基线是 ID-only GRU，参数与语义输入都不同；它比较两条机制路径，而非只换一个算子。单 seed、缩小目录与公开奖励代理限制稳定性，不能直接与原文线上百分比横比。
教学例子：LLM 多了标题语义和大量预训参数，优于小 GRU 时不能把全部差值归给 catalog head；需另做匹配对照才可隔离该组件贡献。
依据：本地复现、对照口径；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
Netflix GenRec 的 reward-weighted ranking 与对生成列表做在线 RL，训练对象有何不同？
GenRec: An LLM-Backed Recommendation Ranker at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：此处多 reward 汇总为样本权重，调整目录排名损失的贡献，同时联合语言目标；不是逐 token rollout 后给整张列表策略梯度。服务也只 prefill 评分。两种方法可以都用奖励一词，却有不同概率空间与计算路径，不能混称。
教学例子：满意度高样本在分类损失里权重大，不表示模型在线生成十条清单再做 PPO；一边是加权监督，一边是另一类策略更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Netflix GenRec 的 catalog-aware head 为什么能避免目录外物品幻觉？
GenRec: An LLM-Backed Recommendation Ranker at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：模型不是自由生成名字，而是从一次 prefill 的 pooled 状态对固定目录 item 评分，输出身份受目录头限制。文本化上下文提供丰富特征，语言目标维持理解能力。目录内合法仍不保证相关或可服务，库存等约束与模型外映射也需一致。
教学例子：即使语言模型知道未上架电影，目录头没有对应输出列就不会直接推荐它；相反，目录中的无关影片仍可能被误排高，需要相关性学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DREAM为什么让LLM输出有界语义级别，再由确定性模块翻译为参数？
DREAM: A Dual-Loop Recommendation Evolution Framework Powered by Large Language Models
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：自由文本难以直接满足线上接口与取值约束，DREAM把意图理解、策略规划和参数编译分开。LLM只表达允许的调整方向与强度，统一出口再执行白名单与范围检查；离线和线上反馈验证后才写回策略记忆。这样语义推理可影响现有链路，却不能任意改写生产模型或无限放大权重。
教学例子：模型判断用户想多看新类目，只能提出规定级别的增加多样性；编译器把它转成有限的打散数量，而不会执行一句没有边界的“尽量推新内容”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
DREAM 的语义级别怎样编译成可执行且有界的参数？
DREAM: A Dual-Loop Recommendation Evolution Framework Powered by Large Language Models
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：离散级别只能通过白名单与确定翻译进入服务：排序覆盖由原权重和级别得到，类目打散数使用 max(1,默认数+bc) 保留下界。LLM 不能绕过接口输出任意值；记录需绑定编译后的实际配置，否则反馈会对应从未执行的提案。
教学例子：默认打散数一、级别负二，编译后仍至少一；若直接传负数，即使策略文字合理，也不满足实际服务契约。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DREAM 的影子线上门控为什么不能等同于真实生产 A/B？
DREAM: A Dual-Loop Recommendation Evolution Framework Powered by Large Language Models
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：独立影子数据能减少离线选择过拟合，却仍处于公开数据代理和固定反应环境，没有完整真实用户反馈。生产双环需要实际实验支持。本地相关性改善同时头部集中、新内容下降，应分别报告，而不是把独立验证通过当成真实生态收益。
教学例子：两组验证用户分开能防止同组反复挑策略，但没有真正展示后用户的适应和流失，仍无法测得上线一周的长期活跃。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DREAM 为什么被称作现有链路上的控制平面？
DREAM: A Dual-Loop Recommendation Evolution Framework Powered by Large Language Models
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：Intent 和 Meta Engine 提炼状态并规划策略，Unified Outlet 把有界 typed 参数施加到已有召回、精排与重排，原模型继续负责候选评分。它协调配置而不是逐物品自由生成分数。控制层能够执行仍不说明策略有效，必须由观测反馈约束。
教学例子：用户转向露营时控制层调节品类权重与打散数量，底层网络继续打分；这与重训一套从历史直接输出全部候选的新模型不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
ConnectionMind为什么输出证据路径，还把路径教师蒸馏给GNN？
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：路径明确了推荐经由哪些关系逐步得到，能对中间扩展施加监督与奖励，而非只训练最终物品分数。复杂用户可用LLM在异构子图中搜索，较多普通流量交给蒸馏学生以控制成本。路径必须来自当前可见图；训练的最短正路径不能作为评估时已知答案直接提供给策略。
教学例子：从用户关注的作者走到摄影话题，再到教程，是一条可检查的证据链；简单场景可让学生复用这种关系模式，不必每次重新运行长程LLM搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
ConnectionMind 的最短路径示范在训练与评估中分别能否使用目标答案？
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：训练可以从正反馈目标构造逐步监督，教策略合法动作；评估搜索状态不能读取 held-out 目标或 gold 路径，只能按当前图和上下文扩展。格式、推荐与路径 shaping 奖励也要区分。若评估直接给最短答案路径，只能算诊断，不能当作搜索能力。
教学例子：训练演示如何到达已知目标是合理监督；测试时若先告诉 agent 正确电影节点再导航，它只是跟答案走，无法证明能推荐该电影。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
ConnectionMind 的逐步 policy 与固定 GNN 聚合，相比推理范围和服务成本有何差别？
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：policy 可按当前任务逐步扩展 frontier，选择特定关系路径，GNN 则以固定传播结构汇聚邻域。前者更灵活也更昂贵，因此论文只让复杂少数流量走完整模型，其余蒸馏到 student。灵活搜索不保证精度更好，本地路径合法率满分仍伴随推荐负结果。
教学例子：复杂需求可先查好友再查共同标签，普通请求用蒸馏图模型快速返回；动作序列每步都合法，也可能一直走向过热门物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
ConnectionMind 为什么输出图证据路径，而不只给一个社交推荐分数？
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
问答新增：2026-10-27 · Michigan State University
展开答案与例子
答案：路径明确推荐经由哪些用户、物品与语义关系产生，使结果能接受关系、时间和权重的检查，也给分步训练提供监督。它是显式图搜索轨迹，不是事后自由编写理由；存在一条合法路径也不保证最终推荐有用，需独立评价结果。
教学例子：用户经好友的摄影收藏连到某教程，可以展示具体边；若只说“朋友可能喜欢”而没有图中对应节点与关系，就不是可核验的搜索证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
SR-OPSD为什么对自教师和reference做几何插值，而不是把两份概率直接平均？
SR-OPSD: Self-Referenced On-Policy Self-Distillation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：几何插值在log空间组合支持，归一化后形成有效目标，与线性概率混合对尾部和相互冲突模式的处理不同。reference提供锚点，自教师提供额外指导，再由散度控制投影敏感度。更换混合方式会改变目标，不能只因端点相同就视为同一个算法。
教学例子：两个分布各自强烈支持不同词，几何组合与各取一半的概率平均可能给出很不一样的中间目标，需明确所用形式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
SR-OPSD构造目标为什么要在log空间并显式归一？
SR-OPSD: Self-Referenced On-Policy Self-Distillation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：概率幂乘易下溢，log空间加权后softmax可稳定形成目标；reference与教师分布需同词表对齐。当前候选核不含论文规模语言模型训练或完整Rényi实验。
教学例子：例如只逐项相乘而不归一，得到的是未归一测度，不能直接当目标概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
几何插值与概率算术平均有什么不同？
SR-OPSD: Self-Referenced On-Policy Self-Distillation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：几何组合在log空间相加后归一，对双方低支持项的处理不同；算术混合直接分配质量。二者一般不相等，也不应把一个参数权重套进另一个公式。
教学例子：例如某项一方几乎不给概率时，几何目标可能比算术平均更受影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
SR-OPSD为什么在自教师之外保留reference？
SR-OPSD: Self-Referenced On-Policy Self-Distillation
问答新增：2026-10-27 · Independent Researcher
展开答案与例子
答案：自教师可能随反馈变得过强或偏移，reference为有效目标提供锚点。几何插值与Rényi控制描述目标和敏感度，而非完全信任一份自教师分布。
教学例子：例如教师强烈偏好新模式时，参考约束可保留原策略的一些支持。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
比较两种长上下文扩展方法时，为什么只对齐模型参数量仍然不够？
Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension
问答新增：2026-10-27 · Ai2
展开答案与例子
答案：相同参数规模的模型也可能采用不同归一化、GQA、预训练窗口和滑窗结构；这些选择会共同改变长上下文行为。受控模型池把这些因素分开比较，防止把底座差异误归因于扩展方法。一个模型在某个长度上成功，不等于某种位置或注意力改动在所有底座上都有效。
教学例子：A模型训练时已见更长窗口，B模型只见短窗口；扩展后A更强，不能直接归功于其扩展算法。应先固定底座条件，再改变待研究的因素。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
本地 mini-suite 通过，是否已经验证 7B 模型池的长上下文结论？
Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension
问答新增：2026-10-27 · Ai2
展开答案与例子
答案：没有。当前记录只确认相应核心数据流与计算路径可执行，未训练论文规模checkpoint或复跑完整benchmark。真正复核因果影响还需受控训练配置、相同扩展协议及任务评测。
教学例子：64条诊断样本上的准确率不能替代一组7B模型在长文本任务上的受控实验。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
对比两个现成模型，与在受控池里改变 normalization，有什么证据差别？
Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension
问答新增：2026-10-27 · Ai2
展开答案与例子
答案：现成模型可能还在数据、规模和训练日程上不同；受控变更才能更清楚分析某项结构因素。文档中的复合函数也提醒多因素可能交互，单因素趋势不能自动相加。
教学例子：先固定其它设置只换归一化，再检查它与GQA组合时是否保持同样方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
OLMpool 长上下文研究为什么使用受控模型池？
Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension
问答新增：2026-10-27 · Ai2
展开答案与例子
答案：不同模型的归一化、GQA、预训练长度和滑窗设置常同时变化，容易混淆原因。受控模型池用于隔离这些较小架构选择及其组合对长上下文扩展的影响。
教学例子：两个模型长文本能力不同，不能在训练长度和结构都变了时只归因于其中一个开关。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
Champion–Challenger 之外，为什么还需要发布监控与回滚？
OpenLoopEvolve: A Verifiable Self-Evolution Framework for Loop Policies in Long-Horizon Complex Tasks
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：离线候选优于冠军不保证上线分布和长期交互同样稳定，监控发现新退化后需要可追溯地恢复旧版本。版本化涵盖观察、规划、记忆、验证和恢复等资产，避免只记录模型名；发布治理是进化闭环的一部分，不能以候选评测一次通过替代。
教学例子：例如挑战者在开发任务更省调用，上线却在权限错误时循环，监控应定位版本并回滚到旧策略，而不是继续无界试错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地版本和回滚状态是否已证明真实长期在线自演化？
OpenLoopEvolve: A Verifiable Self-Evolution Framework for Loop Policies in Long-Horizon Complex Tasks
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：没有。本地确定性 PlanBench 只验证机制分支、版本状态与报告，没有真实浏览器、服务或 YC-Bench。代理成本、发布标志和回滚次数是控制证据，不是线上风险或成功率，原文 online/offline 结果不能直接搬成当前实测。
教学例子：例如状态从 challenger 变 champion 可由规则触发，若未实际跑模型和工具，不能宣称已发布更强 Agent。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
Champion–Challenger 与每轮直接覆盖当前策略有什么区别？
OpenLoopEvolve: A Verifiable Self-Evolution Framework for Loop Policies in Long-Horizon Complex Tasks
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：保留 champion 作为已验基线，challenger 经过比较再发布，并在运行监控中必要时回滚，减少未经验证改动长期污染。发布门需要实际评价与版本证据，不能把候选自评更好当接纳，线上监控也不等于自动允许任何外部部署。
教学例子：例如新恢复策略在验证好但上线后出现新退化，应能恢复具体旧版本，而不是只剩一份被覆盖的配置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Loop Policy 为什么不仅是一段 system prompt？
OpenLoopEvolve: A Verifiable Self-Evolution Framework for Loop Policies in Long-Horizon Complex Tasks
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：观察、规划、记忆、行动、验证与恢复等资产共同决定长程行为，版本化需覆盖这些组件及其组合。只改提示可能漏掉真正瓶颈，只有保存可执行版本、比较并监控，才可追踪进化；资产文件齐全也不等于其行为有效。
教学例子：例如提示要求“失败后重试”，若工具恢复中间件仍不能辨认超时，实际循环未必具备有效恢复能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
DistillCache为什么用完整缓存与淘汰缓存的预测KL作奖励，而不直接奖励多删token？
DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference
问答新增：2026-10-27 · Oklahoma State University
展开答案与例子
答案：缓存目标是保留后续预测所需信息，多删token只是资源动作。逐步比较完整缓存与淘汰后的分布，让策略看到某次淘汰损伤了多少行为，并在预算下学习取舍。训练用完整路径作参照，不代表部署每步都能免费运行它；低KL也不自动等于所有下游任务都无损。
教学例子：删去格式填充和删去关键编号都省一个KV，但后者可能显著改变下一步分布；分布奖励能区分这两种动作，而简单计数奖励会同样鼓励它们。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
DistillCache 的负 KL 奖励方向怎样用一个简单边界检查？
DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference
问答新增：2026-10-27 · Oklahoma State University
展开答案与例子
答案：当两分布相同时KL为0、奖励为0；偏离越大，负KL越低。文档方向为KL(p_full||p_evict)，写反或漏负号会改变训练信号。当前mini-suite不证明完整策略训练与部署收益。
教学例子：把evict分布逐渐改得远离full，奖励不应反而升高。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
KL-guided 淘汰与单纯奖励更低缓存占用，会偏好同样的策略吗？
DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference
问答新增：2026-10-27 · Oklahoma State University
展开答案与例子
答案：缓存奖励主要鼓励多删，KL反馈关注删除后预测分布相对full的偏离。二者目标不同，需要在固定预算或明确质量约束下比较，不能把最小缓存自动等同于最佳策略。
教学例子：删除全部KV很省空间，却可能令后续预测与full模型差别很大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
DistillCache 为什么把 KV 淘汰看成连续多步决策？
DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference
问答新增：2026-10-27 · Oklahoma State University
展开答案与例子
答案：当前删除会影响后续能访问的历史，单步局部重要性未必反映长期预测损失。方法以full与evict预测分布的逐步KL作为反馈，学习更适应未来预测的轻量策略。
教学例子：这一刻无用的KV可能在几步后成为答案证据，淘汰后未必还能恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
PushDualGen 为什么先生成可服务 SID，再按门控决定是否继续生成解释文案？
PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：SID 是实际推荐对象的稳定接口，先生成它可让候选即刻进入服务链路；解释以 SID 和历史为条件，只在需要时额外生成，避免所有请求都承担长文本成本。融合两侧表示并约束一致性，意在让文案围绕已选对象，而不是文案和商品各说各话；跳过文案时推荐路径仍需独立可用。
教学例子：用户只需要普通推荐时，生成商品码便返回；推送通知需要一句理由时，再围绕同一码生成文案。这样不能把“推荐跑鞋”配上“这本小说适合你”的解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
PushDualGen 在 g=0 时，为什么 copy 相关张量与损失也要有清楚处理？
PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：跳过分支不应再要求未生成 copy 作为必需特征，训练需定义有效 mask 与回退表示；g=1 时 copy 以同一 SID 和历史条件生成。固定 placeholder 不能被当真实解释评价。来源本地核心 scorer 并不证明完整在线文案生成链路。
教学例子：未生成理由时用零向量可以是定义的缺失路径，但不能将零向量解码成一句默认赞美再称个性化 copy 已通过一致性检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
按需生成 copy 与所有请求都生成完整解释，相比预算和覆盖怎样取舍？
PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：门控把额外解码留给需要理由的场景，普通排序可只走 SID，降低平均成本；某些用户可能因此缺少有帮助解释，门控质量需检验。两模式评分和缓存也要有一致契约，不能用无文案延迟搭配有文案效果冒充同一路径。
教学例子：普通 feed 只返回商品，推送通知再生成一句理由；若统计速度用前者、统计点击用后者，应明确是两种服务模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PushDualGen 的 SID 合法时，解释 copy 就一定正确吗？
PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不一定。SID 合法只说明推荐对象能映射到可服务目录，copy 还需忠于该对象的事实、匹配用户证据且不夸大。身份正确和解释可信是不同判据，二者应分别校验；不能用目录命中替代文案一致性，也不能用动听理由掩盖选错商品。
教学例子：确实选中了普通跑鞋，但文案声称它能防火，目录校验仍可通过，事实校验却应拒绝；推荐身份与说明质量不能只测一个。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TM20K 为什么把一组行为按 sum/√n 合并，并蒸馏完整 token teacher？
Teacher Retains Full Tokens, Student Merges Efficiently: TM20K for E-Commerce Sequence Modeling in Ad Recommendation
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：分组合并把序列压到固定 token 预算，除以组大小平方根可缓和求和随组长增长的尺度变化，相较均值保留另一种组规模信息。完整教师仍能看到细粒度行为，注意力与排序蒸馏帮助压缩学生补回仅靠聚合易丢的关系。聚合不可逆，蒸馏只能学习有用近似，不能保证还原组内每次行为。
教学例子：四次相关浏览合为一个 token，按平方根缩放避免数值随组长直接翻倍。教师能区分四次内部关系，再把软信号传给压缩学生，但学生不再拥有原始四个位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
TM20K注意力蒸馏如何处理师生不同长度？
Teacher Retains Full Tokens, Student Merges Efficiently: TM20K for E-Commerce Sequence Modeling in Ad Recommendation
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：需明确教师细粒度到学生分组位置的映射，不能直接相减不同形状矩阵；mask与组大小保持。当前公开代理未复刻生产长历史、模型和线上流量。
教学例子：例如四个原事件合成一槽，要先说明对应哪些教师注意项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
sum除√n与均值池化的尺度有什么不同？
Teacher Retains Full Tokens, Student Merges Efficiently: TM20K for E-Commerce Sequence Modeling in Ad Recommendation
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：均值除n，√n归一保留不同组大小下另一种能量尺度，尤其行为特征相关性影响幅度。两者不能随手替换后仍声称原合并规则相同。
教学例子：例如同样向量重复多次，两种归一得到的表示范数增长不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TM20K为什么教师保留全token而学生合并？
Teacher Retains Full Tokens, Student Merges Efficiently: TM20K for E-Commerce Sequence Modeling in Ad Recommendation
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：完整教师提供细粒度注意与排序监督，学生用有限token预算控制线上长历史成本。压缩与蒸馏配合，不意味着合并表示天然保留所有细节。
教学例子：例如老师读完整两万行为，学生读分组摘要并学习老师关注点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
没有校准样本，Autonomy-of-Heads凭什么给不同head分配不同稀疏模式？
Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：它检查冻结的Q/K投影所形成的几何结构，用奇异值分布的谱有效秩描述头的潜在匹配能力，再区分偏检索和偏流式处理的头。选择依据来自模型参数，而非额外样本上运行一个门控器。因此省掉校准与运行时选择成本，但参数几何不能替代真实任务上的效果验证。
教学例子：两个头拥有相同窗口预算，但一个投影只突出很少方向，另一个能区分更多方向；方法先据此分配注意力方式，再检查任务是否真的保留所需证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
谱有效秩中的奇异值能直接当作概率计算熵吗？
Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：计算谱熵前要把奇异值变成归一化的谱分布，否则矩阵整体缩放会改变“熵”的含义。也要处理退化矩阵的数值边界；本地mini-suite只验证数据流，不能替代真实checkpoint评测。
教学例子：[2,2]和[20,20]归一化后都是[0.5,0.5]，应反映相同的谱分散程度。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
根据冻结权重分头，与根据当前输入动态选择注意力范围有什么区别？
Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：权重几何给出较稳定的head分工，避免每个输入额外运行选择器；动态方法能随内容改变计算范围，却需要承担选择开销。两者适应对象不同，不能仅凭省校准就断言准确率更高。
教学例子：一个固定检索头始终承担远程访问；动态门控则可能对短文和长文分配不同范围。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Autonomy-of-Heads 的“data-free”具体省掉了什么？
Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry
问答新增：2026-10-27 · Institute of Computing Technology, Chinese Academy of Sciences
展开答案与例子
答案：它从冻结的Q/K投影分析头的几何结构，而不先准备校准样本来决定稀疏模式。省掉的是这一步校准和运行时门控，不代表原模型无需训练，也不代表稀疏后不必测效果。
教学例子：部署者可先检查权重分配头类型，但上线前仍需用实际任务核验答案是否受损。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
带信息不对称的模拟训练，为什么必须把隐藏参考留在环境和裁判侧？
ResidencyRL: Reinforcement Learning in Simulated Clinical Environments
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：策略需要通过询问、工具和观察逐步取证，若直接看到参考信息就绕过了长程决策难点。各维裁判隔离再聚合奖励，减少互相污染，但奖励公式本身不是完整环境或专业能力；本地诊断也不能当真实临床效果或决策可靠性的证据。
教学例子：例如模拟任务中某项状态应通过查询后才出现，不能把完整参考摘要先放进策略提示，再把最终判断记成自主取证成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
ResidencyRL 的惩罚为何先 min(3,P)，而不是在总奖励上任意截断？
ResidencyRL: Reinforcement Learning in Simulated Clinical Environments
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：文档先算3倍加权归一化维度分，再减最多3的惩罚，顺序与分别作用对象要保留。隐藏场景仅给环境/裁判，各维隔离调用不能把参考直接传给策略。
教学例子：P从4增到10时，该项扣分仍为3，但不能顺带改写其它维度的分值。
依据：核心公式、背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
六个维度的奖励聚合，与完整模拟训练算法，有什么层级差别？
ResidencyRL: Reinforcement Learning in Simulated Clinical Environments
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：聚合公式只把已获得的归一化评分与惩罚汇总；完整方法还需要场景、真实交互、各维裁判和策略更新。固定分数或一个loss包装不能替代这一链路。
教学例子：能把六个数字加权成R，不代表已经让模型在模拟环境里完成并学习了一次交互。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
ResidencyRL 为什么使用多轮模拟，而不只训练静态知识问答？
ResidencyRL: Reinforcement Learning in Simulated Clinical Environments
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：主动询问、工具调用和长程决策需要观察交互后果。方法将场景生成、信息不对称环境、隔离多维裁判与GRPO连接起来，训练对象是交互策略而非只背静态答案。
教学例子：Agent需根据新观察决定下一次询问，不能一开始就拿到场景全部隐藏信息。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么 episodic retrieval 要由当前 phase 条件化，而非每步都对原 issue 做相同检索？
Coupling Planning with Episodic Memory in LLM Agents for Software Issue Resolution
问答新增：2026-10-27 · Vanderbilt University
展开答案与例子
答案：定位、修改和验证阶段需要不同证据，固定检索容易重复返回主题相似但不适合当前动作的轨迹。层级规划用 phase 约束经验选择，再根据历史行为检测卡住并重规划；最终仍由真实执行 verdict 判断，不应把“计划切换了”当成问题已经解决。
教学例子：例如定位阶段需要找相关文件，验证阶段需要已知回归测试；只按 issue 文本反复检索，可能一直返回定位经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 phase/retrieval 满分能否与 SWE-bench 多解决二十五题横比？
Coupling Planning with Episodic Memory in LLM Agents for Software Issue Resolution
问答新增：2026-10-27 · Vanderbilt University
展开答案与例子
答案：不能。本地确定性 PlanBench 只验证分阶段检索、停滞和重规划路径，不访问真实仓库容器或论文模型。成本字段与原工具 token 无直接等价关系，应报告 trace 和分支证据，而不把饱和成功率当 issue resolution 能力。
教学例子：例如规则按阶段选对模板并通过三步计划，不说明系统可在未知代码库定位、修改并运行真实失败测试。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
记忆轨迹统计的 stuck 检测与每次失败立刻重写全部计划有何取舍？
Coupling Planning with Episodic Memory in LLM Agents for Software Issue Resolution
问答新增：2026-10-27 · Vanderbilt University
展开答案与例子
答案：统计可识别重复无进展模式，再有针对性重规划；一次失败可能提供新证据，不一定说明整个方向错误。全部重写容易重复已做工作，完全不改又可能持续卡住；实际 verdict 用于验证恢复，不是自评宣称“已修好”。
教学例子：例如两次相同补丁都触发同一测试错误可提示换方案，首次出现新报错则可能只是正常推进，需要区别判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
软件 issue 要经过定位、修改和测试时，PMCoder 希望记住哪些可继续利用的经验？
Coupling Planning with Episodic Memory in LLM Agents for Software Issue Resolution
问答新增：2026-10-27 · Vanderbilt University
展开答案与例子
答案：长修复任务会产生定位线索、失败尝试和测试结论，若每轮从原 issue 重新出发，容易重复查找或重犯错误。PMCoder 用过程阶段组织计划与经验读取，让当前步骤利用恰当的历史。记忆只是执行支持，仍需当前代码和测试确认，不能把记住旧解法等同于修复新问题。
教学例子：教学例：定位阶段发现问题在解析器，测试阶段确认某边界输入失败；下一轮应利用这些结论，而不是再次全仓库搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
Gryphon-v2为什么同时蒸馏当前rollout候选和真实曝光候选？
Gryphon-v2: One Model in Place of a Cascade — Generate-and-Rank Recommender with Rollout Distillation
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：生成器改变后会产生日志中少见的候选，排序器若只学习旧曝光分布，就可能无法评价实际服务输出；只学当前rollout又会丢掉真实系统的成熟覆盖。双来源蒸馏让同一teacher同时校准两类候选，再通过共享encoder连接生成与排序。teacher偏差仍会传递，双数据源不等于自动消除分布错位。
教学例子：新生成器开始提出冷门电影，旧曝光日志只含热门片；rollout提供新候选判断，真实曝光保留既有经验，避免排序头只认识其中一种。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
Gryphon-v2 的 rollout 与 impression 蒸馏目标为什么要分源记录？
Gryphon-v2: One Model in Place of a Cascade — Generate-and-Rank Recommender with Rollout Distillation
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：两源采样分布不同，数量、权重与实际候选身份影响 loss，合并无标记会隐藏哪边主导。teacher 与 student 应对同一 item 比较，训练截止一致；来源本地确有两类目标更新但质量退化，更新次数不是收益证据。
教学例子：六万次生成候选蒸馏不等于六万次真实曝光，若把两者都标成用户点击，就会错误解释监督可信度与评估结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
双来源蒸馏与只用 logged impressions，相比为何更贴近生成候选服务？
Gryphon-v2: One Model in Place of a Cascade — Generate-and-Rank Recommender with Rollout Distillation
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：曝光日志由旧系统选择，当前生成器 rollout 可能覆盖不同区域；同时监督两者可让排序头既看到真实反馈分布，也适应自身候选。teacher 在新区域仍可能不可靠，不能因覆盖变宽就宣称迁移成功，来源本地实际为负。
教学例子：生成器开始提名冷门器乐，旧曝光几乎没有；只学旧日志的 ranker 可能不会评它，rollout 蒸馏补机会但也可能继承教师偏见。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
Gryphon-v2 为什么让生成头与 ranking head 共用 history encoder？
Gryphon-v2: One Model in Place of a Cascade — Generate-and-Rank Recommender with Rollout Distillation
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：两阶段反复编码相同历史既浪费计算，也可能形成不同用户状态。共享 encoder 同时支持 SID 提名与 item 排序，连接服务信息。排序头仍面对生成候选分布，不能仅凭共享就假定任务一致，也不代表生成漏掉的物品能被末端补回。
教学例子：用户刚转听爵士，两头读取同一最新状态，避免召回仍按摇滚而排序已按爵士；但未召回的爵士内容仍无从重排。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
U-OPSD用最短一致解构造特权视图，没有gold时怎样避免把“共识”说成真值？
U-OPSD
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：多次采样的内部一致性用于选参照与决定何处修复，减少对外部教师和答案的依赖；它提供的是伪监督，不是独立正确性验证。全体共同犯错仍可能被强化，所以应分开报告内部一致性与外部留出任务表现，不能向学生输入隐藏金标来弥补。
教学例子：几份回答都采用同一错误公式，最短的那份仍可能错；“最短一致解”只确定内部参照，不自动成为标准解。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
U-OPSD实现时可以用gold检查后再挑内部参考吗？
U-OPSD
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：不可以，否则改变无外部监督设定。共识、阈值和长度选择只用允许预测，gold仅用于独立评估；本地确定性mini-suite不代表真实多轮大模型自蒸馏完成。
教学例子：例如先筛出碰巧答对的候选再做多数票，会把答案信息偷渡进流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
最短一致解与最短任意回答为什么不能混用？
U-OPSD
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：前者先满足多数一致资格，再在相应集合选短解；最短任意项可能只是空答或离群结论。内部一致不等于真正确，纠错对象也应按伪标签定义解释。
教学例子：例如一句很短的错误拒答不能仅因省token就成为特权教师线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
U-OPSD的privileged view为何仍可称无外部监督？
U-OPSD
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：它来自模型多次采样中的内部一致解，不用外部答案、奖励或更大教师。特权指一视图额外看到内部产物，不意味着这些产物已独立验证正确。
教学例子：例如模型自选一条简洁共识解作为参考，但它仍可能是共同错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
RRC为什么把生成式奖励模型的组内排名与anchor排名结合，而不要求它逐条报绝对分数？
RRC: Unlocking Generative Reward Models in LLM Reinforcement Learning via Ranking-Based Reward Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：生成式judge可能更擅长比较哪条更好，而绝对数值尺度不稳定。组内自竞争给相对位置，少量anchor提供跨组参照，再构造中心化奖励。排名仍依赖候选集合和judge质量，不能把相对第一解释为绝对正确，也不等于已经运行原文昂贵评审系统。
教学例子：两组答案各自都有第一名，但整体质量可能不同；加入固定参照可帮助判断两组的“第一”是否处在相近水平。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
RRC名次转奖时为什么要检查组大小和排名方向？
RRC: Unlocking Generative Reward Models in LLM Reinforcement Learning via Ranking-Based Reward Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：公式含K减一，单样本组无法按同一尺度计算；高名次究竟代表好还是差必须统一。实际judge尚未本地运行，注册候选发现不等于完整能力集成。
教学例子：例如把名次一当最优却使用相反公式，会把最好回答给予最低奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
组内self-competition与anchor排序分别提供什么信息？
RRC: Unlocking Generative Reward Models in LLM Reinforcement Learning via Ranking-Based Reward Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：组内比较区分当前候选，anchor提供跨组参照，缓解只有局部名次无法解释绝对水平的问题。两部分需明确权重，不能把名次当真实等距质量。
教学例子：例如一组全差也总有第一，anchor能提醒它虽第一仍不理想。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
RRC为什么更愿意从相对排序构造生成式RM奖励？
RRC: Unlocking Generative Reward Models in LLM Reinforcement Learning via Ranking-Based Reward Construction
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：生成式评价器擅长解释和比较，独立标量未必校准。组内排序与少量anchor提供相对位置，再构成中心化奖励供策略学习，保留其比较优势。
教学例子：例如裁判能稳定说两篇哪篇好，却不一定给所有题一致的十分制分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
RP-OPSD为什么比较有无英文参考解的匹配教师视图来找pivot，而不统一强化全部译文token？
RP-OPSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：参考解对某位置分布造成的变化提供它是否改变推理状态的线索，而表面翻译词可能几乎不受影响。定位后集中进行特权蒸馏，并保留reference锚定。两视图应匹配其他条件，参考解仅在训练教师侧使用，不能让目标语学生直接照抄金标。
教学例子：跨语言答案里，连接词的翻译与决定运算顺序的词作用不同；加入参考解后，真正推理转折位置可能变化更明显。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
RP-OPSD两教师视图评分应保持哪些条件相同？
RP-OPSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：模型、问题与学生前缀应匹配，仅移除参考条件形成对照；学生采样不见参考答案。原本地使用确定性代理，不包含完整多语言teacher和真实推理语料。
教学例子：例如一份视图换题又换模型，概率差无法再归到英文参考作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
pivot定位与对所有英文参考token均匀模仿有什么区别？
RP-OPSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：均匀模仿可能复制风格和翻译表面，pivot用条件位移突出重要位置，仍保留reference锚点。位移不自动代表有用因果证据，教师可靠性需验证。
教学例子：例如英文措辞不同但数学状态相同，不必因此让学生每个词都改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
RP-OPSD为什么围绕reasoning pivot进行跨语种蒸馏？
RP-OPSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：不同语言表面表达差异大，但真正改变推理状态的位置更关键。比较有英文参考与无参考的匹配教师分布，定位信息引起明显变化的枢纽，集中监督。
教学例子：例如换连接词与引入关键方程，不应仅按文本差异同权处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPD²为什么蒸馏后训练教师相对其base的增量，而不复制教师全部偏好？
On-Policy Delta Distillation for Multilingual Math Reasoning
问答新增：2026-10-27 · NAVER AI Lab
展开答案与例子
答案：教师原本就有语言、风格和知识倾向，学生直接模仿会把这些与后训练新增能力一起搬走。比较教师前后log概率变化，目标更聚焦训练带来的方向。base与teacher必须是可比阶段，增量也不是已证明的纯能力信号，本地小分布诊断不能证明跨语言迁移。
教学例子：教师一直偏好某种客套开头，而RL主要改善推理结尾；前后增量可减少把原有客套风格当新增能力传给学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPD²的两个教师概率能来自任意模型家族吗？
On-Policy Delta Distillation for Multilingual Math Reasoning
问答新增：2026-10-27 · NAVER AI Lab
展开答案与例子
答案：不能不加说明地替换，定义是后训练教师与对应base在同前缀的logp差，词表和条件需匹配。当前候选机制并未加载真实多语言数学检查点。
教学例子：例如拿另一架构模型当base，会把家族校准差混入所谓训练增量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
delta蒸馏与直接模仿post-trained分布有什么差别？
On-Policy Delta Distillation for Multilingual Math Reasoning
问答新增：2026-10-27 · NAVER AI Lab
展开答案与例子
答案：前者显式扣除教师基座参照，后者包含所有原有知识和偏好。增量可能减去有用信息，也可能保留训练噪声，不能据此断言永远比完整蒸馏好。
教学例子：例如只学变化方向不等于把教师整个知识库完整复制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPD²为什么蒸馏教师后训练相对base的增量？
On-Policy Delta Distillation for Multilingual Math Reasoning
问答新增：2026-10-27 · NAVER AI Lab
展开答案与例子
答案：教师自身原有偏好未必来自目标训练，增量更聚焦后训练改变的方向，减少照搬基座语言或其他偏差。它仍依赖base和post-trained教师的可比较性。
教学例子：例如教师原本爱长句，这种旧风格若没因训练改变，就不应全当新能力传给学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
DASH为什么由局部分歧控制向后递推的horizon，而不固定把后续所有信号都传回？
DASH
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：后续教师反馈可能有用，也可能因局部偏离而不可靠。停止梯度gate依据局部分歧调节传播强度，使不同位置看到不同有效监督范围，而无需额外教师前向。固定长horizon会一律混入远处信号，固定短horizon又可能漏掉重要后果，gate本身也不是真值判断。
教学例子：连续几步与教师一致时可累积后续帮助，某处突然严重分歧时应弱化继续回传；不是每个位置都用同一个窗口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
DASH反向递推应怎样处理序列边界与gate梯度？
DASH
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：从末端向前聚合，末端无下一项；gate停止梯度，padding和跨响应边界不得传播。当前候选位置并非完整真实token轨迹，不能据此报告长链收益。
教学例子：例如一条回答末尾不能接上下一条回答的未来信用继续累加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
DASH连续gate与固定折扣回传有什么差别？
DASH
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：固定折扣对所有状态给同一传播率，gate依据局部分歧相对统计改变horizon。它仍是代理信用，不保证每次延长都正确，也不等于新增教师续写。
教学例子：例如两处同样距离的后果，因局部分歧不同可向前传播不同程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
DASH为什么让后续蒸馏差异影响前面位置？
DASH
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：早期决策可导致多步后果，单词元匹配看不到远期信用。局部分歧控制门，后向递推形成自适应horizon，把后续信号有条件传回而不增加教师前向。
教学例子：例如一个早期分叉后面连续出错，前面位置也需要感受这些后果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
MACRO不改底座权重，怎样仍能改变模型对一个输入的计算过程？
MACRO: Markov Chain Routing of Transformer Layers
问答新增：2026-10-27 · Heinrich Heine University Düsseldorf
展开答案与例子
答案：它把层执行顺序表示为上下文条件的路由程序，允许跳过、重复或残差相加等操作。反馈更新的是路由分布，再用候选程序搜索选择执行路径；底座参数保持不变。因而收益来自怎样调用已有层，不能写成底座学到了新权重，程序选择也必须避免读取隔离测试答案。
教学例子：一个输入可跳过某层，另一个输入重复使用该层；两次调用相同权重，得到的总计算路径不同。选择路径时可用验证反馈，不能按测试真值逐题挑最优程序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
MACRO 的候选程序是否可以只按每一步独立最高概率拼接？
MACRO: Markov Chain Routing of Transformer Layers
问答新增：2026-10-27 · Heinrich Heine University Düsseldorf
展开答案与例子
答案：文档将路由概率写成条件Markov链，并用top-k Viterbi解码候选程序，需要保留状态转移依赖。逐步贪心未必等价于整条程序的高分路径；本地分类mini-suite也不代表原论文规模结论。
教学例子：当前看似最好的repeat操作，可能让后续可达路径的整体分数变差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
MACRO 的路由搜索，与直接微调底座权重改变了什么不同对象？
MACRO: Markov Chain Routing of Transformer Layers
问答新增：2026-10-27 · Heinrich Heine University Düsseldorf
展开答案与例子
答案：路由搜索选择已有层如何执行，文档说明不修改底座权重；微调改变层内参数。两者可有不同成本与泛化表现，不能把找到一条路由当成训练出了新的底座模型。
教学例子：把同一组积木换一种执行顺序，与重新打磨每块积木本身不同。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
MACRO 为什么把执行 Transformer 层看成一个路由程序？
MACRO: Markov Chain Routing of Transformer Layers
问答新增：2026-10-27 · Heinrich Heine University Düsseldorf
展开答案与例子
答案：固定顺序不是唯一的计算安排。MACRO以上下文条件Markov policy组织skip、repeat和residual-add等操作，通过反馈更新路由分布并解码候选程序，改变的是层执行路径。
教学例子：某输入可跳过一层、对另一层重复处理，而非所有输入都严格走同样层序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
HiLP为什么在逐步latent预测之外，再加一个更粗时间尺度的目标？
Hierarchical Latent Prediction for Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：连续一步预测可能把小误差逐步传下去，局部相似并不保证远处结构仍正确。HiLP用粗粒度抽象latent目标约束更长尺度，同时保留next-token与局部latent训练，使表示兼顾近期细节和远程结构。层级目标提供额外约束，不等于消除了rollout误差或无需检验长程效果。
教学例子：每一步都稍微偏离路线，走很多步后会离终点很远；除了预测下一步，还预测下一个阶段的抽象状态，可以对局部轨迹施加更远的约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
HiLP 的实验怎样才能说明粗尺度目标的作用，而不是数据或预算变化？
Hierarchical Latent Prediction for Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：应在相同切分、训练预算和主干下比较去掉与加入块级abstract目标的路径，分别记录细尺度与粗尺度误差。当前合成序列机制对照不等于论文规模语言模型效果。
教学例子：只增加λH对应目标，若同时更换数据和训练步数，就难把变化归因于层级预测。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
增加粗尺度 latent loss，与单纯加大下一步预测 loss 权重有什么不同？
Hierarchical Latent Prediction for Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：后者仍监督同一时间尺度；粗尺度目标引入不同跨度的预测对象，能约束局部误差未覆盖的结构。比较时需区分新增目标与仅调整λ1的效果，不能把两者视为同一消融。
教学例子：把下一秒误差权重翻倍，并不等于要求模型预测下一分钟的整体状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
HiLP 为什么同时预测下一 latent 和更粗的 abstract latent？
Hierarchical Latent Prediction for Language Models
问答新增：2026-10-27 · University of Texas at Austin
展开答案与例子
答案：逐步latent rollout可能累积局部误差，较粗时间尺度的目标为局部状态提供长期结构约束。它让模型既关注下一步细节，也学习更远尺度的变化。
教学例子：预测接下来一个词的表示时，也受到下一段整体走向的辅助约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
BaKron为何引入双侧Kronecker曲率，而不只考虑输入激活侧误差？
BaKron: Efficient Quantization with Kronecker-Factored Hessians
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：权重量化误差不仅受输入方向影响，也受输出侧的曲率结构影响；Kronecker近似把两侧关联纳入同一二次目标。直接展开完整大Hessian代价高，因此方法用结构化的并行与分治组织舍入。更丰富的误差模型不代表可以忽略近似假设或把每个权重独立round当作同一算法。
教学例子：两个输入方向误差相同，但输出方向对最终loss的敏感程度不同；只看输入侧可能把它们视为等价，双侧曲率则能区分这种影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
检验 BaKron 的小矩阵实现时，为什么要同时核对 vec 顺序与 Kronecker 因子？
BaKron: Efficient Quantization with Kronecker-Factored Hessians
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：向量化顺序决定A⊗B与矩阵两侧作用的对应关系，轴放反会优化另一项加权误差。应以独立显式向量化目标核对；当前随机权重诊断不代表论文规模checkpoint收益。
教学例子：按行和按列展开同一W，不能在不调整因子约定时混用同一Kronecker矩阵。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
BaKron 相对只考虑输入侧的 GPTQ-style rounding，多出了什么约束？
BaKron: Efficient Quantization with Kronecker-Factored Hessians
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：目标用A⊗B对向量化权重误差加权，包含两侧曲率结构，而不只一种输入侧度量。求解也需对应双侧目标；换成普通逐行舍入不能仅凭名字称为双侧自适应rounding。
教学例子：一个候选rounding的普通MSE较小，双侧加权代价仍可能更大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
BaKron 中的 rounding 为什么不只是逐权重四舍五入？
BaKron: Efficient Quantization with Kronecker-Factored Hessians
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：量化目标衡量的是权重误差经曲率加权后的影响，不是每个数字距离最近刻度即可。不同权重误差相互关联时，独立最小舍入误差未必最小化整体目标，BaKron据此组织自适应rounding。
教学例子：两个单独很小的误差若共同放大同一输出方向，整体影响可能比另一个略大但抵消的组合更高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
AMS的激活方向分离通过阈值，为什么不能据此宣布模型行为安全？
Detecting Safety Training Modification in Language Models via Activation Analysis
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：对照输入的中层激活方向检验结构分离，再与同架构基线比较方向和漂移，可作为安全训练修改的线索。阈值只对应指定协议，方向分离与真实行为之间仍有盲区；层号、方差定义和基线一致性都会影响结果。组件诊断不能替代独立行为安全评测。
教学例子：例如模型能把安全与风险概念分开表示，却仍可能在特定上下文给出不当回答；可分离方向说明内部信号存在，不证明所有输出可靠。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
从 HuggingFace hidden_states 取 AMS 扫描层时，为什么要加1？
Detecting Safety Training Modification in Language Models via Activation Analysis
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：文档block hooks从0计数，而hidden_states[0]是embedding，故block_id对应hidden_states[block_id+1]。还需取最后真实token，并按固定上游population variance与严格阈值边界计算。
教学例子：报告block9应读取hidden_states[10]，不能把embedding当作第一个block输出。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
AMS Tier1 分离度与 Tier2 基线方向比较，分别回答什么问题？
Detecting Safety Training Modification in Language Models via Activation Analysis
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：Tier1看正负概念投影是否分离，Tier2比较同层同维基线的方向一致性和相对漂移。一个模型内部很可分，不等于它与基线保持相同方向或行为。
教学例子：两组投影分得很开，但方向可能相对原模型翻转，两个tier可给不同信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
AMS 为什么用对照输入的激活差异检查模型修改？
Detecting Safety Training Modification in Language Models via Activation Analysis
问答新增：2026-10-27 · Google Cloud
展开答案与例子
答案：它先找安全相关概念在中层激活中的分离方向，再与同架构基线比较方向和漂移，提供结构诊断信号。它不生成行为答案，也无法用结构阈值替代行为安全评测。
教学例子：两个概念在某层容易分开，仍不能据此保证所有相关真实请求都处理正确。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么技能写入前的验证，不能完全由写入后发现有害再删除替代？
When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：技能一旦影响新轨迹和后代技能，污染可能已传播，删除原条目不能撤销所有衍生结果。预提交依次检查结构、行为无害性和语义一致性，再选择能共同使用的集合，把准入与运行后回滚分开；单个技能看似有效也不保证组合没有冲突。
教学例子：例如错误重试规则已被另一技能吸收，删除最早文档也不会自动修复后者；写入前验证能减少这种继承污染。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
Hot 技能集合为什么不能把所有单独高分技能直接并列使用？
When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：技能间可能冲突或重复，集合收益取决于共同上下文，VaG 按边际收益选择可兼容组合，而非独立分数相加。本地只验证门控与选择算子，不运行昂贵 judge 或原环境；候选发现的注册也不自动证明真实可晋级控制器已集成。
教学例子：例如两份技能各自有效，一份要求先缓存、一份要求每步清缓存，同时加载可能互相矛盾，需要集合级兼容判断。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
结构合法、行为无害与语义一致三类 gate，为什么不能只留一个？
When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：结构检查回答格式和引用能否解析，行为检查关注技能是否破坏已有执行，语义检查关注内容是否符合预期含义。格式正确的技能仍可能建议错误操作，单次无害也可能只是未触发危险前提；不同 gate 提供互补证据，全部通过仍受验证案例覆盖限制。
教学例子：教学例：一份技能格式完全正确，却把“先备份再修改”写反；解析检查会放行，语义或行为验证才可能发现问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
自进化技能库为什么需要把经验准入当作一个有风险的环节？
When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：候选经验会影响未来行动，还可能被再次概括进新的技能，一条错误建议因而不只伤害当前任务。VaG 关注在持续学习中控制这种传播，让长期库不会因每轮都“学到点东西”而逐渐失真；写入数量不是进步指标。
教学例子：例如一次临时绕过检查的做法被总结成通用规则，后续多个任务再沿用它，短期成功可能变成长期污染。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么评测 harness 优化器要固定 target-evaluation 预算，而不只比较最终最高分？
HarnessOpt-Bench: Evaluating LLMs at Harness Optimization
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：更多评测本身就提供更多搜索机会，不控预算会混淆优化能力与资源投入。隐藏测试隔离候选选择，可信环境及版本档案支持审计改了什么；报告相对收益还需注意基线尺度，不能把搜索反馈里见过的最佳候选成绩当最终未见表现。
教学例子：例如一套优化器试一千次、另一套只试十次，即便前者最后更高，也不能直接说明更会优化；应先匹配评测调用预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
本地候选注册能替代可信执行与版本审计吗？
HarnessOpt-Bench: Evaluating LLMs at Harness Optimization
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：不能，需要真实预算计数、候选快照与隔离执行，未运行原模型或环境不能冒称benchmark成绩。相对提升公式在基线近零时需明确epsilon而非隐改分母。
教学例子：例如配置列表新增一个名字，不代表优化器已经实际改并测试它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
开放搜索反馈与隐藏test为何必须分离？
HarnessOpt-Bench: Evaluating LLMs at Harness Optimization
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：优化过程会利用可见反馈选版本，隐藏集用于最终泛化。若每次搜索都看test，就把基准变成调参集，得分提高不能解释为新任务能力。
教学例子：例如试几十版后按测试最高挑一版，会高估未见效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
HarnessOpt-Bench允许优化器改哪些东西，是重新训练底层模型吗？
HarnessOpt-Bench: Evaluating LLMs at Harness Optimization
问答新增：2026-10-27 · Scale AI
展开答案与例子
答案：搜索对象是prompt、工具、控制流与记忆等harness组件，评测关注在规定目标评估预算内改进这些组件的能力。不能把任意底层模型重训、增加隐藏训练数据也默认为同一搜索空间；候选版本与允许改动范围都应留痕。
教学例子：优化器可试不同上下文压缩策略并评估；若偷偷换更强底座，收益便不能全归于harness优化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么把相似局部技能聚类合并后，还要做 replay verification？
Learning Globally Reusable Skills for Coding Agents
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：相似描述可能隐藏不同前置条件，合并会删掉对某些任务关键的分支。重放原有案例可检验全局复用是否以牺牲旧行为为代价，技能关系图再显式管理冲突；聚类紧凑度或新任务成功不能单独证明合并安全，也不等于跨分布泛化。
教学例子：例如两个文件解析技能分别处理带表头与无表头输入，合并后应重放两类案例，避免统一流程只留下其中一种假设。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地关系图与回归惩罚验证能否复刻工业 Agent F1？
Learning Globally Reusable Skills for Coding Agents
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：不能。本地公共 mini-suite 执行图、选择与回归相关算子，未运行原文大模型、私有工业环境或昂贵 judge。原文工业 F1 属于作者完整系统证据，不能把本地图规模减少或 fixture 分数解释为相同业务质量提升。
教学例子：例如聚类后十条技能变成五条，可验证合并发生；没有工业测试生成任务就不能由此推算 precision 或 recall。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
全局技能整合与独立追加每次任务经验，对技能库结构有什么不同影响？
Learning Globally Reusable Skills for Coding Agents
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：独立追加保留局部细节，却可能积累描述接近、前提不同或相互冲突的技能；全局整合利用关系图发现这些联系，再形成更可复用的抽象。合并不是只做文本去重，必须保留必要条件并验证旧行为；库更小或关系更紧凑都不能单独证明执行更好。
教学例子：教学例：两次导出任务都涉及保存文件，但一种要求加密，另一种要求公开；全局整理要保留条件，而不是合成“全部公开”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
GSE 的全局可复用技能为什么需要 Skill Relation Graph？
Learning Globally Reusable Skills for Coding Agents
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：局部经验之间可能重叠、互补或冲突，关系图提供聚类与合并依据，让技能能跨任务复用而不是保留大量近重复片段。图关系仍需证据，语义相似不自动表示合并安全，尤其不同环境前提可能被抽象过程抹掉。
教学例子：例如两任务都执行测试，但一个要求先生成配置，另一个已有配置，合并技能时应保留这个前提差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
acting 与 rehearsal 为什么要分别计算 group-relative advantage？
EnvACE
问答新增：2026-10-27 · Shanghai Jiao Tong
展开答案与例子
答案：真实行动成败与观察预测的奖励尺度和目标不同，放在同一组中心化会让一种角色的高分压制另一种学习。分组后共享策略仍能练习预测环境，再把私有 rehearsal 用于规划；想象的下一观察不能当作真实工具反馈写入执行证据。
教学例子：例如演练预测“门打开”得高分，不应让实际行动失败也因同组分布被误奖励；演练结果还须与真实开门返回区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
EnvACE 的真实工具响应计数，为什么不能把 rehearsal 预测也算进去？
EnvACE
问答新增：2026-10-27 · Shanghai Jiao Tong
展开答案与例子
答案：这会把内部想象伪装成环境执行证据。文档mini-suite明确real_tool_responses=0，rehearsal和role-wise更新计数只证明对应路径发生，不证明浏览器或真实工具成功。
教学例子：三次预测observation只能记三次rehearsal，而不是三次真实API调用。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
同策略 rehearsal 与另训练一个 world model，有什么模块差异？
EnvACE
问答新增：2026-10-27 · Shanghai Jiao Tong
展开答案与例子
答案：前者复用agent policy的角色条件，后者有独立环境预测模型及训练维护成本。复用不表示预测一定准确，仍要把预测observation与真实环境反馈分开，并分别计算角色优势。
教学例子：rehearsal说“工具可能返回成功”，不能把它记成真实工具已经成功。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
EnvACE 为什么让同一策略切换成 rehearsal role？
EnvACE
问答新增：2026-10-27 · Shanghai Jiao Tong
展开答案与例子
答案：它在真实act之间预测下一observation，用自身策略做少量私有前瞻，而不另训独立world model。训练同时约束acting与rehearsal两种角色，规划预测不等于已经执行工具。
教学例子：Agent先设想某动作可能返回什么，再决定是否真正采取它。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么代码检索 Agent 的奖励来自下游修复收益，而不只看找对文件？
CodeGrep: An RL-Trained Retrieval Agent for LLM Coding Agents
问答新增：2026-10-27 · NetEase Guangzhou AI Lab
展开答案与例子
答案：正确文件可能仍缺少调用链和约束，检索也可能耗费过多 token 与轮次。把结果交给冻结 coding agent，观察实际修复并计入成本，能评价证据是否可用；冻结执行器减少两侧同时变化的混淆，但单次下游失败也不自动证明某条证据无价值。
教学例子：例如找到报错函数却没读其调用约束，修复器仍会改错；检索相关文件和测试上下文才可能真正提高可修复性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地检索算子与真实 14B GRPO 训练之间必须区分哪些证据？
CodeGrep: An RL-Trained Retrieval Agent for LLM Coding Agents
问答新增：2026-10-27 · NetEase Guangzhou AI Lab
展开答案与例子
答案：本地仅在公共 mini-suite 验证受限选择和状态机制，未训练 14B 检索 Agent、运行真实 SWE-bench 或完整下游修复器。token 与轮数惩罚需要实际计量，候选注册或模拟搜索不能当作 RL 已执行及端到端加速。
教学例子：例如一个 fixture 少选两次 read 只说明代理调用减少，没有模型生成和真实文件内容就不能报告修复成功提高一点二百分点。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
多轮 grep/glob/read 与一次向量 Top-K 有何信息获取差别？
CodeGrep: An RL-Trained Retrieval Agent for LLM Coding Agents
问答新增：2026-10-27 · NetEase Guangzhou AI Lab
展开答案与例子
答案：grep 和 glob 可根据代码符号与路径逐步缩小范围，read 后再更新查询，属于交互式程序证据获取；一次向量检索在初次相似度上固定候选。多轮适应也消耗调用与上下文，不能只比较最终文件命中而忽略探索成本。
教学例子：例如先 glob 找测试目录，再 grep 报错符号，读调用者后继续搜索依赖，后一步条件来自前一步实际代码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
CodeGrep 为什么把大仓库中的证据获取看作需要学习的多步工作？
CodeGrep: An RL-Trained Retrieval Agent for LLM Coding Agents
问答新增：2026-10-27 · NetEase Guangzhou AI Lab
展开答案与例子
答案：修复 issue 前往往不知道相关文件、符号和调用关系，单次检索可能只找到文字相近片段。CodeGrep 让 Agent 逐步搜索、读代码并根据新线索继续查找，使证据获取服务后续修复。找到文件并非终点，读到的信息是否真的帮助解决问题仍需下游执行检验。
教学例子：教学例：报错提到配置，第一次 grep 找到入口，读代码后发现真正默认值在另一个模块，需要继续追踪而非就地猜补丁。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么只奖最终答案可能让搜索变成确认偏见，而 dense evidence credit 有帮助？
Contextual Information Policy Optimization for Search Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：模型可能先猜答案再只找支持它的内容，终局碰巧正确掩盖了无效搜索。识别外部证据真正改变后续动作的回合并给局部信用，鼓励信息被实际使用，而非机械调用次数；仍需结合全局 outcome，避免只追新证据却偏离问题。
教学例子：例如搜索发现原猜测日期错误，Agent 据此改查另一来源，这种证据驱动转向应区别于反复查询同一句猜测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
CIPO 的 λ=0 与 λ=1 两个边界，应分别保留哪种优势？
Contextual Information Policy Optimization for Search Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：公式λ=0只用outcome，λ=1只用evidence，能帮助检查混合方向；中间值才是两者联合。还应把每turn信用绑定真实轨迹位置，不能以原文大模型成绩替代本地mini-suite。
教学例子：λ归零后若仍有证据信用影响更新，就需检查系数或残留分支。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
CIPO 的证据影响信用，与奖励引用数量有什么不同？
Contextual Information Policy Optimization for Search Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：引用数量只反映表面形式；证据信用关注外部信息是否作用于后续动作。两者不等价，也不能只见一段搜索文本就认定它对决策有因果贡献，需按方法定义验证。
教学例子：回答贴了十个链接，但动作完全不变，未必比一个真正改变判断的证据更有用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
CIPO 为什么给搜索中间步骤增加 evidence credit？
Contextual Information Policy Optimization for Search Agents
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：最终答案奖励难说明检索是否真正影响决策，容易鼓励确认已有结论。CIPO关注外部证据带来的后续动作变化，把dense证据信用与全局结果结合，鼓励实质使用新信息。
教学例子：搜到反证后修改计划，比只在答案里附上一个无关引用更有信息价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么用相邻成功信念的修订量，而非最终信念值识别 pivotal turn？
AgentOPSD
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：最终值混合了此前全部证据，不能定位哪一步导致关键改变。把 token 师生概率差累积到 log-odds，再观察每回合 sigmoid 信念的增量，能提取局部转折；这是训练侧事后归因，特权 replay 和参考信息不能交给独立评测策略。
教学例子：例如前几步信息平淡，某次工具返回让成功信念陡升，该回合增量更能提示关键作用，而非把高终值平均分给所有动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
AgentOPSD 的 evidence 为什么在 log-odds 上累加，再取 sigmoid 差？
AgentOPSD
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：log-odds状态ℓ_t=ℓ_{t-1}+e_t，信用是两个相邻sigmoid信念之差；直接把e_t加到概率会越界，也会改写累积方式。较大log-odds还需稳定数值计算，privileged replay不能进入评测策略输入。
教学例子：同样e_t在不同既有信念下产生不同概率修订，不应一律当成同样大小的概率加法。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
AgentOPSD 的 critic-free，是否表示不再需要任何教师信息？
AgentOPSD
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：不是。它不依赖独立value critic，但turn evidence仍来自privileged replay的teacher/student差异。mini-suite的状态更新也不能自动证明真实大模型teacher rollout与策略训练已经执行。
教学例子：没有critic网络，不等于训练时可以省掉定义e_t所需的教师分布。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
AgentOPSD 为什么用 turn evidence 来递归更新成功信念？
AgentOPSD
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：整条轨迹奖励难指出关键决策。方法将privileged replay中teacher/student的token log-prob gap聚合到turn，再累积到log-odds，用相邻信念变化分配更局部的信用。
教学例子：一个关键工具选择使成功信念明显上升，可比此前已经很高的信念值更能定位贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
Twitch 多目标排序为什么同时处理反馈延迟、用户生命周期权重和 MMoE gate？
Multi-Objective Ranking for Live-Streaming: Balancing Fresh and Delayed Signals with Segment-Aware Targeting
问答新增：2026-10-27 · Twitch
展开答案与例子
答案：观看、互动、关注与付费在观测时点和用户阶段上含义不同，直接混成一个目标会偏向容易立即得到的信号。即时与延迟模型处理成熟度差异，分群权重表达不同生命周期目标，MMoE 则共享有用专家并保留任务选择。三者针对标签、业务取舍和表示冲突，不能只用一个总体指标证明所有阶段受益。
教学例子：新用户先建立观看习惯，老用户可能更看重深度互动；付费还比点击晚发生。模型分别处理时间与阶段，再通过任务 gate 组合专家，而不是让点击数量压过全部目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
本地Twitch-MOR能直接解释原文生产直播收益吗？
Multi-Objective Ranking for Live-Streaming: Balancing Fresh and Delayed Signals with Segment-Aware Targeting
问答新增：2026-10-27 · Twitch
展开答案与例子
答案：不能，参考机制未包含真实延迟标签、私有特征和在线流量。分群定义与反馈成熟窗口需固定，不可用最终测试付费来反向定义当前用户segment。
教学例子：例如测试后才知道谁会付费，再把他标成高价值群，会泄露结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
MMoE任务gate与分群目标权重是不是同一层？
Multi-Objective Ranking for Live-Streaming: Balancing Fresh and Delayed Signals with Segment-Aware Targeting
问答新增：2026-10-27 · Twitch
展开答案与例子
答案：gate决定每任务用哪些共享专家，分群权重决定各任务损失或目标贡献，层次不同。只改变一个全局权重不能代表任务专属专家交互已完成。
教学例子：例如新用户多重观看目标，同时各目标仍有不同专家混合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Twitch多目标排序为什么区分即时与延迟反馈？
Multi-Objective Ranking for Live-Streaming: Balancing Fresh and Delayed Signals with Segment-Aware Targeting
问答新增：2026-10-27 · Twitch
展开答案与例子
答案：观看互动很快可见，关注付费可能更晚，直接把未成熟目标当负会偏差；生命周期分群又有不同目标偏好，需结合时间与群体条件。
教学例子：例如刚进入直播用户尚未付费，不该立即当作对该主播无价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DEGR为什么同时约束同cohort物品表示，并按探索收益调整偏好优化强度？
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：逐请求追求高分可能跨请求反复暴露同类物品，表示约束先减少候选间的方向重叠。探索反馈再决定偏好更新应多强，避免对没有实际收益的探索机械强化；推理时的多样性选择补上输出层决策。训练表示分散不必然等于用户感知多样性，仍需同时看相关性与探索反馈。
教学例子：一组用户连续收到相似鞋款，单次列表看似合理却长期单调；模型既需减少候选同向集中，也需验证换入新类目是否真的带来有价值的探索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
DEGR 本地 NDCG 持平但 head share 下降，应怎样验收机制而不夸大效果？
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：来源确实执行偏好与 diversity pair 更新，可据日志检查算子与次数，再分别报告排序与分布变化。NDCG 零增量表示本协议未看到主质量改善，头部略降只说明曝光集中度变化。不能用更新次数或三项损失存在，替代用户价值证据。
教学例子：榜单少了一点热门片却没有提高相关项位置，可以说分布更分散，不能说用户一定更满意，也不能把持平改写为全面优化。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DEGR 的训练多样性正则与推理 diversity-aware greedy，作用阶段有何不同？
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：平方余弦约束改变物品表示，让同 cohort 更少坍缩；推理选择则依据已选项控制当前列表冗余。前者塑造长期空间，后者处理单次组合，两者不能互代。正则过强会推开真实相似品，推理过强也会牺牲相关性，需分别消融。
教学例子：把物品向量稍微拉开不能保证一屏不重复；反过来每屏强行换类别也不能修复训练表示全挤在热门方向，两个环节需单独检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DEGR 为什么把探索反馈与生成模型训练连接，而不只在末端随机插入新商品？
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：末端随机探索能收集反馈，却未必让生成器学会哪些新内容值得继续探索。奖励自适应偏好更新将探索收益写回策略，同 cohort 表示正则和推理多样性选择再减少重复。探索应同时保持相关性，不能仅以头部占比下降证明用户受益。
教学例子：尝试一件冷门户外商品后若得到好反馈，训练可提高相关探索；纯随机插入每次从头碰运气，不会主动记住这次成功线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
SpecRoll中快速纠偏和慢速草稿头更新，为什么都不能替代精确验证器？
SpecRoll: Fast-Slow Verifier-Feedback Adaptation for Speculative Reinforcement Learning Rollouts
问答新增：2026-10-27 · VNU University of Engineering and Technology / Viettel AI
展开答案与例子
答案：策略在RL中持续变化，快速隐藏状态纠偏用于及时适应，持续退化时再触发较慢的草稿头训练。二者提高提议质量，精确接受拒绝验证才负责保持目标采样分布。若省略验证，即使草稿看似更准也可能改变RL数据分布；本地没有大模型吞吐结论。
教学例子：例如草稿头突然跟不上新策略，先修正隐状态再考虑训练；每次提议仍须验证，不能因连续几次猜对就直接当目标策略输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
本地SpecRoll注册候选意味着已测大模型RL吞吐吗？
SpecRoll: Fast-Slow Verifier-Feedback Adaptation for Speculative Reinforcement Learning Rollouts
问答新增：2026-10-27 · VNU University of Engineering and Technology / Viettel AI
展开答案与例子
答案：没有，当前验证状态与选择路径，未运行原文模型和完整环境。实际需核对接受拒绝残差、更新调度及成本，注册发现仅表示可被列出。
教学例子：例如候选列表出现方法名，不等于控制器已执行其完整GPU训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
SpecRoll改变draft后，GRPO目标也要改成draft目标吗？
SpecRoll: Fast-Slow Verifier-Feedback Adaptation for Speculative Reinforcement Learning Rollouts
问答新增：2026-10-27 · VNU University of Engineering and Technology / Viettel AI
展开答案与例子
答案：不需要，精确target验证保持采样分布，GRPO本身不变。若省验证直接用草稿，就改变训练数据政策，无法沿用原分布不变说明。
教学例子：例如草稿常猜对也不能直接把其概率当当前策略概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
SpecRoll为什么需要快速与慢速两种draft适配？
SpecRoll: Fast-Slow Verifier-Feedback Adaptation for Speculative Reinforcement Learning Rollouts
问答新增：2026-10-27 · VNU University of Engineering and Technology / Viettel AI
展开答案与例子
答案：RL目标策略不断变化，轻量隐状态纠偏应对短期漂移，持续退化才训练future head，避免每次波动都付完整更新成本。两者优化提议而非替换目标策略。
教学例子：例如一批接受率暂降先快速调整，持续跟不上再更新head。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
RAIL为什么把干预位置与方式当作带成本的决策，而不总在最不确定处多采样？
Optimizing What Policies Learn From: Recoverability-Aware Rollout Intervention Learning
问答新增：2026-10-27 · University of Notre Dame / Amazon
展开答案与例子
答案：不确定不代表能够恢复，一些状态追加预算也难以改变结果。控制器根据状态学习不同干预的可恢复收益，并扣除成本；从影子评估到实际执行，使调度随策略变化调整。恢复信号需要真实可审计反馈，不能读取标准答案来选动作，本地未运行原文大规模环境。
教学例子：例如一条轨迹只差一次工具重试，另一条已因前提错误无从修复，相同追加预算可能收益不同；单按熵高低无法区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
RAIL当前本地路径能支持哪些声明？
Optimizing What Policies Learn From: Recoverability-Aware Rollout Intervention Learning
问答新增：2026-10-27 · University of Notre Dame / Amazon
展开答案与例子
答案：可验证干预选择与成本目标的参考机制，不含原文大模型、专有环境或昂贵judge。需实际执行并评价后才称能力集成，不能只凭argmax公式报告预算收益。
教学例子：例如随机生成一组恢复分数后选最大值，尚未测真实轨迹能否恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
shadow-to-live评估与直接拿gold选择干预有何不同？
Optimizing What Policies Learn From: Recoverability-Aware Rollout Intervention Learning
问答新增：2026-10-27 · University of Notre Dame / Amazon
展开答案与例子
答案：前者通过允许的试探和实际反馈学习恢复价值，gold选择是不可用的oracle。控制器部署输入必须保持公开，不能把训练诊断标注直接作为可见状态。
教学例子：例如知道标准计划后精准重启，只能算oracle诊断而非智能控制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
RAIL为什么学习recoverability而不是只看不确定性？
Optimizing What Policies Learn From: Recoverability-Aware Rollout Intervention Learning
问答新增：2026-10-27 · University of Notre Dame / Amazon
展开答案与例子
答案：不确定状态未必可修复，干预应带来预期恢复收益并考虑成本。控制器把位置和方式作为条件决策，避免均匀追加预算或长期固定启发式。
教学例子：例如缺一次工具重试与前提完全错的轨迹，值得投入的程度不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
QEvict为什么在全精度与删除之间增加可恢复量化层？
QEvict: Recoverable Quantized KV Eviction for Attention-Drift-Robust Long-Context Decoding
问答新增：2026-10-27 · Indian Institute of Technology Roorkee
展开答案与例子
答案：长生成中注意力会漂移，当前不重要的窗口以后可能重新相关。量化层用较小存储保留可恢复内容，累计注意力升高时可解量化晋升；彻底删除则失去这种机会。恢复只能挽回保留近似信息，不能消除既有量化误差，本地状态验证不等于完整服务性能复现。
教学例子：例如前文人物线索暂时不用，先降到量化层；后续再次提问时可恢复参与注意，若先彻底删除，就只能另行重算或检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
QEvict 的累积评分若更新了，缓存状态转移也应同步检查什么？
QEvict: Recoverable Quantized KV Eviction for Attention-Drift-Robust Long-Context Decoding
问答新增：2026-10-27 · Indian Institute of Technology Roorkee
展开答案与例子
答案：需核对衰减γ、当前attention增量、晋升阈值及固定槽位预算，并保证量化内容确实存在可恢复副本。只把日志标签由quantized改成full，不等于发生真实解量化与迁移。
教学例子：窗口评分超过τ时，应有对应向量从量化表示恢复，而不是仅增加晋升计数。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
从量化层晋升，与从从未量化的全精度层直接读取，信息完全相同吗？
QEvict: Recoverable Quantized KV Eviction for Attention-Drift-Robust Long-Context Decoding
问答新增：2026-10-27 · Indian Institute of Technology Roorkee
展开答案与例子
答案：不一定。解量化恢复可访问表示，不代表找回量化已丢失的全部数值精度。它改善的是“可再次读取”相对永久删除的取舍，仍要单独测量量化误差。
教学例子：低比特向量可升回浮点存储，但不能凭空还原所有原始小数位。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
QEvict 为什么需要全精度、量化可恢复和删除三种状态？
QEvict: Recoverable Quantized KV Eviction for Attention-Drift-Robust Long-Context Decoding
问答新增：2026-10-27 · Indian Institute of Technology Roorkee
展开答案与例子
答案：注意力会漂移，当前不重要的历史可能再次被需要。中间量化层以较低存储保留部分可访问内容，允许后续按累积关注晋升，而删除是另一种不可恢复状态。
教学例子：一个旧窗口暂时降到量化层，后来又相关时可重新进入高优先级读取。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
共享 attention 与 norm、保留模态专属 FFN，分别在控制什么？
Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes
问答新增：2026-10-27 · Meta
展开答案与例子
答案：共享部分让不同模态在相同交互路径上交换信息，专属 FFN 则保留各自变换与容量，缓解完全共享时的竞争。要判断知识协同而非资源变化，必须控制数据、目标权重和预算；联合训练的总分上升，并不说明每个模态都同样受益。
教学例子：例如文字与图像共同参与注意力，但各走自己的 FFN；这像共享讨论渠道而保留各自加工方式，需分别测两类任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
联合目标的权重为什么属于复现契约，而不是无关超参？
Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes
问答新增：2026-10-27 · Meta
展开答案与例子
答案：总损失包含文本、理解与生成三项，两个系数改变各任务对共享参数的梯度贡献，从而改变协同或竞争条件。只验证小套件的数据流可执行不能等价于训练 13.5B MoE 与两万亿 token；本地单 seed 满分也不构成规模结论。
教学例子：例如把生成权重增大十倍会改变共享层受到的优化压力；即使三项名称不变，也不是相同训练配方。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
这项研究的早期联合训练，与分别训练各模态后只把最终向量拼接，有何知识交换区别？
Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes
问答新增：2026-10-27 · Meta
展开答案与例子
答案：联合训练让不同任务的损失作用于共享交互参数，因而可以研究跨模态梯度带来的协同或竞争。训练后拼接独立表示只改变下游可见特征，不会倒推产生同样的共享预训练过程。两者即使使用相同数据量，也不能据最终总分直接认定知识流相同。
教学例子：文本任务更新了共享attention后再测视觉任务，是跨任务影响；把两个已冻结向量并排放置并未发生这次更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
这项研究中的“模态协同”是否只是同时加入更多数据？
Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes
问答新增：2026-10-27 · Meta
展开答案与例子
答案：研究关注一种模态的训练是否改善另一种模态所需的知识与表征，并通过受控设置区别协同与竞争。单纯增加样本量会同时改变计算、数据覆盖与目标权重，不能据此识别知识流；需要固定关键条件比较模态组合和架构安排。
教学例子：例如加入图像训练后文本推理提升，仍需检查总 token 与计算是否匹配，才能讨论提升是否来自跨模态共享知识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
DBLast共享latent为什么能弥补并行草稿各位置独立采样的缺陷？
DBLast: Dependent Block Drafting for Stochastic Speculative Decoding
问答新增：2026-10-27 · Huawei Technologies Canada
展开答案与例子
答案：各位置在给定隐变量后可以并行，但共享隐变量使边缘联合分布带有跨位置依赖，避免把互相矛盾的高概率词元简单拼接。训练面向期望验证长度，而不只追求单位置命中率。混合结构仍需目标验证器确认，本地机制可执行不等于原文服务速度已复现。
教学例子：例如后续短语需要共同选择单数或复数，共享隐变量能协调多个位置；若各自独立挑最高概率词，可能拼出不一致的语法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
DBLast 的验收为什么要看精确 speculative acceptance，而不只看逐位置命中率？
DBLast: Dependent Block Drafting for Stochastic Speculative Decoding
问答新增：2026-10-27 · Huawei Technologies Canada
展开答案与例子
答案：部署收益依赖可连续接受的长度与联合提案质量；逐位置单独正确不保证整块连续通过。文档本地使用Markov target和rank-4 proposal做机制对照，不是实际大模型服务吞吐。
教学例子：第一和第三位常猜对，但第二位总错，连续接受长度仍可能很短。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
共享 latent mixture 与完全独立 unigram proposal，联合概率有什么不同？
DBLast: Dependent Block Drafting for Stochastic Speculative Decoding
问答新增：2026-10-27 · Huawei Technologies Canada
展开答案与例子
答案：独立proposal直接把各位置边缘概率相乘；DBLast先在同一个z下取乘积再对z积分，可表达位置相关性。两者单位置频率接近，也不意味着块级联合分布相同。
教学例子：每个位置都一半选A一半选B，仍可分别形成“总是AA/BB”或任意混合两种联合模式。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
并行草稿中，每个位置边际上合理，为什么整段仍可能不协调？
DBLast: Dependent Block Drafting for Stochastic Speculative Decoding
问答新增：2026-10-27 · Huawei Technologies Canada
展开答案与例子
答案：独立生成各位置会忽略它们之间的联合依赖。DBLast针对并行块的这个问题，用共享latent让位置在条件独立之外仍通过共同变量关联；不能只看单位置概率判断整段质量。
教学例子：颜色与物体分别看都常见，独立拼接却可能形成不协调组合，共享选择可让它们保持一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
从环境起点与目标状态构造任务，为什么不需要同时提供专家动作轨迹？
State2State: Environment-Derived Mid-Training for LLM Agents
问答新增：2026-10-27 · Tsinghua University AIR / Alibaba Group
展开答案与例子
答案：目标描述规定希望到达哪里，策略可通过探索尝试如何到达，规则化状态匹配仅负责最后验证。这样把任务生成与专家示范分开，扩大中训练来源；验证器内部目标或规则不能作为逐步正确动作提示，匹配定义也必须保留任务相关状态。
教学例子：例如给出初始物体布局和目标布局，Agent 自己移动物体，环境最后比对；无需先给一条“先左后右”的标准操作序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
State2State 的 T(s_T)=T(s*)，为什么必须事先固定状态投影？
State2State: Environment-Derived Mid-Training for LLM Agents
问答新增：2026-10-27 · Tsinghua University AIR / Alibaba Group
展开答案与例子
答案：投影决定哪些差异影响成功，临时为每次结果改T会改变任务。需核对起终状态、合法环境转移与匹配字段；本地状态算子不能替代原文真实环境的大模型中训练。
教学例子：若目标要求物品位置，不能在失败后把“位置”从匹配字段里删除以制造成功。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
目标状态监督与行为克隆专家轨迹，给策略的信息相同吗？
State2State: Environment-Derived Mid-Training for LLM Agents
问答新增：2026-10-27 · Tsinghua University AIR / Alibaba Group
展开答案与例子
答案：目标状态定义成功条件，行为克隆还给出动作序列。前者允许不同有效路径，不能把verifier里计算的专家路径偷偷传给策略后仍称无需专家轨迹。
教学例子：两条不同路线都到达目标，可以同样成功，而不必复制某条标准动作序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
State2State 为什么能从环境探索中自动构造训练任务？
State2State: Environment-Derived Mid-Training for LLM Agents
问答新增：2026-10-27 · Tsinghua University AIR / Alibaba Group
展开答案与例子
答案：探索产生可达起点与目标状态，用明确状态投影T匹配终点作为verifier，就可形成任务，不必每题人工写描述和专家动作轨迹。策略仍需自己寻找从起点到目标的过程。
教学例子：知道房间起点与目标布置，不代表同时知道应该依次执行哪些动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 Full replay 要减去结构匹配的 Observation-Ablated replay？
OCSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：直接比较带未来观察的重放与学生，变化同时含观察内容和额外脚手架格式的影响。保持结构一致只消融观察，再取差值更集中识别信息贡献，之后只调高不确定步骤的更新；未来信息属于训练归因，不能成为测试时可见输入。
教学例子：例如重放模板本身多了“请检查”提示，两种 replay 都保留它，只有真实观察有无不同，才能少把提示效应算给观察。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
OCSD 残差里的两个 student log-prob，在代数上应怎样抵消？
OCSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：同一token和student条件下，r=(logπ_full−logπ_S)−(logπ_abl−logπ_S)=logπ_full−logπ_abl。若两份student值来自不同前缀或token对齐，则不能这样抵消，需先修复匹配。
教学例子：用相同输入验证简化式与原式相同，可发现差值符号和位置错配。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
Full–Student gap 与 Full–Ablated 残差，校准掉的因素有什么不同？
OCSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：单gap同时包含观测内容和重放脚手架影响；匹配ablated对照在相同结构下移除观测，使两项差值进一步扣除共享影响。若两份模板不匹配，仍会残留新的混杂。
教学例子：只有Full里多了一句额外指令，Full−Ablated也会把那句指令效应误算进去。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
OCSD 为什么担心 replay scaffold 本身改变 token 分数？
OCSD
问答新增：2026-10-27 · Nanjing University
展开答案与例子
答案：重放未来observation时，额外结构和提示格式也会影响预测，不一定全来自观测信息。方法用结构匹配的Full与Observation-Ablated对照，提取更专注于观测的残差信号。
教学例子：加入一大段重放模板就改变了模型概率，不能把变化全记作环境证据贡献。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
以 Quality per Cost 为目标，为什么不能只追求更短的查询摘要？
MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off
问答新增：2026-10-27 · Hong Kong University of Science and Technology / Tencent LIGHTSPEED STUDIOS
展开答案与例子
答案：成本减少若损害回答质量，比例目标未必改善；同时构建、检索和总结各自都有推理费用。离线链蒸馏降低构建开销，RRF 与查询相关总结控制读取成本，再用成本感知奖励评价整体；应在相同质量口径下比较，而非把 token 少直接当成功。
教学例子：例如把五百字证据压到二十字虽便宜，却漏掉关键例外导致答错；保留八十字正确依据可能有更高质量成本比。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
RRF 检索与 LoRA summarizer 可以用一次文本拼接冒充吗？
MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off
问答新增：2026-10-27 · Hong Kong University of Science and Technology / Tencent LIGHTSPEED STUDIOS
展开答案与例子
答案：不可以。RRF 需要实际融合多个排名，summarizer 要生成查询相关上下文，成本感知 GRPO 还需真实奖励与更新。本地仅保留相应核心选择或状态诊断，未训练论文大模型与完整 benchmark，不能把接口字段存在称为蒸馏和 RL 已完成。
教学例子：例如把两份检索列表直接串起来既没有倒数排名融合，也没有学习摘要；结果能输入模型不表示执行了 QAR。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
降低记忆构建成本与降低每次查询成本，为什么应分开优化？
MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off
问答新增：2026-10-27 · Hong Kong University of Science and Technology / Tencent LIGHTSPEED STUDIOS
展开答案与例子
答案：构建处理持续进入的历史，读取则随用户查询反复发生，调用频率和有效信息需求不同。MemoryCPT 用离线链蒸馏减轻构建，读取侧再做排名融合与查询相关总结。某一侧便宜不等于总成本下降，应按实际写入与查询次数累计，同时检查答案质量。
教学例子：教学例：一天写入上千轮却只查两次时，构建费用可能占主导；若同一历史被查上百次，读取侧的小额节省才会累积。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长期助理为什么需要分别核算存记忆与用记忆的成本？
MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off
问答新增：2026-10-27 · Hong Kong University of Science and Technology / Tencent LIGHTSPEED STUDIOS
展开答案与例子
答案：大量历史持续写入，用户查询又反复触发检索与摘要，二者频率和费用来源不同。MemoryCPT 研究端到端质量成本折中，既让构建更轻量，也让读取内容服务当前问题；不能只缩短一个摘要就认为整个记忆系统更高效。
教学例子：例如每天写入数百条、只问五次，与每天只写五条却问数百次，会让构建和读取成为不同的主要开销。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 Belief、Progress、Experience 要成为策略可读写的外部状态？
EvoHarness-RL: Learning Self-Evolving Runtime Harness for Long-Horizon LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana–Champaign / Meta AI
展开答案与例子
答案：固定框架替模型决定保存和合并什么，可能不适合当前任务。显式 harness action 让策略学习维护信念、进度与经验，先 SFT 学接口，再以任务收益减管理成本优化使用时机；写得越多不等于越好，状态内容也须由实际观察支持。
教学例子：例如遇到新约束时写入 Belief，重复信息则合并进 Experience；若每轮无差别追加所有日志，管理费用会抵消任务收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
EvoHarness-RL 的 harness 成本项，为什么要与真实执行日志绑定？
EvoHarness-RL: Learning Self-Evolving Runtime Harness for Long-Horizon LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana–Champaign / Meta AI
展开答案与例子
答案：R=R_task−λC_harness中的成本应反映实际读写/合并，而不是只统计被提议的操作。还需核对状态更新是否被后续策略读到；本地mini-suite不等于原文完整大模型RL。
教学例子：生成了“合并经验”的文本但没有更新状态，不能记为一次成功harness操作。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
学习 harness policy 与固定配置记忆模块，优化对象有什么区别？
EvoHarness-RL: Learning Self-Evolving Runtime Harness for Long-Horizon LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana–Champaign / Meta AI
展开答案与例子
答案：固定模块规定存取流程；harness policy选择何时读写和合并，并为这些操作付成本。不能仅给固定流程登记一个“可进化”名字就认为策略已学会管理外部状态。
教学例子：每轮固定保存全部历史，与根据当前进度决定是否保存，是不同控制方式。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
EvoHarness-RL 为什么让读写运行状态也成为可训练动作？
EvoHarness-RL: Learning Self-Evolving Runtime Harness for Long-Horizon LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana–Champaign / Meta AI
展开答案与例子
答案：Belief、Progress、Experience若只由固定脚本维护，策略无法学习何时值得更新或合并。方法先SFT学会harness action，再以任务回报与运行成本训练使用这些状态的时机。
教学例子：一个简单任务不必频繁改写经验库，长任务则可能需要保存阶段进度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
把LLM判断转成Beta伪计数时，为什么先验强度κ和预测概率p一样重要？
LLM-Derived Priors for Thompson Sampling in Cold-Start Comment Recommendation
问答新增：2026-10-27 · NAVER WEBTOON
展开答案与例子
答案：概率决定初始偏好方向，伪计数强度决定新反馈需要多少次才能改变它。κ过大时，错误语义判断可能长期压过真实反馈；过小时又几乎不能缓解冷启动。Thompson采样在后验上探索并持续更新，因此LLM只提供起点而非永久答案；本地分群代理实验不能证明文本先验普遍有效。
教学例子：两个新内容都得到80%语义先验，一个只相当于几次观察，另一个相当于上千次；出现连续负反馈后，前者很快改变，后者仍可能固执地被推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
Beta prior 更新时，为何应区分先验伪计数与实际成功失败？
LLM-Derived Priors for Thompson Sampling in Cold-Start Comment Recommendation
问答新增：2026-10-27 · NAVER WEBTOON
展开答案与例子
答案：初始化按 1+κp、1+κ(1−p) 形成参数，后续只给已展示并得到反馈的 arm 加真实计数，未曝光不应记失败。分群状态要按定义独立维护，测试未来反馈不得用于初始化。本地 genre 代理不是 LLM 语义调用的完整证明。
教学例子：一个 arm 没被选中就没有这轮反馈，不能因其他 arm 赢了给它加负例；否则探索迅速排斥未试选项，失去后验含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
相同 p 不同 κ 的先验，为什么在早期反馈下表现不同？
LLM-Derived Priors for Thompson Sampling in Cold-Start Comment Recommendation
问答新增：2026-10-27 · NAVER WEBTOON
展开答案与例子
答案：p 决定均值方向，κ 决定伪观察量和置信强度，强先验更难被少量真实反馈改变。概率相同不意味着同样探索；过强 κ 可锁住错误语义判断，过弱则几乎没借到知识。机制差异不等于某 κ 在所有人群更好。
教学例子：两份先验都估六成，一份相当两次观察、一份相当两百次；新增三次失败时，前者会明显调整，后者几乎仍坚持原判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
LLM-TS Prior 为什么把语义判断转成 Beta 伪计数，而非直接决定推荐？
LLM-Derived Priors for Thompson Sampling in Cold-Start Comment Recommendation
问答新增：2026-10-27 · NAVER WEBTOON
展开答案与例子
答案：语言模型给新品一个初始成功概率，伪计数把它纳入可被反馈更新的贝叶斯状态，Thompson sampling 再平衡探索。这样先验只是起点，不应压过所有真实观察。文本可能含偏差，分群也不保证用户内部同质。
教学例子：新品评论被判断适合某群体，先得到温和先验，后续点击与忽略逐次修正；不能因模型一开始说适合就永久只推它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
SMOPD为什么先训练不同奖励侧重的专家，再在学生状态上合并？
SMOPD: Multi-Reward Reinforcement Learning via Specialize-and-Merge Online Policy Distillation
问答新增：2026-10-27 · Alibaba / Qwen
展开答案与例子
答案：不同奖励优先级可塑造具有不同专长的教师，随后让它们在学生实际到达的状态提供分布监督，以加权蒸馏吸收这些能力。它不等于先把奖励平均成一个教师，也不保证所有能力无损共存；权重与教师分歧仍需验证，本地只是候选模型实验。
教学例子：例如一个教师擅长检查计算，另一个擅长格式约束，学生在自己的解题步骤上同时获得指导；并非直接把两套参数平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
SMOPD多教师KL实现需在什么状态对齐？
SMOPD: Multi-Reward Reinforcement Learning via Specialize-and-Merge Online Policy Distillation
问答新增：2026-10-27 · Alibaba / Qwen
展开答案与例子
答案：都评分学生自身同一前缀，权重和教师目标固定，不能把各教师独立生成的位置直接逐项相加。当前候选核没有完成真实专家训练与合并。
教学例子：例如一个教师第二步与另一个第四步没有共同状态，就不是相同位置的联合监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
SMOPD奖励专家与MOPD领域专家的组织依据有何差别？
SMOPD: Multi-Reward Reinforcement Learning via Specialize-and-Merge Online Policy Distillation
问答新增：2026-10-27 · Alibaba / Qwen
展开答案与例子
答案：前者按奖励优先级塑造专长，后者常按任务领域独立训练教师；二者都可多教师蒸馏，但专家划分与评价维度不同，不能仅按名字混用资源预算。
教学例子：例如同一领域可有不同奖励专家，不必每专家代表一个数据领域。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
SMOPD为什么先specialize再merge？
SMOPD: Multi-Reward Reinforcement Learning via Specialize-and-Merge Online Policy Distillation
问答新增：2026-10-27 · Alibaba / Qwen
展开答案与例子
答案：不同奖励优先级可训练出不同专长教师，再在学生轨迹上融合稠密监督，避免从一开始把冲突目标挤成同一专家。多样教师仍可能相互干扰。
教学例子：例如一个教师重严谨，一个重格式，先分开学再决定如何教学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
CausalOPD为什么优先定位第一个错误步骤，再用短horizon修复？
CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：因果链一旦前面出现错误，后续很多步骤可能只是沿错前提继续，逐项模仿末端结论难以修正源头。先定位首错，把短程更新集中到这一转折，再组织证据到机制到结论的课程。教师定位仍可能有误，本地候选诊断也不等于自然语言因果推理能力。
教学例子：把相关性误当因果发生在开头，后面推导虽工整仍基于错前提；应先修这一跳，而非只改最后一句。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
首错搜索没发现错误时能默认索引为零吗？
CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：不能，应显式表示无错误或无可靠判定，避免把首步误当错误。索引需对齐真实步骤，训练特权判断不进入学生推理输入；本地候选核未实现完整因果链教师。
教学例子：例如空集合取最小值需明确边界，而不是让程序返回第一步凑数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
首错短horizon修复与全轨迹模仿有什么取舍？
CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：短窗口聚焦局部因果断点，减少无关监督；全轨迹可覆盖更多内容但也更远离学生。若教师首错定位错误，局部化也可能遗漏真正问题，不能直接当效果保证。
教学例子：例如只修机制连接可保留前面证据，但不代表整条结论从此一定正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
CausalOPD为什么优先定位第一处错误？
CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：后续错误可能只是前面错误的连锁后果，先修首个断点可减少重复惩罚或无效长程探索，再按证据、机制、结论组织课程。教师定位可靠性是前提。
教学例子：例如因果链第一步前提错，后面推导虽连贯仍建立在错误基础上。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
ADRS为什么先检查教师置信与实际回报的相关性，再使用教师token信号？
ADRS
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：特权教师越自信不必然意味着任务越成功，直接灌入可能放大错误。ADRS在交互步内标准化教师分数，用与实际回报的正相关形成门控，再进入原奖励到优势路径。负相关不应被当正向帮助，推理时也不依赖训练专属技能或结果信息。
教学例子：某一步教师总偏爱流畅但无效的工具调用，而真实回报更低；相关性门控应限制这种自信信号进入策略更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
ADRS标准化是在整条轨迹还是同一交互step内？
ADRS
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：按交互step对教师分数标准化，再与跨轨迹回报计算相应相关，写入宿主reward-to-advantage路径。不能把局部z分直接视作独立终局正确标签。
教学例子：例如第二轮工具调用的教师信号，应与同轮其他轨迹比较，而非混入所有轮次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TVA相关门控与固定蒸馏系数有何不同？
ADRS
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：固定系数始终信任教师，门控只保留与回报正相关的部分。相关性是批次统计而非因果保证，也不能在测试时借标准答案估一份最有利gate。
教学例子：例如教师分数与成功无关时，正部相关可使额外指导减弱。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
ADRS为什么不直接相信特权教师的高置信？
ADRS
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：额外技能或信息可让教师更确定，却未必提高真实回报。方法观察同一步教师分数与已实现回报的相关，再门控稠密信号，避免无效自信主导训练。
教学例子：例如教师很喜欢某工具用法，但实际任务常失败，就不应无条件强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
TaskPress宣称不看下游query，为什么仍需要task guide对context的注意力？
TaskPress: Query-Agnostic KV Cache Compression via Task-Guided Pruning
问答新增：2026-10-27 · Google
展开答案与例子
答案：任务级引导提供可复用的压缩偏好，选择器只读引导到上下文的注意力并结合值的量化尺度，不能借实际未来查询定制缓存。引导自身KV随后丢弃，保留历史的位置编号。真实引导生成与多任务效果不由小张量选择核证明，完整配置本地因成本过高未复现。
教学例子：例如同一摘要任务可用通用引导压缩多段材料，未来具体提问尚未给出；若先读真实问题再挑证据，就不再是查询无关压缩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
TaskPress 平均池化边缘时，能按实际有效邻居数重新除吗？
TaskPress: Query-Agnostic KV Cache Compression via Task-Guided Pruning
问答新增：2026-10-27 · Google
展开答案与例子
答案：文档要求奇数K、零padding并始终除固定K；按边缘邻居数重新归一化会改变评分。gather后保留原position IDs，guide KV不保留；低index tie-break是本地约定而非作者结论。
教学例子：窗口K=3在context第一个位置缺一个邻居，也仍按3归一化而非改除2。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
TaskPress 的 key importance 与 value scale，为何要相乘而非只看 attention？
TaskPress: Query-Agnostic KV Cache Compression via Task-Guided Pruning
问答新增：2026-10-27 · Google
展开答案与例子
答案：guide注意力反映被读取程度，value scale反映量化相关幅度；结合后评分同时考虑匹配与内容尺度。仅保留其中一项会改变原式，不能把任意attention top-k当作TaskPress。
教学例子：两项key importance相同，value幅度不同，最终score也可不同。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
TaskPress 的 query-agnostic，是否意味着完全不使用任务信息？
TaskPress: Query-Agnostic KV Cache Compression via Task-Guided Pruning
问答新增：2026-10-27 · Google
展开答案与例子
答案：不是。它不读取真实下游query，而使用task guide对context的注意力指导裁剪。任务信息与具体查询是两类输入，不能把“不看query”解释成纯随机或纯位置压缩。
教学例子：先知道任务是摘要，可构造task guide，但并不提前知道未来用户的具体问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
local verifier 与 global verifier 为什么要分别检查记忆操作？
VerMem
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：局部验证器检查一次状态转移是否符合操作合同，无法独自判断长期证据是否前后一致；全局验证器补充整条轨迹与最终记忆的关系。二者与任务奖励共同训练状态管理，避免合法小步骤累积成错误事实；验证器通过率仍不是模型任务准确率。
教学例子：例如删除字段这一操作格式合法，但删除了后续答案唯一依据，局部检查可能通过，全局证据一致性却应提出问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地原子操作有非零 telemetry 是否等于七种操作与完整 RL 都已复现？
VerMem
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：不等于。README 明确本地维护三种状态并执行 retrieve、add、restore 等核心路径，计数证明这些分支运行；未运行原文多卡 RL 或完整环境。宣传范围应以实际操作与预算合同为准，不能用方法名或非零计数替代完整训练。
教学例子：例如 restore 计数大于零说明状态恢复被调用，不说明一个学得策略会在真实长程任务中正确选择恢复时机。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
最终任务奖励与记忆操作验证，为什么监督的对象不同？
VerMem
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：最终任务奖励说明整次任务结果，但难定位是检索、保存还是恢复操作出了问题；记忆验证针对状态转移及证据一致性，操作成本再约束资源使用。结果成功仍可能含冗余或不合法的状态步骤，步骤合法也可能没解决任务，所以训练需区分这些信号的职责。
教学例子：教学例：碰巧答对不表示先前删除关键证据是好操作；一次合法检索也可能没有找到答案，两种反馈不应互相冒充。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
长期记忆、活动上下文和 episodic history 为什么要统一管理？
VerMem
问答新增：2026-10-27 · Sun Yat-sen University
展开答案与例子
答案：三类状态决定信息保存位置和当前可见性，分开优化可能造成写入、恢复和读取之间不一致。VerMem 由同一策略选择原子操作，局部验证状态转移、全局验证最终证据一致性；统一策略并不意味着三类状态相同或可以任意互换。
教学例子：例如事实已归档到长期记忆，当前回答前需 retrieve 或 restore 进入活动上下文；仅在历史里存在并不保证模型能读到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
把轨迹提升为 function workflow graph，为什么有利于换一套工具后复用计划？
ToolLIFT: Lifting Tool-Specific Trajectories into Function-Level Graphs for Generalizable Tool Planning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：功能图保留“需要完成哪种操作及其依赖”，把具体工具名称与接口推迟到执行时选择。换工具集后仍可沿功能关系规划，再按当前 schema 找实现；这不是忽略参数合同，功能节点仍须由具备所需输入输出能力的真实工具完成。
教学例子：例如旧工具叫 search_web、新工具叫 lookup，若二者都实现查找证据功能，工作流可复用，但参数与返回格式还须重新匹配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
Lift 与 Select 两步实现时，为什么要保留状态依赖而不只存功能列表？
ToolLIFT: Lifting Tool-Specific Trajectories into Function-Level Graphs for Generalizable Tool Planning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：图边说明后一步需要前一步产生的证据或对象，Select 还要根据当前状态选择工具。无序功能列表会丢掉变量来源和执行前提；本地 mini-suite 只验证提升与选择控制流，未调用真实工具集，不能用其满分推断未见服务泛化。
教学例子：例如先查订单得到 order_id，再取消该订单；只存“查询、取消”而不绑定 ID，会让第二步无法构造合法调用。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
功能 workflow graph 与可直接执行的工具调用计划，分别需要哪些信息？
ToolLIFT: Lifting Tool-Specific Trajectories into Function-Level Graphs for Generalizable Tool Planning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：功能图描述目标操作与状态依赖，可跨工具目录保留程序性结构；可执行计划还必须把每个节点绑定到当前 API、参数和实际可用对象。前者提供迁移用的抽象，后者承担接口落地，缺少任一层都不能保证执行：图合理不等于参数合法，调用合法也不等于功能完整。
教学例子：教学例：功能图写“查客户→查订单”；落地时仍要确认新服务返回 customer_id 还是 account_id，以及订单接口接受哪个字段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
工具集合经常更换时，ToolLIFT 希望迁移的是哪一部分经验？
ToolLIFT: Lifting Tool-Specific Trajectories into Function-Level Graphs for Generalizable Tool Planning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：不同服务的 API 名、参数和返回格式会变，但任务常有稳定的功能步骤，例如先查身份再读取记录。ToolLIFT 关注保留这些程序性经验，再在当前工具目录里寻找实现方式，避免旧轨迹一换服务就报废；具体接口仍必须重新核对。
教学例子：例如从甲系统迁到乙系统后，查客户再查订单的需求仍在，但原先两个函数名和字段不能直接复制到新系统。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
STEPS 为什么把“下次何时唤醒”和“此刻是否推送”交给不同 agent，并加轻量过滤？
A Self-Triggered Agentic Push Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：固定频控不能适应用户状态，频繁轮询又浪费计算。规划 agent 用有序间隔预测决定何时再观察，执行 agent 根据轨迹回报选择发送，过滤器先拦截异常或低价值计划。分工把观察频率与发送决策联合成闭环，仍需区分等待收益与消息收益；本地代理排序结果不能替代真实推送留存实验。
教学例子：用户刚忽略一条通知，规划器可延长下次唤醒间隔；到时执行器发现没有值得发的内容，仍可选择不发。过滤器则避免异常计划让系统每秒反复唤醒。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
STEPS本地是否有真实permission和wall-clock唤醒器？
A Self-Triggered Agentic Push Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：没有，MovieLens只验证决策分解，缺少push授权、触达成本和实际时钟调度。模拟间隔不代表设备会真的唤醒，执行仍需服务契约和真实回报。
教学例子：例如数组里的下一次时间更新，不等于用户手机实际收到一条通知。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
planning、execution与filter三角色是否只是同一分数阈值？
A Self-Triggered Agentic Push Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：planning预测唤醒间隔，execution评发送，filter限制成本与异常计划，职责不同。把三个都压成发送概率会丢掉调度与防护机制，不能宣称完整agentic push。
教学例子：例如决定明早再醒与决定此刻是否推送，是两个不同输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
STEPS为什么同时决定发不发和何时再唤醒？
A Self-Triggered Agentic Push Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：固定频控不能跟踪用户状态，周期轮询又浪费或错时。规划间隔、执行动作和轻量过滤形成自触发闭环，把时机与计算成本一起纳入决策。
教学例子：例如这次不推，也需决定多久后再评估，而不是无限等到固定轮询点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
SPEAR 为什么将改写置信度与物品相关性相乘，并隔离召回与排序 embedding 的梯度？
SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search
问答新增：2026-10-27 · Dewu
展开答案与例子
答案：端到端训练可能让泛化词靠高路径分数取胜，即使它偏离原查询。乘法门要求改写可信且对应物品相关，单项再高也不能轻易走捷径；双表示与梯度隔离保护召回语义不被排序目标任意扭曲。动态 selector 再做请求级校准，仍需检查置信度是否可靠，不能只用一个高总分证明改写正确。
教学例子：把“防水登山鞋”改成“热门商品”可能得到高点击路径，但改写置信度应低；乘法门压低这条捷径，让真正保留防水需求的改写更有机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
本地SPEAR双路代理是否等于真实query rewrite generator？
SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search
问答新增：2026-10-27 · Dewu
展开答案与例子
答案：不是，MovieLens内容代理商品帖子，没有私有query会话和生产生成器。梯度隔离应保护相应embedding路径，原query分仍保留，不能用测试行为挑改写。
教学例子：例如提供一条手写改写后打分，未测模型是否会生成它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
乘法门与改写置信加相关分有什么不同？
SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search
问答新增：2026-10-27 · Dewu
展开答案与例子
答案：乘法需要两者共同支持，一项低就限制贡献；加法可能由极高另一项补偿无关改写。动态selector还调request级scale和bias，不能只加两个静态分冒充。
教学例子：例如改写很自信但商品不相关时，不该凭置信单独拿高分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
推荐SPEAR为什么保护原query召回语义？
SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search
问答新增：2026-10-27 · Dewu
展开答案与例子
答案：通用改写词可能凭高路径分走捷径，偏离用户原意。双embedding与梯度隔离保留原召回结构，再用改写置信乘物品相关性门控，让个性化不任意放大。
教学例子：例如想搜跑鞋，宽泛运动改写不能仅靠流行度把无关内容推上来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
KGD为什么筛选相关未来物品，并让迁移残差与知识锚点正交？
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
问答新增：2026-10-27 · Xiamen University / Shopee
展开答案与例子
答案：紧邻点击可能是噪声或任务切换，BMTP选择协同或语义相关的未来目标，让预训练知识更集中。迁移时冻结可刷新的知识编码器，任务侧只读它，再用去除锚点投影的残差补充新几何，减少直接覆盖已有知识。正交限制只规定更新方向，不能保证所有任务信息都能无损共存。
教学例子：相邻一次误触不应和稳定摄影需求同等监督；新任务要增加价格敏感信息时，可尽量沿知识锚点之外补充，而不是把已有摄影语义整体改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
KGD 的只读知识与正交投影应怎样检查梯度和零范数边界？
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
问答新增：2026-10-27 · Xiamen University / Shopee
展开答案与例子
答案：冻结知识编码器或明确刷新版本，任务损失不得通过只读接口更新它；ACR 投影分母依赖锚点范数，零或近零需定义处理。代码若只写 r−e 而非投影，就不是正交残差。本地有界机制不能代表流式生产迁移全部完成。
教学例子：锚点为零时没有方向可投影，不能直接除以零；一次反传后知识参数若变化，也已违背只读迁移，哪怕输出维度正常。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
KGD 的正交 ACR 与普通残差 adapter，相比限制了哪种改写？
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
问答新增：2026-10-27 · Xiamen University / Shopee
展开答案与例子
答案：从残差中去除沿知识锚点的投影，意在让任务补充方向不直接覆写已有主方向。普通残差可任意叠加，表达更自由也更可能干扰。正交只是几何约束，不代表知识完全不变或语义独立，效果需按任务验证。
教学例子：知识已有“摄影”方向，适配器可补预算差别而非仅把摄影强度放大；但垂直向量仍可能编码噪声，不能因正交就认定有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
KGD 的 BMTP 为什么筛选相关未来物品，而非所有相邻点击都等价监督？
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
问答新增：2026-10-27 · Xiamen University / Shopee
展开答案与例子
答案：相邻事件可能偶然出现或属于不同需求，盲目预测会将无效转移写进知识。BMTP 用协同或语义关系挑更有意义未来目标，再让迁移任务只读知识。筛选依赖关系质量，可能错过真实新兴趣；未来标签仍限训练监督。
教学例子：看相机后误点一条体育新闻，不一定应强学这条转移；相关未来镜头更像同一需求，但不能因此永久排斥跨主题探索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
DME的推理与重建生成头为什么只在训练期使用？
Douyin Multimodal Embedding Model Technical Report
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：对比向量便于在线检索，但可能忽略细粒度证据；训练期的typed latent目标和交叉重建要求表示保留对侧相关信息，再把这些能力压进检索向量。在线仍可只计算高效相似度，避免逐候选生成推理文本。辅助损失提供的是表示约束，不代表服务向量能忠实输出一条可解释推理链。
教学例子：训练中让查询向量保留商品的关键材质和用途，借重建任务检查是否丢失；上线直接用向量检索，不必为每一对查询和商品生成长解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
DME 实现验收时，为什么要确认生成头确实从 serving 路径移除？
Douyin Multimodal Embedding Model Technical Report
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：两个生成头只应在训练损失中提供监督，推理输出取编码向量用于匹配。若在线仍执行重建，延迟和依赖就不符合预期；若训练头从未更新，又不能声称完成重建学习。本地 ridge 头诊断与原文大型多模态头需保留范围差异。
教学例子：训练记录可包含双向重建 loss，部署导出只保留两塔；若测延迟时关闭头、效果时开启头，两个结果就不是同一服务模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
DME 的 typed latent evidence 与在线显式 CoT，相比保留和放弃了什么？
Douyin Multimodal Embedding Model Technical Report
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：typed latent 以结构化内部证据训练表示，服务仍使用高效向量；显式 CoT 每次生成可读步骤但增加延迟。前者放弃在线完整文字解释来保留检索效率，也不能据内部状态存在就声称推理链忠实。来源本地的重建代理不等于完整多模态生成头。
教学例子：训练教模型区分地点、用途等证据类型，线上只返回向量检索结果；读者不能因此要求它展示逐步原文理由，因为该路径并未在线生成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
DME 为什么不仅做向量对比，还要求跨条件重建对侧细粒度语义？
Douyin Multimodal Embedding Model Technical Report
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：对比监督通常只强调哪些样本更近，可能忽略能区分近邻的细节。跨条件重建要求查询向量支持恢复文档信息、文档向量支持恢复查询信息，让压缩表示保存更多可用语义。重建并不保证无损，训练期信息也不能在服务时额外取回。
教学例子：两篇露营文档都相近，一篇讲冬季保暖、一篇讲轻量化；重建任务鼓励向量保留这些差别，而不是只记共同主题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
PCSD为什么累积一段持续的teacher-favoring信号，而不看到单token gap就开关监督？
PCSD
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：单点师生差容易受概率噪声影响，整轮共用权重又会丢掉位置差异。窗口内指数累积与下降趋势衰减折中这两点，再通过连续gate控制OPSD与GRPO结合。持续支持仍不保证教师正确，平滑只是稳定信号，不应被当作额外独立验证。
教学例子：一个词偶然被教师高估，周围位置却不支持该方向；与连续一段都支持相比，监督强度不必相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
PCSD累计状态可以跨不同响应继续使用吗？
PCSD
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：不得把无关轨迹历史混入同一时序累计，需按响应重置和处理有效mask。教师或gate统计作为固定监督，本地确定性核不等于真实长推理自蒸馏。
教学例子：例如上一题末尾高支持不能变成下一题开头的置信先验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
PCSD连续门控与硬阈值选token有什么区别？
PCSD
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：sigmoid提供平滑强度，不只保留或删除；历史累计使同样当前gap在不同趋势下权重可不同。它仍依赖教师信号，不是对正确性的新验证器。
教学例子：例如当前gap一样，但一条在持续改善、一条持续下降，门控可以区别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
PCSD为什么用持续信号而非单token gap？
PCSD
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：局部teacher gap可受噪声影响，整段同权又过粗。自适应窗口累计支持并衰减下降趋势，再连续门控监督，试图兼顾稳定与位置差异。
教学例子：例如孤立一次高分与连续几步教师支持，应有不同的可信程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ERILS为什么分别处理自身与外部rollout的奖励，而不把它们直接拼组归一化？
Beyond On-Policy Exploration: Integrating External Policy Rollouts for Reinforcement Learning in Diffusion Language Models
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：不同来源的长度与奖励分布可能不同，联合归一化会把来源差异混成优势，使一类样本支配或失去信号。ERILS限制外部轨迹长度并分来源处理奖励，保留外部探索价值。来源分组不自动消除所有离策略误差，仍需按实际目标解释采样口径。
教学例子：外部策略总写更长、更高分的回答，直接与学生短回答混组，可能让所有学生样本都变负；应先识别来源差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ERILS实现为什么还需显式检查外部响应长度？
Beyond On-Policy Exploration: Integrating External Policy Rollouts for Reinforcement Learning in Diffusion Language Models
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：长轨迹会影响有效词元预算与损失尺度，方法要求长度约束。来源标签也要一直传到奖励归一化，不能拼接后丢失；本地candidate-policy未跑完整扩散检查点训练。
教学例子：例如超长专家轨迹若直接混入，可能占满批次预算，改变原来的混合设定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
来源分别归一与on/off混合一起归一有什么区别？
Beyond On-Policy Exploration: Integrating External Policy Rollouts for Reinforcement Learning in Diffusion Language Models
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：两个来源的奖励尺度和分布可能不同，联合基线会让一种来源系统压制另一种。分别处理能保留各自组内信号，但不自动解决所有跨策略偏差。
教学例子：例如专家奖励整体较高，联合均值可能把学生有价值改进也变成负优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ERILS为什么在扩散RL中引入外部rollout？
Beyond On-Policy Exploration: Integrating External Policy Rollouts for Reinforcement Learning in Diffusion Language Models
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：学生自身探索可能覆盖不足，外部策略提供不同轨迹。引入后必须处理来源与长度差异，不能把外部高分直接解释为学生原生可达能力。
教学例子：例如外部模型提供另一种去噪轨迹，学生学习来源仍要在记录中明确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
TTCD让短窗口学生学习长窗口教师的什么，而不只是模仿最终答案？
Learning What to Remember: Test-Time Training via Context Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：长窗口教师提供隐藏状态层面的目标，监督学生的fast weights保留对后续预测有用的上下文信息。学生有限记忆需要学会筛选，而不是平均压缩每个历史token。隐藏状态蒸馏能表达中间信息差距，但仍不保证压缩记忆完整保存教师看到的所有细节。
教学例子：长文开头定义了一个变量，教师到结尾仍能直接读取；短窗口学生需把该定义写进fast weights，使后续状态接近教师，而不仅背下某一次结尾答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
计算长窗口教师与 fast-weight 学生的差异时，为什么需要对齐位置和表示？
Learning What to Remember: Test-Time Training via Context Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：文档损失逐t比较两条路径的hidden，要求比较同一位置且维度可对应；错位或广播会优化错误对象。当前mini-suite未训练论文规模checkpoint，不能据其分数宣称长文本能力复现。
教学例子：第20步学生状态应对齐教师第20步，而不是教师整篇最后一步的表示。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
TTCD 的状态蒸馏，相对只匹配最终 token 输出多约束了什么？
Learning What to Remember: Test-Time Training via Context Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：隐藏状态损失直接对齐教师与fast-weight学生的中间表征，而不只是最后预测概率。监督位置和表示空间不同，不可把它简写成普通输出蒸馏而忽略记忆学习路径。
教学例子：两个学生给出同一个下一词，但内部保留的历史信息仍可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
TTCD 的长窗口教师与短窗口学生，最直接的信息条件差别是什么？
Learning What to Remember: Test-Time Training via Context Distillation
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：教师能看到更长历史，学生受有限窗口或fast-weight记忆约束。教师hidden-state监督提供保留信息的目标，但不能据此假设部署学生也直接访问完整长历史。
教学例子：教师读过整段背景后给学习信号，学生运行时仍需依靠自己的有限记忆保留相关信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
RD-AttnRes为什么只为V增加一条深度路由，而让Q/K继续共用另一条？
Role-Decoupled Attention Residuals
问答新增：2026-10-27 · Kehan Wang（论文未列机构）
展开答案与例子
答案：Q/K决定怎样匹配位置，V承载实际取回的内容，两种角色需要的历史层组合可能不同。方法保持同一组残差来源和attention主体，为V单独学习深度选择，使内容来源可以与匹配依据分离。额外的是路由自由度，不能解释成凭空增加了原先不存在的残差信息。
教学例子：较浅层更保留词面细节，较深层更适合语义匹配；Q/K可偏向语义组合，而V仍取用较浅的细节，不必强迫三者使用完全相同的深度权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
实现 RD-AttnRes 时，应分别为 Q 和 K 再拆两条独立路由吗？
Role-Decoupled Attention Residuals
问答新增：2026-10-27 · Kehan Wang（论文未列机构）
展开答案与例子
答案：文档让Q/K继续共用h_QK，只为V使用h_V。进一步拆开Q与K会引入额外变更；核对时可检查两组深度权重及实际分歧，但分歧非零不意味着PPL必然改善。
教学例子：Q和K都由同一深度混合表示投影，V则由另一混合表示投影。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
RD-AttnRes 相对 Block AttnRes，哪个变量被刻意保持不变？
Role-Decoupled Attention Residuals
问答新增：2026-10-27 · Kehan Wang（论文未列机构）
展开答案与例子
答案：它保留相同residual sources和attention主体，主要解耦QK与V的深度路由，为V增加独立路由向量。这样的匹配消融才能更清楚分析路由角色分离，而非把换主干的收益混进来。
教学例子：两组都读取同一批历史层表示，只比较是否允许V使用不同深度权重。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
RD-AttnRes 所谓“深度路由”，是在选择 token 还是历史层表示？
Role-Decoupled Attention Residuals
问答新增：2026-10-27 · Kehan Wang（论文未列机构）
展开答案与例子
答案：这里的候选是历史residual sources，即不同深度产生的表示。模型为QK与V分别选择这些来源的组合，改变attention输入从哪些深度读取，而非新增token级专家路由。
教学例子：QK更重视较深的匹配特征，V可以保留较浅层的内容表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
DART为何保留多个chunk的递归状态，而不是只用最后一个状态回答问题？
DART: Decoded Attention over Recurrent States for Efficient Long-Context Sequence Modeling
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：单个递归状态把很多历史合并到固定容量，某条旧信息可能被之后的更新覆盖。DART保留分块产生的状态贡献，把它们解码成可查询的K/V，再让当前token通过attention选择相关状态，并与Mamba路径融合。它为递归摘要增加了可寻址的记忆入口，代价是额外保存和检索状态。
教学例子：一章记作者、一章记年份；最终状态可能偏重后一章。查询作者时，可回到前一块的状态贡献，而不必指望最后状态仍完整携带两项信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
DART 融合式里的门 g_t 应作用在哪条路径上？
DART: Decoded Attention over Recurrent States for Efficient Long-Context Sequence Modeling
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：文档表达式把Mamba输出作为主路径，再加上门控后的state-memory attention。实现需区分递归状态更新、状态到K/V的解码和查询读取，不能把门误用成对整个输出统一缩放。
教学例子：g_t接近0时，额外记忆读取贡献变小，但Mamba主路径仍保留。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
DART 的状态记忆与保存所有原始 token 的 KV cache，保存对象有何不同？
DART: Decoded Attention over Recurrent States for Efficient Long-Context Sequence Modeling
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：DART检索的是分块递归状态解码出的K/V，不是逐token原样保存的全部历史K/V。它通过状态压缩与额外attention平衡记忆容量和访问方式，压缩损失不会因此消失。
教学例子：查询会访问“某一块的状态表示”，不能默认其中每个旧词都能被逐字还原。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
DART 为什么把递归状态当成可查询记忆，而不只当作最终摘要？
DART: Decoded Attention over Recurrent States for Efficient Long-Context Sequence Modeling
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：固定容量递归状态可能在连续更新中丢掉旧信息。DART保留分块的状态贡献，让当前查询能再次选择相关的历史状态，为长期依赖增加可寻址入口。
教学例子：读完很多章节后要问第一章的人名，可以检索相应分块状态，而非只读最后摘要。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
judge 可看 gold 生成 critique 时，为什么不能把这段 critique 直接用于评测搜索？
HindSearch: Trajectory-Level Hindsight Critique for Search-Augmented Reinforcement Learning
问答新增：2026-10-27 · Santa Clara University
展开答案与例子
答案：gold 用于训练侧解释失败，把稀疏成败转成更具体的蒸馏信号，帮助策略学习纠错方向。评测若继续提供同题参考派生 critique，策略已间接得到答案信息，就不再衡量独立搜索；冻结 judge 只固定参数，并不消除其输入中的特权来源。
教学例子：例如训练时根据正确日期指出查错来源，测试时仍必须只给日期问题；不能先送“正确应为周三”的批评再统计自主答对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
HindSearch 中谁可以读取 gold，哪些输入绝不能进入独立评测搜索策略？
HindSearch: Trajectory-Level Hindsight Critique for Search-Augmented Reinforcement Learning
问答新增：2026-10-27 · Santa Clara University
展开答案与例子
答案：gold只属于训练期冻结judge和独立评分侧；由它生成的critique也是特权训练信号。评测策略不能接收这一题的gold、judge对象或gold衍生提示，否则搜索成功率会被污染。
教学例子：把judge刚根据标准答案写出的改正建议直接塞进测试搜索prompt，不是无泄漏推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
轨迹级 hindsight critique 与每步只给一个成功/失败数值，多提供了什么？
HindSearch: Trajectory-Level Hindsight Critique for Search-Augmented Reinforcement Learning
问答新增：2026-10-27 · Santa Clara University
展开答案与例子
答案：critique可定位搜索过程的具体不足及关联，而二值结果只说明最终是否成功。它仍由teacher/judge产生并有成本，也可能有误，不能把“解释更长”自动视为更准确监督。
教学例子：两个失败轨迹可能分别是检索不足和读错证据，单一0分无法区分。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
HindSearch 为什么在失败搜索轨迹完成后再生成 hindsight critique？
HindSearch: Trajectory-Level Hindsight Critique for Search-Augmented Reinforcement Learning
问答新增：2026-10-27 · Santa Clara University
展开答案与例子
答案：终局成败信号很稀疏，冻结judge结合gold可指出整条失败搜索中的问题，再作为辅助on-policy蒸馏信号帮助训练。它利用事后信息解释失败，不是评测时给Agent提供未来答案。
教学例子：训练后指出“搜索忽略了关键证据”，用于改进下一轮策略而非替当前测试题作答。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
路由器与记忆库为什么交替冻结，而不是每轮同时任意更新？
CoEvo-Mem
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：路由改变会影响看到哪些记忆，记忆变化又会改变路由反馈，二者一起漂移难以判断改动来源。冻结一侧再更新另一侧控制非平稳性，轻量残差也保留基础 LLM 的路由先验；这并不保证收敛或提升，只让反馈关系更可学习和审计。
教学例子：例如先固定记忆库比较两种检索路线，再固定路线调整低价值记忆；若两者同时大改，失败时很难定位是哪一侧造成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
检索键为什么包含任务轴和工具签名，不能只按 query 文本复用？
CoEvo-Mem
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：相似查询在不同任务或工具版本下可能要求不同路线，键包含任务轴与签名可避免跨契约错误复用。当前本地验证 rewrite、残差和交替更新控制流，公共 mini-suite 不等于论文多 benchmark，也不能从注册到 evolve 就推断所有完整学习过程已执行。
教学例子：例如两个服务都有“查询订单”，返回 schema 不同，不能因为文字相同就复用带旧字段的记忆路由。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
冻结 LLM 的路由先验与可更新的残差 router，各负责什么？
CoEvo-Mem
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：基础 LLM 提供已有任务理解形成的路由先验，残差 router 根据实际交互反馈调整选择，而非每次重训整个 LLM。保留先验可限制更新范围，残差则适应当前记忆库；它只从已执行路线获得证据，不能把未尝试路径的收益当作已知，也不保证始终优于先验。
教学例子：教学例：基础路由常选通用检索，残差可从当前工具任务反馈中逐渐偏向某类经验库；LLM 的全部语言参数并未因此更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么路由策略与记忆库更新会互相影响？
CoEvo-Mem
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：路由决定哪些记忆被使用，使用结果形成反馈更新路由与记忆价值；记忆内容和图关系变化又改变后续路由的收益。只优化一侧可能固化另一侧的缺陷，CoEvo-Mem 交替改进，但反馈只覆盖实际轨迹，不能为未执行路线捏造结果。
教学例子：例如某路由总选过期记录，先更新记忆库可改变其收益；新库上线后路由也需要重新学习哪些路径有效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
HRPO为什么把最终回报拆成prefix residual credit和credit-to-go？
Hierarchical Residual Policy Optimization for Generative Recommendations
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou
展开答案与例子
答案：整件物品的奖励广播到每枚SID token，会让不同决策承担相同责任并增加方差。HRPO先在用户簇内平滑前缀效用，再用相邻前缀的增量形成局部信用，累积后续影响帮助早期决策学习长期贡献。前缀价值是估计量，分解并不自动消除偏差，也不能在推理时读取真实目标路径。
教学例子：第一层选错品类可能决定整条路径失败，末层只是在类内微调；把相同奖励平分给所有码，难以区分这两种作用，前缀信用尝试定位差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
HRPO 的前缀差分如何做一个基本 telescoping 自检？
Hierarchical Residual Policy Optimization for Generative Recommendations
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou
展开答案与例子
答案：相邻 δt 应使用同一效用版本，求和可还原终前缀与空前缀效用差，credit-to-go 从当前位置累加而非从开头。用户簇平滑不能混入测试未来反馈。本地二进制 SID 只验证这一有界机制，不是大规模生成后训练效果。
教学例子：三个前缀效用一、三、二，差分一、二、负一，总和应为二；若误用不同平滑表算出别的和，信用分解已不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
HRPO 的 credit-to-go 与每个 token 只使用自身 δ，有什么未来归因差别？
Hierarchical Residual Policy Optimization for Generative Recommendations
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou
展开答案与例子
答案：只用本步差分忽略早期选择如何限制后续，credit-to-go 汇总从本步到终点的残差信用，保留长期后果。它也可能累积估计噪声，RRPO 用保守更新限制偏移。机制不能推出方差一定降低或原目标梯度必然无偏，需按具体推导验证。
教学例子：早期选“相机”让后续优质镜头可达，收益不只在第一层立即出现；累积后续信用让早层看到这份影响，但错误效用也会传回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
HRPO 为什么把前缀效用分解为 residual credit？
Hierarchical Residual Policy Optimization for Generative Recommendations
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou
展开答案与例子
答案：最终物品奖励很稀疏，所有 SID token 同收一分难区分哪步贡献。前缀效用差给出新增码的边际信用，再累积后续 credit-to-go，让早期决策接受其后续影响。平滑依赖用户簇与估计质量，差分不是直接观测到的因果贡献。
教学例子：首层选对户外、次层偏到无关装饰，差分可把两步区分，不再让所有码因最终失败一律接受完全相同反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
RSTG为什么只对全失败的零方差组求助教师，而不把所有同分组一视同仁？
Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：组内全失败时，奖励归一化缺少可区分信号，教师可提供纠正轨迹，并在高熵或师生差距大的词元上增加监督。全成功组同样可能零方差，却没有相同的纠错需求。触发条件必须区分正负结果，教师纠正也仍需要可靠性检查。
教学例子：例如四条解法都算错时可请求教师示范；四条都答对时，不能仅因分数相同就当成失败组，再强行覆盖学生的不同解法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
RSTG可以只实现负组gate就称完整方法吗？
Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：不可以，还要实际执行局部蒸馏与教师正确轨迹监督，并保留来源和mask。当前本地候选目标验证不含大模型教师生成及完整训练预算。
教学例子：例如布尔值标记need_teacher为真，不等于教师分支真的被运行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
RSTG token选择与直接全段教师模仿有何区别？
Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：它将高熵或大gap位置作为更需指导的区域，并加入正确教师轨迹SFT。选择减少无关监督，但置信或gap仍不是错误定位真值。
教学例子：例如格式已稳定的词可少教，关键不确定转折得到更多指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
RSTG为什么专门恢复全失败组信号？
Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：全失败时组奖励没有差异，教师可提供纠正和局部指导；全成功虽然也零方差，却不具相同失败需求。触发需同时看方差与奖励值。
教学例子：例如一组都没解出与一组都解对，不能因方差同为零就同样请教师纠错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TransX 为什么把行为流缓存为 global/local 两种状态，而让短服务流只做 cross-attention？
TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：长行为流在多个请求间变化较慢，离线或异步形成缓存能摊销自注意力成本；global 保存整体偏好，local 保留近期细节，服务流再用当前候选查询它们。每次请求省掉的是重复行为编码，缓存构建与更新仍有成本，也必须避免把候选相关状态误缓存成公共用户信息。
教学例子：用户一天内多次打开推荐，长期兴趣缓存可复用，局部缓存随新行为刷新。某次候选只读取需要的片段，不必为了这一件商品把整段多年历史重新自注意力一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
TransX补充稀疏行更新为何先聚合重复行再平方？
TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：平方非线性，逐microbatch先平方后加不同于逻辑步总梯度平方。当前A100小张量验证了该边界，未实现32H200生产系统，也未提升旧adapter保真标签。
教学例子：例如同一行两次相反梯度应先抵消，先平方会错误累积大统计。
依据：补充核心公式、补充报告效果与本地验收；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
补充报告的共享多cutoff与普通独立池化怎样比较？
TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：用可合并softmax统计复用前缀，前向和梯度应与独立计算等价；这是公式复用，不是不同推荐得分。报告Base、Retrieval、Ranking还是不同生产实验，不能跨表排胜负。
教学例子：例如共享计算节省重复工作，不应改变同一输入下池化结果。
依据：补充核心公式、补充报告效果与本地验收；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TransX为什么拆行为流与请求服务流？
TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：长行为可离线形成global/local缓存，请求侧短候选只cross-attend缓存，避免每候选重算长self-attention。缓存适合共享部分，不能把候选依赖状态随意缓存。
教学例子：例如同一用户多个候选读取一份历史状态，但仍各自做匹配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
RecHarness 的 bandit 为什么同时看历史收益与不确定性分配实验，而不总选当前最好结构？
RecHarness: A Bandit-Routed Agentic Harness for Self-Evolving Recommender Systems
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：总选当前平均收益最高的结构会过早放弃样本少但可能更好的方向。置信上界在估计收益上加入与试验次数有关的探索项，让不确定 arm 获得预算，再把胜者反馈用于后续候选。它优化的是有限实验资源分配，不保证找到全局最优架构；收益估计也必须遵守相同验证协议。
教学例子：结构甲已测十次、均值略高，结构乙只测一次。bandit 可给乙额外机会确认潜力，而不是永远重复甲；但最后仍应在独立测试集评估选中的结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
RecHarness 的 na=0 与多轮账本，应如何避免除零和虚构已试次数？
RecHarness: A Bandit-Routed Agentic Harness for Self-Evolving Recommender Systems
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：未试 arm 应按约定优先初始化或使用明确无限探索值，不能直接代入零分母；次数只在真实实验完成后增加，收益来自固定验证协议。中断恢复需保留真实状态，不能提交任务就算拿到反馈。来源小代理不证明生产研究吞吐。
教学例子：训练任务失败没产生验证结果，应记录失败而非给该 arm 加一个零收益或成功次数，否则后续不确定性估计会被伪数据影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
UCB 选择与轮询每个结构同样次数，相比适合哪种收益分布？
RecHarness: A Bandit-Routed Agentic Harness for Self-Evolving Recommender Systems
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：轮询均匀投入，UCB 将更多预算给高均值或尚不确定方向，减少反复测明显差项。收益非平稳或评估噪声不一致会影响估计，不能把一次偶然高分当长期最优。探索项也不修复不公平基线和数据泄漏。
教学例子：某结构连续五次退化，均匀轮询仍继续花预算；UCB 可少测它，多给潜力结构，但需要保留足够探索避免早早错杀。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
RecHarness 为什么将架构修改离散为有限 arm？
RecHarness: A Bandit-Routed Agentic Harness for Self-Evolving Recommender Systems
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：明确候选动作便于统计每类改造的收益与不确定性，在有限预算内安排下一次实验，反馈再影响后续候选。它管理实验资源而非直接推荐物品。预设 arm 也限制创新范围，不能因为用了 bandit 就宣称自动探索任意网络。
教学例子：加宽、换门控、增加内容分支各为一类 arm，系统根据已有验证安排试验；它并没有从零生成无限种未知代码结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
GALA完成图文预训练后，为什么仍要用行为奖励对齐并门控融合ID表示？
GALA: Generative Aligned Learning for Adaptive Multimodal Representation in the Taobao Shangou Recommender System
问答新增：2026-10-27 · Rajax Network Technology / Taobao Shangou / Alibaba
展开答案与例子
答案：图文相互匹配不代表符合个性化消费偏好，行为奖励让多模态表示朝推荐任务调整。门控再根据样本决定语义和ID信息的比例，避免内容优势覆盖已有协同知识，也让新物品更有机会利用内容。奖励有偏或门控塌到单一路径时仍可能失效，不能把多模态检索能力直接当最终推荐收益。
教学例子：商品图片和文案彼此一致，却不一定适合某位用户；行为对齐补上偏好信号，门控对有大量反馈的老商品和无反馈新品采用不同依赖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
GALA 的 sigmoid gate 在融合前为什么要求两侧维度及 item 身份对齐？
GALA: Generative Aligned Learning for Adaptive Multimodal Representation in the Taobao Shangou Recommender System
问答新增：2026-10-27 · Rajax Network Technology / Taobao Shangou / Alibaba
展开答案与例子
答案：逐元素 g 作用于多模态与 ID 向量，两侧需同维、同候选，gate 输入也应来自该配对。错位向量不会因 sigmoid 有界而变正确，冷启动 ID 缺失应按定义处理。生产大模型训练和本地内容代理需分别记录。
教学例子：甲商品的图文向量不能与乙商品 ID 混合；即使结果数值有限，融合已失去商品含义，单看前向通过无法发现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
GALA 的行为 GRPO 与图文预训练，相比正例与奖励来源有什么变化？
GALA: Generative Aligned Learning for Adaptive Multimodal Representation in the Taobao Shangou Recommender System
问答新增：2026-10-27 · Rajax Network Technology / Taobao Shangou / Alibaba
展开答案与例子
答案：预训练学习 query、图像、文字间对齐，行为后训练利用实际推荐目标比较生成或表示选择，使语义不只停在内容相似。反馈仍可能有曝光偏差，目标变化也可能损害语义能力；不能把一个公开代理权重结果当作完整多模态策略训练。
教学例子：两张外套图很像，平台用户却在通勤场景更喜欢其中一件，行为对齐尝试保留这种差别，而非继续只追图文配对正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
GALA 为什么把多模态与 ID 表示视为互补，而非互相替代？
GALA: Generative Aligned Learning for Adaptive Multimodal Representation in the Taobao Shangou Recommender System
问答新增：2026-10-27 · Rajax Network Technology / Taobao Shangou / Alibaba
展开答案与例子
答案：多模态编码可迁移内容语义，ID 表示保留平台行为记忆，可靠性随物品和上下文变化。门控融合让模型选择两侧贡献，行为奖励再把预训语义拉向推荐目标。内容强不保证协同无用，ID 强也不能解决新品缺反馈。
教学例子：新品先靠图文判断用途，热门老品可借丰富点击历史；同一用户面对两件商品，融合比例不必相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
TransMem把历史hidden states转成参数记忆，与一直保留原始历史有什么区别？
TransMem: Transforming Hidden States into Memory for Large Language Models
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：它抽取冻结骨干的稀疏历史状态，再变换成可复用的记忆增量，并通过门控制其对当前状态的影响。原始上下文不再每次逐token参与同样的检索，信息经过变换与压缩，因此可复用性与细节保真之间有取舍。学习门控也不代表骨干本体已随每段历史重新训练。
教学例子：把一段已读说明压成可调用的记忆增量，后续问题可利用这份信息；如果压缩时丢了一个精确编号，记忆模块不能仅凭复用就保证把编号还原出来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
TransMem 的门控残差应该替换原 hidden，还是加在原 hidden 上？
TransMem: Transforming Hidden States into Memory for Large Language Models
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：文档写作h′=h+g⊙T(H_sparse)，原hidden是保留的主路径。实现需区分稀疏历史选择、变换与门控注入；当前mini-suite未训练论文规模checkpoint，不能由式子可执行宣称完整复现。
教学例子：g为0时输出回到原hidden，而不是变成全零表示。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
TransMem 的参数记忆，与直接把旧文本拼到上下文里有什么取舍？
TransMem: Transforming Hidden States into Memory for Large Language Models
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：参数记忆通过T(H_sparse)把稀疏历史变换后注入hidden；文本拼接让模型重新读取原始token。前者改变了存储和融合方式，也可能丢失未被选中的细节，不能视为逐字缓存。
教学例子：记忆可保留一项事实的表示，但不保证能原样找回被省略段落的每一个词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
TransMem 的 frozen backbone 与可学习记忆门控，是否表示所有参数都不更新？
TransMem: Transforming Hidden States into Memory for Large Language Models
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：冻结指骨干保持不变，记忆门控仍需学习。evidence-conditioned self-distillation用于学习怎样使用历史记忆，不能把冻结骨干写成整个系统没有学习，也不能把记忆状态变化误认成骨干权重更新。
教学例子：主模型不变，新增记忆支路仍可学习何时把历史信息加回当前状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
工具为什么用输入到输出的超边表示，而不只按名称做相似度检索？
HyperAgent: Planning and Acting over Tool-Schema Hypergraphs for Tool-Use LLM Agents
问答新增：2026-10-27 · University of New South Wales
展开答案与例子
答案：一个工具可能同时要求多种输入并产生多个输出，超边能表达这些联合前提。任务 DAG 先明确缺什么状态，再沿 producer 关系寻找能补齐输入的工具链；名称相似只说明文字接近，不能保证所选工具拿得到必需参数或能生成后续所需字段。
教学例子：例如发票工具同时需要订单号与税号，前一步只找到订单号还不能执行；超图会继续寻找税号生产者，而不直接调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
扩展 producer 时，如何避免把工具输出当成已经存在的状态？
HyperAgent: Planning and Acting over Tool-Schema Hypergraphs for Tool-Use LLM Agents
问答新增：2026-10-27 · University of New South Wales
展开答案与例子
答案：图中的生产能力仅代表调用后可能得到字段，执行前仍需确认所有输入实际可用，并在真实结果后更新状态。当前本地在确定性 planbench 验证依赖路径，未运行 AppWorld；图节点齐全或 mini-suite 满分不能替代实际 API 返回和任务验证。
教学例子：例如图显示查客户可产出 customer_id，不代表 ID 已可用；必须真正查询并核对结果，不能凭 schema 直接填一个 ID。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
任务 DAG 与 producer support graph 分别描述需求还是供给？
HyperAgent: Planning and Acting over Tool-Schema Hypergraphs for Tool-Use LLM Agents
问答新增：2026-10-27 · University of New South Wales
展开答案与例子
答案：任务 DAG 表达目标状态之间的依赖，说明完成后续子任务还缺哪些输入；producer support graph 从工具 schema 描述谁能生产这些输入，以及生产者自身还需要什么。两张结构配合才能把需求连成可执行工具链；工具有生产能力并不表示该输出已经存在。
教学例子：教学例：任务要求给订单退款，DAG 暴露订单号缺口；support graph 找到查订单工具，再检查它需要的用户标识能否先取得。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
为什么找到一个名称相关的工具，还不足以完成多步工具任务？
HyperAgent: Planning and Acting over Tool-Schema Hypergraphs for Tool-Use LLM Agents
问答新增：2026-10-27 · University of New South Wales
展开答案与例子
答案：工具能不能调用取决于输入是否已经取得，输出又可能是后一步必需的资源。HyperAgent 研究如何把任务要求与这些生产依赖联系起来，补齐当前状态缺口，而不只挑文字最相似的接口；完整流程需要多个合法转移共同形成。
教学例子：例如检索到“退款”工具仍不能直接退款，可能还需订单标识和付款记录，任务首先缺的是产生这些输入的步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
SnapLGR 为什么先在共参与图传播，再量化为 SID，并对 token 做内容 grounding？
LLM-Based Generative Retrieval for Snapchat Content Recommendation
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：原始内容向量未必包含平台上的协同行为，图传播先把共参与关系融入表示，再量化使这些关系进入离散路径。grounding 约束生成 token 仍对应实际内容，序列到下一 SID 的目标再学习用户转移。图信号、离散化与生成分别承担不同环节，热门共现偏差也可能沿传播进入码本。
教学例子：两类内容视觉不同却常被同一兴趣群体消费，传播后可在表示上关联；量化得到路径后仍需对齐原内容，避免用户生成某个码却无法稳定映回相关物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
SnapLGR图传播与量化训练应使用哪些行为边界？
LLM-Based Generative Retrieval for Snapchat Content Recommendation
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：仅用训练期允许共参与，避免测试未来边进入图；码本与SID映射需固定版本。当前公开特征代理不含Snap私有日志、生产规模或流量分配。
教学例子：例如先把测试点击加入共现图，会使召回器提前获知评测关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
SID与内容表征对齐比单独预测离散编号多约束什么？
LLM-Based Generative Retrieval for Snapchat Content Recommendation
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：对齐让生成token保留真实内容语义结构，单纯编号似然可只记码转移。它仍依赖表征与图质量，不保证任何语义码都比原ID强。
教学例子：例如两个相关视频码的表示应有联系，而不是只学任意标签次序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
SnapLGR为什么先用共参与图再形成SID？
LLM-Based Generative Retrieval for Snapchat Content Recommendation
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：图传播提供协同行为相关性，残差量化把它组织成层级码，再学习用户序列到码的生成。内容相似与用户共参与互补，不能只用随机码保留名字。
教学例子：例如不同外观内容可能被同一兴趣人群一起消费，图能提供这种关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
ROCS 为什么需要候选隔离掩码，才能安全地把用户侧计算从逐候选重复中拿出来？
ROCS: Request-Oriented Compute Sharing for Efficient Large-Scale Recommendation
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：若用户状态在某层已读取某个候选，就不能作为其他候选通用的缓存。Generalized Layer Masking 约束信息流保持隔离，Deep Cross Attention 延后候选交互，才允许请求表示只算一次。内核广播进一步减少复制成本；本地进程内微基准只反映重复编码与共享的路径差异，不能冒充完整生产吞吐提升。
教学例子：同一用户评一百件商品，用户主干先保持候选无关，再广播给各商品分支。若商品甲先写进用户表示，商品乙再复用它，得分就会被不该看到的候选污染。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
本地ROCS是否实现生产GLM mask和IKBO CUDA广播？
ROCS: Request-Oriented Compute Sharing for Efficient Large-Scale Recommendation
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：没有，当前仅覆盖共享表示与打分分工，未复刻专用kernel或Meta集群。需要区分模型结构的计算复用与真正设备内广播，后者需实测才能声称吞吐收益。
教学例子：例如Python循环复用一个向量，不等于GPU kernel已经共享加载。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
ROCS模型层共享请求表示，与IKBO在设备内减少复制，是同一种优化吗？
ROCS: Request-Oriented Compute Sharing for Efficient Large-Scale Recommendation
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：不是。模型的信息流约束使表示具备共享资格，设备内广播则处理合格共享表示怎样传给候选计算。缓存一份用户向量可验证计算分工，却不能证明专用广播kernel已经接入或达到生产吞吐；两层需要各自的实现与测量证据。
教学例子：先证明候选不会污染用户表示，才能讨论少复制几份张量；进程内缓存测速不能替代GPU广播kernel测试。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
ROCS的一次request与其中多个candidate，是怎样的计算单位？
ROCS: Request-Oriented Compute Sharing for Efficient Large-Scale Recommendation
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：request包含本次用户侧上下文，candidate是同一次请求要分别评分的物品。它们共享用户输入，却各有候选信息与最终分数；候选数量增加不意味着出现更多独立用户请求。先分清这两个轴，才能判断哪些计算是重复的、哪些必须逐候选保留。
教学例子：一位用户打开推荐页要评一百件商品，是一次request含一百个candidate，而非一百位用户各发一次请求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
开放网络 UFM 为什么联合掩码预测与序列对比学习，而不只训练某一个 CTR 标签？
Building a User Foundation Model for the Open Web
问答新增：2026-10-27 · Teads
展开答案与例子
答案：掩码预测要求编码器从残缺浏览上下文恢复局部事件，对比学习要求同一用户序列的不同视图保持一致，分别提供局部与整体监督。预训练表示再供 CTR、赢标率等任务使用，减少对单一稀疏标签的依赖。但身份不连续和隐私选择仍影响输入分布，本地小切片的零增益不能被改写成跨任务有效性证据。
教学例子：一个短历史只有三次访问且没有点击标签。遮住其中一次仍可做上下文训练，同一历史的两种扰动也可构成正对；之后再用少量 CTR 标签训练任务头。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
UFM 配方搜索中的 lifter 为什么要可审计而不能任意改数据与评测？
Building a User Foundation Model for the Open Web
问答新增：2026-10-27 · Teads
展开答案与例子
答案：搜索算子需明确定义允许变化，才能将反馈归给实际配方，保留预算与数据契约。随意换样本或评测可制造假改善，LLM 提案不应拥有改答案权限。本地同 encoder、同四十五步对照的零变化也应如实保留，不能靠扩大搜索口径隐藏。
教学例子：一个 lifter 只改 mask 比例可比较；若同时删除困难测试用户，再说预训更好，就已改变问题而非找到有效训练配方。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MLM 局部恢复与序列 InfoNCE，两种自监督对哪类一致性施压？
Building a User Foundation Model for the Open Web
问答新增：2026-10-27 · Teads
展开答案与例子
答案：MLM 要从上下文恢复被遮事件，关注局部内容关系；序列对比让同轨迹不同视图接近，关注整体稳定性。两者可补充，但视图破坏过强或假负例会误教。联合目标存在不证明跨任务迁移获益，来源本地为零结果。
教学例子：遮一次网站访问仍可由邻居推断，删部分行为后的整段也应保留相近兴趣；若两视图已代表不同需求，硬拉近可能有害。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
开放网络 UFM 为什么不能默认稳定的长期 user ID 与完整历史？
Building a User Foundation Model for the Open Web
问答新增：2026-10-27 · Teads
展开答案与例子
答案：RTB 身份受权限、平台和隐私选择限制，用户轨迹可能短且不连续。预训需从有限浏览学习可迁移表示，再服务 CTR、赢标等任务。这个数据条件与登录平台长序列不同，不能把 MovieLens 结果直接当开放网络身份建模证据。
教学例子：同一人跨设备可能被看成不同短轨迹，模型不能假设每条日志都能拼成多年历史；实验设计应承认缺失而非用全局 ID 补齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HA-MoE为什么用内容异构性控制专家，还要按领域监测DL-AUC？
Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：同一feed混合新闻、视频与体育时，高频领域可能支配共享梯度。异构性门控让不同样本借用不同专家组合，保留通用能力与领域专长；分领域监测检查专家利用率和局部质量，防止总体平均掩盖小领域退化。专家多不代表真正分工，必须同时看路由和切片结果。
教学例子：新闻流量占多数时，总体分数上涨可能盖住体育视频下降；领域感知路由可分配专长，但只有分领域评价才能发现这种被平均数隐藏的损伤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HA-MoE 门控 softmax 应在哪个维度，LENS 又需绑定哪些分组？
Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：每个样本按异构上下文在专家维归一，各专家输出先对齐再组合；使用率应按领域与时间记录，不能只有全局平均。本地以 session 熵代理异构性，并非真实开放网页全部特征，结果只解释该固定专家集合。
教学例子：新闻请求可对四个专家分配独立权重，不应把一批新闻与视频共同归一；否则某样本权重会受同批别人的内容类型影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
LENS 的分领域 DL-AUC 与只看总体 AUC，为什么可能导向不同结论？
Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：总体受大流量领域支配，少数领域退化可被掩盖。分域指标与专家使用率揭示路由是否忽略某类内容，以及主指标改善来自哪里。监测不是训练保证，来源本地 NDCG 未提高，也不能用头部下降替代质量改善。
教学例子：视频占九成流量稍升，新闻明显变差，总 AUC 仍可能升；分领域检查会指出新闻用户受到损失，而非宣布所有内容都受益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HA-MoE 为什么依据内容异构性选择专家，而不只给每种内容一个固定模型？
Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：固定分域容易割裂共性，一套共享塔又可能被高频内容主导。异构门控组合通用与专长专家，在新闻、视频等内容间共享有用部分并保留差异。专家实际分工需要监测，不能因名字叫体育专家就认为已学到对应能力。
教学例子：体育新闻既可用通用时效专家，也可借体育专长；若完全独立模型，跨域共通知识难共享，完全统一又可能让大流量视频压过新闻。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
Feedback Policy为什么蒸馏教师的关系矩阵，而不只模仿每个物品的独立分数？
From Understanding to Action: Feedback-Grounded Policy Discovery for Generative Recommendation
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：策略知识不仅在单项分数里，也在候选之间的相对关系中。关系蒸馏要求学生保留教师在对应空间内的相似或偏好结构，使轻量排序器吸收反馈发现的模式，而不在服务时运行LLM。若教师关系本身受偏置影响，学生也会继承；匹配矩阵误差下降并不等于用户反馈必然改善。
教学例子：两个商品单独分数相近，但教师知道它们在当前意图下互为替代；学生保留这种关系后可更好选择组合，而不仅逐个复制一个静态高分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
Feedback Policy 的教师和学生关系矩阵为什么必须按同一身份顺序排列？
From Understanding to Action: Feedback-Grounded Policy Discovery for Generative Recommendation
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：矩阵每个位置代表具体样本对，错序会使损失拟合错误关系，形状相同也无济于事。有效项、归一化和 padding mask 也要一致，教师矩阵应来自允许证据。本地核心代理不等于完成真实用户反馈的策略发现闭环。
教学例子：教师第二行是相机而学生第二行是小说，逐项相减就在强迫错误配对；先按物品 ID 对齐，结构损失才有可解释含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
关系矩阵蒸馏与逐物品 logit 蒸馏，关注哪些不同误差？
From Understanding to Action: Feedback-Grounded Policy Discovery for Generative Recommendation
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：独立分数强调输出数值接近，关系矩阵强调样本或空间之间的相对布局，对某些整体尺度变化更不敏感。它能补充结构，却可能忽略真实概率校准，二者不必一致。更多成对约束不自动意味着质量更高，仍需固定协议比较。
教学例子：教师全部分数加同一常数时排序关系未变，独立拟合误差却变大；关系蒸馏可忽略这类变化，但也不再直接约束绝对点击概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
Feedback Policy 为什么把反馈策略迁成关系监督，而不只缓存策略文字？
From Understanding to Action: Feedback-Grounded Policy Discovery for Generative Recommendation
问答新增：2026-10-27 · Huazhong Agricultural University (Kuaishou internship)
展开答案与例子
答案：反馈能揭示候选之间的相似与替代结构，关系矩阵让轻排序器实际学习这些偏好，无须在线调用大模型解释。矩阵仍是教师代理，不保证保存完整推理，也可能继承反馈偏差。存下文字策略与让参数学到可用关系是两件事。
教学例子：教师判断两条教程互相替代，学生可学习它们不该同时占满列表；仅写一句“注意多样性”并不会自动改变模型向量或排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
CCFormer为什么让远期历史逐层扩大压缩感受野，却保留近期行为细节？
CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
问答新增：2026-10-27 · Tencent Platform and Content Group
展开答案与例子
答案：远期行为数量大，逐条高成本交互会挤占排序预算；近期行为更可能包含当前意图变化，过早合并容易损失精细差异。CCFormer用层次token mixing压缩旧历史，同时对不同字段保留分离投影与cross-attention。压缩和字段交互各解决不同瓶颈，不能只用更短序列长度评价模型是否有效。
教学例子：上个月反复浏览的同类商品可逐步合并，刚刚连续查看的两个不同尺码则应保留；候选相关字段还能从压缩历史中读到长期偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
实现 CCFormer 的层级 token mixing 时，如何区分“压缩旧历史”与“全序列等比例压缩”？
CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
问答新增：2026-10-27 · Tencent Platform and Content Group
展开答案与例子
答案：应根据层级和时间区域扩大远期感受野，同时保留近期细粒度路径，再由字段专属查询投影交互。若所有位置同样合并，便丢掉时间分辨率分配这一设计。来源本地 core 规模有限，验收应检查连接和长度变化，而非只看最终张量能运行。
教学例子：第一层仍保留最近四次行为各一 token，旧八次可合并；下一层只扩大旧史窗口，不该连刚发生的关键点击一起平均掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
CCFormer 的逐层压缩与固定最近 N 条截断，分别会丢失什么？
CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
问答新增：2026-10-27 · Tencent Platform and Content Group
展开答案与例子
答案：截断直接抛弃远期记录，后层没有机会利用它；压缩让远期信息以较粗粒度继续存在，换取更小计算，但稀有细节可能被合并。近期保细节与旧史扩感受野是设计取舍，不能称压缩完全无损，也不能由本地对 GRU 比较推断所有长序列模型排序。
教学例子：一年前多次摄影兴趣可压成摘要保留，最近三次露营浏览逐条保留；只取最近十条可能完全忘记摄影，压缩则可能忘掉某次特殊机型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
CCFormer 为什么将字段分离投影，而不把 ID、内容和长历史直接视作同质 token？
CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
问答新增：2026-10-27 · Tencent Platform and Content Group
展开答案与例子
答案：不同字段来源和统计尺度不同，分离投影提供各自的表示入口，再通过 cross-attention 建立关系，避免强字段主导统一空间。长历史另用分层压缩控制成本，因此特征交互与序列长度被共同考虑，不能把它简化为仅增加 Transformer 层数。
教学例子：用户 ID 是稀疏记忆，内容向量是语义，相同投影可能偏向常见 ID；分开变换后再交互，才更容易保留两类信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
VAD为什么把教师修正投影到视觉证据方向，而且只保留同向分量？
VAD
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：有无视觉证据的教师对比给出视觉方向，原教师修正只保留沿该方向的正向投影，再以当前学生分布为锚构造目标。这样限制与视觉无关或反向的整体模仿；完整教师分布只作较弱约束。本地奖励轴代理并未复现真实视觉裁剪和模型训练。
教学例子：例如教师既偏好某种措辞又看到红色物体，投影试图保留颜色证据相关的变化，而不把所有语言风格一起灌给学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
VAD的证据移除分支应与证据存在分支保持什么一致？
VAD
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：同一冻结教师、问题和学生前缀，仅改变证据视图；logp需中心化再投影并有稳定分母。当前过程质量轴代理不含真实裁剪、checkpoint和视觉benchmark。
教学例子：例如用另一个语言模型代替移除视图，会混入架构偏差而非纯证据差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
单侧投影与直接用视觉方向替换全部修正有什么差别？
VAD
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：只有教师修正与视觉方向正对齐的部分被保留，反向不硬跟；直接替换忽略原修正是否支持该方向。投影是归因约束，仍不证明教师视觉判断正确。
教学例子：例如视觉对比有变化，但原修正与它相反时，不应盲目注入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
VAD为什么以学生当前分布重建target？
VAD
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：只从教师整体复制会混入语言和风格偏差，方法把视觉方向上有用修正加到学生锚点，保留其其他偏好；完整特权教师仅作较弱正则。
教学例子：例如只吸收图像颜色证据，不强迫学生一起改写所有语言风格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Flux-OPD为什么固定context-free锚点，再对演化上下文的修正做冲突加权？
Flux-OPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：直接替换教师上下文会让目标跳变，固定锚点使每轮只注入相对差异；多个上下文教师的几何组合反映共同支持，冲突大时减弱修正。几何归一化常数承担冲突线索，不等于任意两教师的意见差；本地奖励轴代理也未执行真实上下文抽取。
教学例子：两份提示分别建议相反的推理路径，保留通用锚点并减弱冲突修正，比每轮完全追随新提示更能控制目标漂移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Flux本地reward axes能代表真实演化上下文抽取吗？
Flux-OPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不能，两个奖励轴只是教师变化代理，未运行视频、医疗或真实语言上下文模型。构造目标需在log空间相对同一锚点，不能把不同基线差混在一起。
教学例子：例如给两组人工logits，不包含从真实文档抽取并更新上下文的流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
多个上下文几何教师冲突时为何减弱修正？
Flux-OPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：几何归一常数反映分布重合程度，冲突大时有效修正权重变弱，避免硬平均不相容建议。低冲突也不证明建议正确，仍需任务验收。
教学例子：例如两上下文分别强推相反答案，不能因都自信就加倍相信。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Flux-OPD为什么固定context-free教师作锚？
Flux-OPD
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：学生会吸收固定上下文，更换上下文又可能使目标跳变。固定锚点只接收演化上下文相对修正，提供稳定参照，避免每次全盘切换教师分布。
教学例子：例如新检索背景改变局部判断，但基础语言目标不必跟着整体漂移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
CRPO为什么把高不确定位置区分为反思探索与暴露偏差，而不统一奖励高熵？
Contrastive Reinforced Policy Optimization via Privileged Self-Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：高熵可能表示有价值的探索，也可能是错误前缀导致的失控。CRPO结合组内对比和特权自蒸馏来区分这些情形，分别处理有益反思位置与偏差暴露位置。熵只描述不确定程度，不能单独判定对错；本地候选诊断不等于完整推理训练。
教学例子：例如重新检查一个分支时的不确定与沿错误算式胡乱续写都可能高熵，更新方向应取决于后续可验证结果，而非熵值本身。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
CRPO本地候选核是否包含真实反思位置识别模型？
Contrastive Reinforced Policy Optimization via Privileged Self-Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：未包含完整大模型链路，当前只验证目标与诊断。正负位置和分组应记录来源，训练特权条件不能进入学生采样，也不能用gold直接填负位置后宣传自主识别。
教学例子：例如预给mask适合单测，却不能证明真实文本中能找到exposure bias。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
CRPO对比目标与单独最小化特权教师KL有什么不同？
Contrastive Reinforced Policy Optimization via Privileged Self-Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：对比以正负位置相对分数构造竞争关系，KL直接匹配一个目标分布。正负划分是否可靠是额外假设，不能因有负例就自动消除教师偏差。
教学例子：例如同样提高正位置分数，分母里有哪些负位置也会影响更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
CRPO为什么把反思探索与exposure bias区分？
Contrastive Reinforced Policy Optimization via Privileged Self-Distillation
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：两者都可能表现高不确定，但前者有益于修正，后者可能因错误前缀越走越偏。组内对比试图区分不同性质的位置，而不是一律奖励熵高。
教学例子：例如重新检查分支的犹豫，与错误算式后的乱续写，含义不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
β-OPSD为什么把reference和特权教师的插值与return-to-go放进同一推导？
β-OPSD
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：几何插值规定在基准策略与特权指导间向哪里靠近，return-to-go则决定后续蒸馏差异怎样影响更早选择，两者分别控制目标和时间信用。vanilla设置只是其中一种参数情形，不能把任意logit平均都称为同一最优解；本地位置代理也不是完整长序列。
教学例子：先决定学生要多大程度靠近教师，再考虑开头选择会不会引发后面连续偏差；目标强度与回传范围是两件事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
β-OPSD本地线性位置代理是否真实运行长CoT序列？
β-OPSD
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：没有，候选动作替代token分布、线性return-to-go替代真实轨迹位置。实现仍需固定参考教师和正确时间顺序，不能把代理结果当Qwen LoRA训练证据。
教学例子：例如几个候选数值求后缀和，不等于真实语言生成中相同信用行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
return-to-go与当前token独立log差在信用范围上有何不同？
β-OPSD
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：前者累计未来折扣差异，让当前位置承接后续影响，后者只看局部。长horizon可增加方差并依赖终止处理，不能因包含未来就断言一定更准确。
教学例子：例如早期错误导致后续多步偏离，局部即时差可能看不到全部后果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
β-OPSD为什么把自蒸馏看成正则策略优化的特例？
β-OPSD
问答新增：2026-10-27 · University of Maryland, College Park
展开答案与例子
答案：先由参考与特权教师定义几何目标，再把昂贵策略优化转为token-logit蒸馏，解释可控的指导强度。β的理论角色应按原定义，不能与任意混合系数混叫。
教学例子：例如同一教师信息可通过不同正则强度形成不同有效目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
WIDE的动态宽度与跳过整层相比，细在哪里？
WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning
问答新增：2026-10-27 · EIT-NLP / LMU Munich
展开答案与例子
答案：它按token分别选择attention head组和FFN通道组，在一层内部改变参与计算的宽度，而不是只能整层执行或跳过。要得到实际节省，还需把mask重排、块跳过和设备端执行配合起来；仅把dense张量某些位置乘零，并没有自动省掉原先的矩阵计算。
教学例子：一个简单token可用较少head和FFN组，另一个难token在同一层使用更宽路径；如果内核依旧完整计算所有组，再置零，逻辑稀疏并未兑现成延迟收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
WIDE 的 mask 应怎样与 kernel 执行配合，才可能真的省计算？
WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning
问答新增：2026-10-27 · EIT-NLP / LMU Munich
展开答案与例子
答案：文档把mask重排、block skip与设备内跳过联合设计。仅在dense结果上乘mask不会自动少做矩阵乘；当前PyTorch路径只验证router、稀疏率和质量变化，不能冒充CUDA加速。
教学例子：某head输出被置零，不代表该head的QK乘法之前没有执行。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
逐 token 宽度路由，相对固定裁掉一半 head/channel 改变了什么？
WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning
问答新增：2026-10-27 · EIT-NLP / LMU Munich
展开答案与例子
答案：固定裁剪始终删除同一部分，动态路由则能按token选择不同组。两者即使平均稀疏率相同，访问路径和调度开销也不同，不能用一个静态50%配置证明完整动态部署收益。
教学例子：两个token各用一半通道，但它们需要的那一半未必相同。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
WIDE 为什么要让不同 token 使用不同的模型宽度？
WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning
问答新增：2026-10-27 · EIT-NLP / LMU Munich
展开答案与例子
答案：静态剪枝给所有输入相同的子网络，但token难度和所需计算可能不同。WIDE分别路由attention head组与FFN通道组，让计算分配细到层内宽度，而非只决定是否执行整层。
教学例子：简单位置只需少数组，依赖复杂证据的位置可以使用更多有效组。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
ReToken 为什么把检索分数算在最后一层 value 空间？
ReToken: One Token to Improve Vision–Language Models for Visual Retrieval
问答新增：2026-10-27 · UIUC / Microsoft Research / Google DeepMind
展开答案与例子
答案：预填充后的视觉 KV 已包含每张图的表示，在同一 value 空间读取相似度就有机会复用缓存，而无需重新运行外部检索器并重编码图片。可学习检索 token 与投影负责适配相关性，冻结 VLM 并不表示检索头无需监督或能直接泛化所有任务。
教学例子：例如十张图已预填充到缓存，新增问题先用检索 token 与各图平均 value 打分，再选择相关图继续使用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地文本 cache 实验与论文视觉训练之间缺少哪些条件？
ReToken: One Token to Improve Vision–Language Models for Visual Retrieval
问答新增：2026-10-27 · UIUC / Microsoft Research / Google DeepMind
展开答案与例子
答案：本地在 WikiText-2 训练单检索目标、value 打分与稀疏选择，未运行冻结大 VLM、MIRAGE 图文监督或长视频。短前缀还不足固定 Top-K，保留率会受前缀长度影响；PPL 退化必须按文本机制实验报告，不能改写为视觉检索增益。
教学例子：例如只有三个历史 token 时设 Top-K 为十并不会产生十个可选项；跨长度平均保留率因此不等于固定压缩比例。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
ReToken的逐图BCE监督，与要求唯一相关图的候选softmax，有何标签假设差别？
ReToken: One Token to Improve Vision–Language Models for Visual Retrieval
问答新增：2026-10-27 · UIUC / Microsoft Research / Google DeepMind
展开答案与例子
答案：BCE对每张图的相关或无关标签分别计算损失，并用类别权重调节两类贡献；它不要求所有图的sigmoid分数相加为一。单正例softmax则让候选竞争一份概率质量。不能在存在多张相关图时，未经说明只保留一个赢家并沿用原监督解释。
教学例子：一个问题可需要两张图的证据，二者都可标为相关；不必为了凑成唯一winner而把其中一张改成负例。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
ReToken的可学习RET token是一张图片的固定ID吗？
ReToken: One Token to Improve Vision–Language Models for Visual Retrieval
问答新增：2026-10-27 · UIUC / Microsoft Research / Google DeepMind
展开答案与例子
答案：不是。它是输入中的一个可学习检索标记，经过VLM上下文处理后产生当前请求的隐藏状态，再投影后与各图的平均value表示匹配。共享的是标记参数，不意味着所有请求的隐藏状态或相关图片都相同；它也不是把整套图片目录装进一个ID。
教学例子：两次请求使用同一个RET标记，但问题内容不同，其上下文化表示可不同，因而可以给同一组图片不同相关分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
复用 rollout 学下一观察，为什么能增加训练信号却不必增加部署推理步骤？
TAPO
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：每次环境转移已含状态、动作和下一观察，训练侧在共享骨干上加入预测目标即可利用它，无需再采专家或新 rollout。部署仍执行原策略，不要求显式调用预测器；辅助目标改善是否转成任务收益仍需对照，能预测反馈不等于会选好动作。
教学例子：例如执行 ls 已得到目录列表，可把它用于训练状态转移预测；上线时仍直接选命令，不必每步先生成一份想象目录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
构造 TAPO transition target 时，为什么要核对 s_t、a_t 与下一条 observation 的归属？
TAPO
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：错位或跨episode拼接会把另一次动作的结果当监督。目标应来自同一rollout已发生的合法反馈，不能把s_{t+1}提前放进预测输入；mini-suite高准确率也不代表真实工具建模能力。
教学例子：第2步的动作应预测它引发的第3次观察，而不是下一任务的第一条观察。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
TAPO 的训练期转移预测，与部署时必须额外调用 world model 一样吗？
TAPO
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不一样。文档辅助目标用于共享backbone训练，部署不强制增加预测步骤；显式world-model planning则会增加在线调用。训练信号增多不自动意味着推理开销增加。
教学例子：模型学过下一observation预测，实际工具执行前仍可只生成原本的动作。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
TAPO 为什么用已经发生的环境转移增加训练信号？
TAPO
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：同一rollout包含每步动作后的observation，不只是最终reward。把(s_t,a_t)预测s_{t+1}作为辅助目标，可让共享backbone学习动作后果，不必为这份监督另采专家轨迹。
教学例子：调用工具后实际返回的内容，可训练模型理解该动作会带来什么反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么普通 accuracy 会掩盖“几乎全判成功”的 reward model？
OSReward / OS-Shepherd
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：若成功样本占多数，宽松裁判把所有轨迹判成功也可能得到不错总准确率，却漏掉真实失败。分别报告 success recall、fail recall 及其均值能揭示两类能力；跨系统与困难子集还需真实验证标签，不能把几条接口诊断当开放 judge 的能力测量。
教学例子：例如九成样本成功，全判成功有九成 accuracy，但 fail recall 为零，balanced accuracy 只有一半，暴露对失败完全失明。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
OSReward本地是否训练了开放9B或35B视觉judge？
OSReward / OS-Shepherd
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：没有，也未下载官方截图轨迹，只实现评测契约。预测verdict与人工标签在评分端汇合，类分母为空应明示，不把自动填充值当真实balanced accuracy。
教学例子：例如一批没有失败任务，就无法从这批估出正常失败recall。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
judge看末五状态加文本历史，与只看最终截图有什么差别？
OSReward / OS-Shepherd
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：终态截图可能缺少过程和隐性任务条件，历史补证据；但更长输入也带噪声。规定观察协议不同，不能换成任意摘要后仍把分数与原表直接比。
教学例子：例如窗口最后打开不代表中间文件修改真的保存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
OS-Shepherd在电脑任务里扮演操作Agent，还是判断轨迹成败的judge？
OSReward / OS-Shepherd
问答新增：2026-10-27 · The University of Hong Kong
展开答案与例子
答案：它是评估完整电脑操作轨迹是否成功的judge；执行点击、输入等动作的是受评操作Agent。OSReward提供人工验证任务与轨迹，用于检查这类奖励模型。先区分执行者与评分者，才能避免把judge识别成功的能力误称作自行完成任务。
教学例子：操作Agent尝试保存文件，judge根据轨迹判断是否真的保存；judge判对并不代表它执行过保存动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么通信拓扑调整要同时约束边、顺序与可见性，而非只增加更多 Agent？
MANTA: Multi-Agent Network Topology Adaptation for Self-Evolving Multi-Agent Systems
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：协作失败可能来自信息没传到、角色重复或验证路径缺失，人数增加不一定解决。运行轨迹驱动有界拓扑修改，把角色关系与信息流作为优化对象；预算投影限制额外通信和执行成本，改图的收益也须由实际任务反馈确认，不能仅以边数增加判断改进。
教学例子：例如审查者一直看不到最新代码，应改消息可见性而非再加三名审查者；否则只是重复评估同一份旧材料。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
Π_budget 在拓扑更新中的作用与本地 evidence 边界是什么？
MANTA: Multi-Agent Network Topology Adaptation for Self-Evolving Multi-Agent Systems
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：投影将提议的角色、边和顺序调整限制在允许资源内，不是先执行超预算结构再只统计部分成本。本地确定性 suite 验证这些状态和调度分支，没有真实多 Agent 模型与环境，拓扑变化计数不代表论文五 benchmark 泛化。
教学例子：例如候选提出十个角色而预算只容四个，必须先得到可执行受限图；不能十个都跑完再把六个从成本表删掉。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
在线拓扑适应与开始前一次性选团队有什么取舍？
MANTA: Multi-Agent Network Topology Adaptation for Self-Evolving Multi-Agent Systems
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：初始团队只依据任务先验，在线适应可响应实际瓶颈、失败或冗余通信，但也可能引入不稳定和额外开销。调整应投影到预算和权限范围，不能为了提高分数无限增 Agent 或开放所有私有历史。
教学例子：例如发现两个角色重复查同一来源，可合并或改边；若因此让评测参考流入执行角色，就超出了合法适应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
多 Agent 团队为什么可能因沟通安排不当而浪费协作机会？
MANTA: Multi-Agent Network Topology Adaptation for Self-Evolving Multi-Agent Systems
问答新增：2026-10-27 · Cornell University
展开答案与例子
答案：角色再多，若消息传给不需要的人、关键结果未到达依赖者或交流顺序错误，工作仍会停滞。MANTA 研究让通信结构随执行反馈适应任务，而不把团队配置视为固定名单。改变拓扑也会增加协调成本，效果需看信息可见性、任务结果和资源开销。
教学例子：教学例：验证者发现约束错误，却只回复无关角色，执行者继续沿旧计划行动；需要调整的是信息流，而不一定是再加一个 Agent。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
DO/AVOID guidance 为什么由 stop-gradient 快照生成，并只在训练时可见？
Group-Reflective Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：指导从同题已验证的成功失败反思形成，固定快照防止指导路径随当前梯度共同漂移。它调节 turn-level 信用而不让评测策略偷看整组事后成败；正乘数还保留结果优势方向，避免把某段反思本身当作答案或独立奖励 oracle。
教学例子：例如组内成功者都先检查依赖，失败者直接改代码，训练可提炼这一对照；新测试题不能预先看到它自己的成功失败组反思。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
GRSD 的正调制 m_t 为什么要与 outcome advantage 分开核对？
Group-Reflective Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：文档m_t>0只调整强度，保留原outcome advantage的符号；负值会反转原学习方向。guidance由stop-gradient快照生成且训练期可见，不能把特权指导继续留在评测输入中。
教学例子：原本应降低概率的动作，乘一个正m仍应降低，而不是被错误调制成奖励。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
GRSD 的成败组对照，与复制单条成功轨迹有什么不同？
Group-Reflective Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：单条成功可能包含偶然或多余步骤；组对照利用失败反思识别哪些行为值得做或避免。它仍是训练指导，不应被误当成独立测试时可读取的解题oracle。
教学例子：成功轨迹里出现过的无关工具调用，不一定因“成功”二字就该全部学会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
GRSD 为什么先反思同题的一组已验证成功和失败轨迹？
Group-Reflective Self-Distillation
问答新增：2026-10-27 · Baidu Inc.
展开答案与例子
答案：终局reward把有效行为、重复错误和偶然选择混在一起。对同题成败反思做对照，可形成更具体的DO/AVOID指导，再用于调制turn级信用。
教学例子：同题两条轨迹都查了资料，但只有一条核对关键条件，对照有助于分辨有效行为。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
截止日后可核实的预测，为什么必须留在提交后的评测器而非给研究 Agent？
FinanceHarness: Autonomous Financial Deep Research Framework
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：研究输入只能使用截止日前已可检索证据，未来材料若提前出现会把预测变成复述。thesis 与 rubric 也留在评分侧，分题归一后再平均以免题目条目数改变权重；时点泄漏使运行无效，不是随意记零或删行后继续汇总。
教学例子：例如报告预测下一季度趋势，后来公布的业绩只能在提交后核查，不能倒填进截止日前证据包让模型看似提前判断正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
金融协议发现时点泄漏后能把该行计零继续报均分吗？
FinanceHarness: Autonomous Financial Deep Research Framework
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：不能，运行应判无效而非静默删行或置零。文档publication_date必须不晚于cutoff，thesis、rubric与未来证据不可给Agent；这是评测时点协议而非投资建议。
教学例子：例如工具偶然搜出事后文章，不能假装只是模型答错了一题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
逐题等权与把全部rubric混平均有什么差别？
FinanceHarness: Autonomous Financial Deep Research Framework
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：每题rubric数不同，直接混平均让细项多的题占更多权重；先按题归一再平均保留题级比较。论文五级评分也不能自改为任意连续满分。
教学例子：例如十条标准的题不应自动比两条标准的题重要五倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
FinanceGym的rubric分数3，是3%的成功率吗？
FinanceHarness: Autonomous Financial Deep Research Framework
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：不是。单个rubric采用0到4的五级评分，3只是该尺度上的等级。题内先按四分满分归一，才能与其他题共同平均；分数解释仍取决于具体rubric。不要把原始等级、题目归一分和整体Outcome当成同一个量。
教学例子：教学用一题两个rubric分别3分和1分，题内归一分是(3+1)/(4×2)=0.5，不是4%或两题命中率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
PSG 把两个相邻物品打包为 pair token，为什么能减少生成步数又必须保留内部顺序？
PSG: Pair-Space Generation for Efficient Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：pair token 把两个位置联合建模，生成半长的 pair 序列后可无损展开，因此自回归步数减少。但一个 pair 的两个物品顺序会影响展示与后续条件，不能当作无序集合；重复约束还要保证不同 pair 展开后没有不可用重复。减少步数把一部分复杂度转移到配对空间和评分上，并非免费加速。
教学例子：六个位置原本生成六次，改成三次分别生成有序二元组。二元组“咖啡机、咖啡豆”与反过来不同；若第二组再次含咖啡机，展开前还需要处理重复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
PSG 展开后为什么还要跨 pair 去重，而不只保证每个 pair 内不同？
PSG: Pair-Space Generation for Efficient Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：同一物品可出现在不同 pair，局部不重复不保证整页合法，选新 pair 时需考虑已选前缀。映射要保留 pair 内顺序，不能排序成 ID 升序。长度、余项与空合法集合需显式处理，不用重复填满掩盖失败。
教学例子：第一对相机镜头，第二对相机包，内部都不同却重复相机；展开前后都应检查全列表约束，而不是只看两两组合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
PSG 与普通两步并行 item 预测，相比 pair scorer 学什么依赖？
PSG: Pair-Space Generation for Efficient Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：独立位置头可同时输出但未必显式评价组合，pair scorer 联合看两个物品及次序，使一对内部互补进入一次动作。候选 pair 数可能很大，缩短步数把压力转到动作空间；来源代理质量负向，不能只报半长度宣称无损加速。
教学例子：相机与镜头一对可能互补，两台近似相机单条分高却重复，联合评分可区分；但所有可能二元组数量比单品多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
PSG 的 pair 能“无损展开”，是否意味着 pair 模型与原 item 模型概率完全相同？
PSG: Pair-Space Generation for Efficient Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不是。无损指给定有序二元组能还原对应两件物品及顺序，是表示映射的性质；pair scorer 与 item 逐步模型学习的概率及搜索路径可以不同。少一半解码步也不意味着训练误差、候选覆盖或端到端质量无损，这些需要另外比较。
教学例子：把列表甲乙丙丁打包成甲乙、丙丁再展开，内容没有丢；但新模型可能更爱选择另一组 pair，所以生成的列表分布仍可变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
OneShot 如何让离散层级索引受到排序目标训练，而不只按 embedding 距离分桶？
OneShot: Index-in-Ranking with Neural Scoring for Large-Scale Retrieval
问答新增：2026-10-27 · Meta / Instagram
展开答案与例子
答案：前向时物品走离散索引路径，反向用 straight-through 近似把排序损失传回路径分配参数，因此“分到哪个桶”能受到行为目标影响。全局平衡抑制热门路径拥塞，入桶候选再用更强的神经评分。索引与排序共同学习减少目标割裂，但梯度是近似的，桶平衡也不能代替真实相关性。
教学例子：两个商品文本相似，却面向不同购买人群。几何索引可能把它们放在一起，排序监督则可推动路径分开；同时平衡约束避免所有热门商品挤进同一个桶。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
OneShot 的 STE 前向与反向为什么应分别检查？
OneShot: Index-in-Ranking with Neural Scoring for Large-Scale Retrieval
问答新增：2026-10-27 · Meta / Instagram
展开答案与例子
答案：前向必须走实际离散 one-hot 路径，反向才用 softmax 梯度近似。全程 soft assignment 不测试离散服务，彻底硬 argmax 又可能无梯度。路径、候选映射与神经评分要保持同一索引版本，才能验收排序损失真正在训练地址。
教学例子：训练一步后路由参数应得到梯度，但单样本前向仍只选规定路径；若同时混所有桶，loss 可降却不对应线上离散树搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
OneShot 的全局路径平衡与热门度惩罚，作用对象为何不同？
OneShot: Index-in-Ranking with Neural Scoring for Large-Scale Retrieval
问答新增：2026-10-27 · Meta / Instagram
展开答案与例子
答案：路径平衡控制桶的资源与负载，避免索引拥塞；热门度惩罚直接改变物品推荐偏好。平衡桶不等于减少头部曝光，可能只是把热门项分散到多个桶。机制与业务分布应分别测量，不能用均匀索引占用代替推荐公平性。
教学例子：十件热门商品被平均放入十桶，最终仍可全被推荐；桶不拥挤了，但曝光依然头部，两个现象不能混称。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
OneShot 为什么把索引路径当模型的一部分，而非训练后再聚类？
OneShot: Index-in-Ranking with Neural Scoring for Large-Scale Retrieval
问答新增：2026-10-27 · Meta / Instagram
展开答案与例子
答案：训练后索引只按既有向量几何组织，可能和神经排序目标不一致。联合索引让行为损失影响分桶，候选进入路径后再用强评分器区分。离散路由与平衡约束仍可能降低覆盖，学习式索引不能保证所有规模都获益。
教学例子：文本相似但受众不同商品可因排序监督分开；若先固定几何桶，强评分器再好也只能在被召回桶里工作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DIRECTOR为什么用Sinkhorn加全局匹配，而不让每个位置独立挑最高分物品？
DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：独立位置预测可能都选择同一个热门物品，忽略位置之间争夺候选的耦合。Sinkhorn将分数转成受行列边际约束的软运输计划，训练时联合分配所有位置；最终再以全局匹配得到不冲突的硬列表。软分布本身还不是可展示排列，不能用独立argmax替代最后的组合解码。
教学例子：三个位置都最喜欢A，独立取最大会重复三次；全局匹配会同时考虑把A给最需要的位置、把B和C分给其余位置，从而形成一张合法列表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
DIRECTOR 的 score 矩阵与最终 permutation 应如何对齐候选索引？
DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：矩阵行代表位置、列代表候选，运输和硬匹配需使用同一列身份，取回物品时按全局匹配索引而不是各行排序索引。候选不足或重复身份需明确约束；来源本地比较独立索引与联合匹配，不能把电影代理结果外推生产 valid view。
教学例子：模型列二对应电影乙，匹配后若用已重排候选表的列二取值，会拿错电影；数值目标正确也无法保证实际展示列表合法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DIRECTOR 的 Sinkhorn 软运输与最终全局硬匹配，为什么不能只保留前者后逐行 argmax？
DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：软矩阵满足的是连续约束，逐行取最大仍可能撞到同一列，破坏唯一分配。全局匹配在离散空间共同选择，考虑某位置让步换来的总分。温度与迭代影响软近似，但不能用近似双随机直接保证独立取最大合法。
教学例子：两行都把甲分到零点六、乙零点四，即使列约束经过近似处理，独立取甲仍冲突；硬匹配需让其中一行选乙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DIRECTOR 的动态索引分布为什么要覆盖所有展示位置？
DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：每个位置都要从候选中选物品，独立分布会让多个位置争抢同一高分项。联合运输把位置供给与物品分配联系起来，随后硬匹配产生可用 slate。并行生成减少逐步解码依赖，但联合可行性和相关性仍需同时检查。
教学例子：五个位置都最喜欢电影甲，独立预测会重复五次；联合分配要求它只占合法数量位置，其余位置选择互补候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
为什么ClockRoPE会让相隔一周的行为，比相隔两天的行为更相关？
ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling
问答新增：2026-10-27 · YouTube / Google DeepMind
展开答案与例子
答案：许多消费习惯具有周期，相关性并不随时间距离单调减弱。ClockRoPE按目标周期kernel的频谱采样旋转频率，使query-key点积在相同小时或星期附近重新增强；还可与普通RoPE分担通道，保留近期信号。周期编码提供归纳偏置，不意味着每位用户都存在同样稳定的周规律。
教学例子：周一早晨的通勤新闻可能与上周一早晨更接近，而非周六深夜的娱乐视频；周期旋转允许表达这种回归，同时仍可保留普通近期偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
ClockRoPE 的日、周周期参数为什么必须和时间单位一致？
ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling
问答新增：2026-10-27 · YouTube / Google DeepMind
展开答案与例子
答案：本地 kernel 使用 T 为二十四与一百六十八，前提是时间差以小时计。若输入秒数不转换，周期位置完全改变；旋转频率采样和混合通道也要符合维度配对。测试应检查相差一周期时的增强，而不仅检查输出形状。
教学例子：七天应转换为一百六十八小时，代入周周期回到相近相位；若直接填六十多万秒，模型就会把同一时间差解释成许多错误周期。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ClockRoPE 与直接加“星期几”特征，相比改变的是哪部分交互？
ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling
问答新增：2026-10-27 · YouTube / Google DeepMind
展开答案与例子
答案：星期特征提供绝对时间标签，ClockRoPE 通过 query-key 相对旋转让成对注意力随周期时间差变化。它把周期写进相似度核，而不仅让下游自行组合两个日期。两者可有重叠也可互补，机制差别不意味着在任意数据上一定胜过简单时间特征。
教学例子：周五标签告诉模型现在周五，周期旋转则直接让本周五与上周五在注意力关系上相近；这不是同一个位置增加了一枚类别 embedding。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ClockRoPE 为什么用周期 kernel，而不是仅认为距离越远关系越弱？
ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling
问答新增：2026-10-27 · YouTube / Google DeepMind
展开答案与例子
答案：推荐习惯常在相同小时或星期重复，线性远近无法表达“隔一周比隔两天更像”。周期 kernel 让特定时间差重新增强，旋转频率承载该结构。周期是先验，不保证所有用户都有规律，也不应把无真实时间戳的代理结果当作周期行为证据。
教学例子：用户每周五晚看长片，隔七天的行为可比周三更有参考价值；对作息不规律的人，同样周期增强也可能引入噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
ASARL中的Critic与GenAgent为什么不能被一次LLM标注替代？
ASARL: Autonomous Social-Aware Relevance Learning for QQ Search
问答新增：2026-10-27 · Tencent PCG
展开答案与例子
答案：一次标注可能沿用原数据的偏差并漏掉长尾意图。ReasonAgent提出推理与等级，Critic反复校验并定位分布缺口，GenAgent再补对应样本；随后用交互反馈优化偏好并蒸馏给低延迟学生。补样本必须服务已识别的缺口，不能把未经行为校验的生成理由直接视作真标签。
教学例子：群名中的口语缩写被误判后，Critic发现某类校园查询持续出错，生成模块补这类对照，而不是均匀增加一批与缺口无关的样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
ASARL 蒸馏时 KL 的对象是自然语言理由还是标签分布？
ASARL: Autonomous Social-Aware Relevance Learning for QQ Search
问答新增：2026-10-27 · Tencent PCG
展开答案与例子
答案：来源的在线 student 最小化教师与学生的标签分布 KL，理由主要支持数据与教师训练，不要求小模型在线复述完整推理。本地 MovieLens 使用 genre 交集代理社交属性，分类改善却未迁移到排序，不能把这个替代标签当作真实社交搜索评估。
教学例子：教师给强、弱、无关三个概率，小模型学习这组三元分布即可快速服务；让它逐字生成长理由会变成另一条在线成本路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
ASARL 的 PGO 与仅用合成三级标签做监督，差别在哪里？
ASARL: Autonomous Social-Aware Relevance Learning for QQ Search
问答新增：2026-10-27 · Tencent PCG
展开答案与例子
答案：合成标签主要来自模型解释和审查，PGO 进一步使用交互信号验证的正负推理—标签序列，以相对偏好约束教师。两者证据来源不同，后者意在校准合成判断，但仍可能受行为偏差影响。不能把分类 loss 下降直接视为下游检索效果提升。
教学例子：模型觉得“摄影交流群”很相关，用户实际更偏好特定机型群；经过行为验证的胜负序列可纠正一般相关性，却不能只靠更好拟合合成标签做到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
ASARL 为什么先学习三级社交相关性，再将 teacher 蒸馏为线上 student？
ASARL: Autonomous Social-Aware Relevance Learning for QQ Search
问答新增：2026-10-27 · Tencent PCG
展开答案与例子
答案：社交标题常口语化且长尾，先用上下文推理与三级标签形成较细监督，训练教师理解意图与属性，再把标签分布迁移给较小模型。昂贵数据整理和推理位于训练侧，在线保留轻量判别。标签层次帮助区分相关程度，却仍需验证与真实搜索需求一致。
教学例子：“周末组队”在游戏频道与徒步群语境不同，教师先结合社交属性判断强相关、弱相关或无关，再教小模型做快速在线预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SERPO同时更新响应档案、rubric和actor，为什么必须区分这三者的作用？
SERPO: Self-Evolving Rubric Policy Optimization for Open-Ended Test-Time Reinforcement Learning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：Good–Normal–Bad档案提供经验比较，题目特定rubric决定当轮评价标准，actor才负责生成行为。三方闭环允许标准随策略改变，但也可能互相强化偏差。更新档案不等于训练模型，生成新rubric也不证明质量提高；需要独立留出评估避免自评自证。
教学例子：旧档案只收录短答案，rubric逐渐偏爱简短，actor随之缩短；三者彼此一致仍可能同时忽略任务事实正确性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SERPO的三方状态需要怎样按轮次追踪？
SERPO: Self-Evolving Rubric Policy Optimization for Open-Ended Test-Time Reinforcement Learning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：应记录生成响应、形成档案、更新rubric和actor的先后及版本，防止用后来标准倒填旧奖励。本地候选闭环未包含真实开放生成和模型judge的完整流程。
教学例子：例如本轮评分用哪个rubric版本必须可复核，否则无法解释策略更新来源。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
SERPO与固定rubric下反复RL有什么不同？
SERPO: Self-Evolving Rubric Policy Optimization for Open-Ended Test-Time Reinforcement Learning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：固定标准可能随着策略进步失去区分力，SERPO同时更新查询相关rubric和档案。更多可变环节也带来漂移与自强化风险，不能仅看自评分上升证明能力。
教学例子：例如策略学会旧条款后，新标准应区分新的难负例，而非永远重复基础检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SERPO为什么维护Good–Normal–Bad响应档案？
SERPO: Self-Evolving Rubric Policy Optimization for Open-Ended Test-Time Reinforcement Learning
问答新增：2026-10-27 · Authors did not disclose affiliation
展开答案与例子
答案：档案为当前问题的rubric和策略更新提供多质量参照，评估标准与actor共同演化，而非只永久保留最高分文本。分类仍取决于评价机制可靠性。
教学例子：例如中等回答可暴露差距，坏回答帮助标准指出需要避免的模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ReCo为什么既抑制高频回答，又按token的Bernoulli方差调整更新？
ReCo
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：响应级重复会让热门解法反复占据样本，token级饱和又会继续放大已占优决策。两项分别校正组内期望出现次数和局部决策的可塑性，不能相互替代。保持覆盖的目标也不等于追求任意随机性，本地候选概率不能代表真实长文本路径覆盖。
教学例子：多次采样都得到同一句模板，末尾选择也几乎确定；只减少重复回答权重，未必能避免饱和token继续主导更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ReCo的Bernoulli方差比为什么要保留old与current区分？
ReCo
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：它比较当前概率乘一减概率与旧策略相应量，衡量决策饱和变化。分母边界需数值保护，不能把两边都用当前概率后得到一；本地候选动作不等价自然语言pass@64。
教学例子：例如旧概率极接近边界时要审查稳定性，不能把数值异常当巨大有效信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
响应去重与ReCo期望出现次数加权能等同吗？
ReCo
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：硬去重直接丢重复样本，期望次数权重依据策略概率连续调整贡献；词元方差比还另作局部修正。二者改变的目标不同，不能用简单去重冒充整个方法。
教学例子：例如两回答碰巧未重复，但一种本来极常见，概率权重仍可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ReCo为何同时处理重复响应与饱和词元？
ReCo
问答新增：2026-10-27 · Seoul National University
展开答案与例子
答案：高概率回答反复出现会占据更多训练权重，已确定词元也可能继续被强化。响应级期望次数修正与词元方差比针对两种不同冗余，意在保留更多可探索路径。
教学例子：例如同一解法出现多次，里面的常见格式词又很确定，两层重复都可能主导梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么整理技能文档的奖励来自后续任务，而不是当前任务成功？
SkillRise
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：当前成功主要评价求解过程，不能说明留下的技能是否帮助别人或未来自己。把相关任务串成序列，整理阶段用折扣下游回报监督，促使文档保留可迁移经验；两个 phase 的 advantage 必须施加到各自生成 token，不能把信用无差别广播。
教学例子：例如这题靠偶然猜中答案，但文档记录了可复用的测试步骤；只有之后任务因此更容易完成，才能体现整理的价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地文档更新和 downstream credit 计数是否表示 Qwen3 已接受 RL 训练？
SkillRise
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：没有。本地在受控 PlanBench 检查状态演化、技能传递与 phase 信用分离，没有训练 Qwen3 或运行原文三环境。文档更新次数说明操作发生，不是策略参数学习证据，mini-suite 满分不能与论文 Pass@k 横比。
教学例子：例如一百二十次文档写入可以由确定性规则完成；若没有真实梯度更新，就不能称为完成论文共享策略训练。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
把相关任务组成连续课程，与把每个 episode 独立训练，在经验传递上有何区别？
SkillRise
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：连续课程让前一任务整理出的 skill document 成为后一任务输入，使可迁移经验有机会被实际使用和评价；独立 episode 通常不会自然暴露这种传递关系。关联任务也可能让经验过拟合课程，因此需区分文档对后续任务的帮助和单次求解本身，不能由传递次数推断泛化。
教学例子：教学例：先做简单表格整理再做带约束版本，上一题留下的检查步骤可在下一题验证；随机不相关题可能根本用不到它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
同一 policy 为什么交替求解当前任务和整理 skill document？
SkillRise
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：求解产生执行经验，整理把可迁移内容直接传给下一任务，让跨任务学习成为策略行为。相关任务由易到难组织，文档需要帮助后续而不是只解释当前成功；这不同于把每个 episode 完全独立训练，也不意味着所有经验都应保留。
教学例子：例如先完成简单文件查找后，整理路径定位和验证方法，再在更复杂修改任务复用，而不是原样搬运上一题答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
停止标签为什么由当前前缀与最佳后续前缀的 payoff gap 决定？
CAM-DF
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：相关性排名不回答开放多少工具才足够，停止过早可能缺能力，继续过久又付出额外成本。虚拟前缀的充分性减成本形成 payoff，差值决定停或续，绝对差衡量选错的遗憾；这些评估发生在执行前，不能把虚拟收益写成真实工具成功率。
教学例子：例如前两把工具已能完成任务，第三把虽相关却很贵，继续前缀收益更低；停止标签应考虑这部分成本而非只看排名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 required-tools 充分性可以作为一般部署 scorer 吗？
CAM-DF
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：不能。当前充分性来自可审计 mini-suite 的 required-tools，用于诊断前缀选择，不是另训的语义 scorer。隐藏必需工具不能传给实际策略宣称自主选择，工具暴露下降也不是 τ-bench live execution 的真实 token 或成功率收益。
教学例子：例如评分器知道第三项必需可用于离线算 payoff，但部署 router 若直接读取该列表，就绕过了论文要学习的充分性判断。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
regret 权重与普通 stop/continue 二分类标签有什么不同？
CAM-DF
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：两种错误代价可能差很大，gap 符号给停止标签，绝对值衡量错选损失。只做等权分类把几乎打平与漏掉关键工具同等看待；最佳后续前缀提供比较基准，也依赖充分性估计正确，不能视作部署时隐藏真值。
教学例子：例如多开放一个廉价工具只有微小损失，过早停下漏掉退款接口损失很大，regret 权重应让后者更受重视。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
工具排序之后为什么还需要决定开放前几个？
CAM-DF
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：相关性顺序没有回答候选集合何时已足够，开放过多工具增加成本和干扰，过少会缺必要接口。CAM-DF 在工具执行前虚拟比较前缀充分性与异构成本，选择停止点；这是暴露范围控制，不是实际工具调用后的动态 stop。
教学例子：例如排名前两项只含查询工具、第三项才有修改接口，任务需要修改时不能仅因前两项相关分高就停止开放。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
TWICE 为什么把最终转化概率与 delay CDF 分开学习，而不把未转化样本立刻记为负例？
TWICE: Two-Clock, Two-Window Learning for Long-Horizon Conversion Prediction in Online Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：观察时尚未转化的样本，可能只是还没等到转化发生。最终概率描述是否会转化，延迟分布描述在给定等待时间内已发生的比例，两者相乘对应当前可观测状态。双时钟与曝光窗口校正减轻标签成熟度差异，但需要合理的延迟建模；公开时间戳代理不能证明真实广告转化延迟被恢复。
教学例子：刚点击五分钟未买不应与等待一周仍未买等同。模型分别估计最终购买机会与五分钟内完成的比例，让“还没发生”不被直接当作“永远不会发生”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
TWICE的delay CDF需满足什么单调边界？
TWICE: Two-Clock, Two-Window Learning for Long-Horizon Conversion Prediction in Online Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：时间越晚累计转化可见概率不能下降，数值需在零一范围，并与最终CVR角色分开。当前公开交互代理广告延迟，没有真实聚合记录或revenue，不能报生产收益。
教学例子：例如等待从一天到两天，CDF不能从较高值反而下降。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
点击时钟current-status与转化时钟delay各提供什么？
TWICE: Two-Clock, Two-Window Learning for Long-Horizon Conversion Prediction in Online Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：前者看点击后当前成熟状态，后者建模延迟分布，两窗口联合校正观察偏差。只有单时钟容易混淆是否转化与何时可见，不是多加一个时间特征就相同。
教学例子：例如相同等待时长在不同采样窗口会有不同标签成熟程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
TWICE为什么把尚未转化与永不转化区分？
TWICE: Two-Clock, Two-Window Learning for Long-Horizon Conversion Prediction in Online Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：点击后订单可能很晚才出现，当前负标签未成熟。最终CVR乘延迟CDF描述截至当前观察到的概率，避免把所有暂未转化当真负。
教学例子：例如用户今天点击，明天才购买，今天不能直接判定永远不买。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
SWAG-Bid 为什么用跨 episode 的七日滑窗计划，还要逐步 gate 注入当前出价？
Beyond Single-Episode Optimization: Sliding-Window Aware Generative Auto-Bidding for Long-Term Advertising Effectiveness
问答新增：2026-10-27 · Alibaba International Digital Commerce / Dalian University of Technology
展开答案与例子
答案：单个 episode 的局部奖励可能忽视跨天预算与收益。滑窗状态承载更长目标，逐步 gate 再决定当前决策需要多少长期指导，避免固定强度压过即时市场信号。训练中的 masked future plan 提供监督，不意味着执行时可读取真实未来；本地小规模零变化也不能被解释成长期竞价收益已验证。
教学例子：今天竞争激烈但本周后面仍有机会，长期计划可能建议保留预算；当前遇到高价值请求时 gate 又允许即时信号更强。真实出价仍只能依据当时可得信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
SWAG本地公开数据是否有真实bid、budget和GMV？
Beyond Single-Episode Optimization: Sliding-Window Aware Generative Auto-Bidding for Long-Term Advertising Effectiveness
问答新增：2026-10-27 · Alibaba International Digital Commerce / Dalian University of Technology
展开答案与例子
答案：没有，当前是结构消融，非生产Decision Transformer检查点。计划mask和状态时间要严格因果，不能由未来观察补齐计划后再报告真实自动出价收益。
教学例子：例如电影行为上的一个动作分数，不代表广告竞价价格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
SWAG-Bid训练中的masked future plan，与部署时可读取的真实未来有什么区别？
Beyond Single-Episode Optimization: Sliding-Window Aware Generative Auto-Bidding for Long-Term Advertising Effectiveness
问答新增：2026-10-27 · Alibaba International Digital Commerce / Dalian University of Technology
展开答案与例子
答案：训练可利用按协议构造并遮蔽的未来计划信号来学习条件化行为，执行时却只能使用当时允许的状态和估计，不能把事后真实GMV或成本补进输入。两类信息的可见性必须分开，否则得到的是未来信息诊断，而非可部署出价能力。
教学例子：历史数据能回看明天结果用于构造训练监督；今天出价时，不能直接读取明天实际花费来填计划。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
SWAG-Bid的episode边界与七日滑窗，是同一段时间吗？
Beyond Single-Episode Optimization: Sliding-Window Aware Generative Auto-Bidding for Long-Term Advertising Effectiveness
问答新增：2026-10-27 · Alibaba International Digital Commerce / Dalian University of Technology
展开答案与例子
答案：不是。单个episode提供局部交互边界，七日滑窗可以跨episode携带更长周期的状态与目标。窗口并不是七个固定动作，也不能因进入新episode就清空所有长期条件。先识别两种时间范围，才能理解跨天约束为何需要额外表示。
教学例子：一天的竞价交互结束后，七日窗口仍包含此前几天信息；换一个episode不意味着七日目标重新开始。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
奖励引导解码中的指数倾斜，为什么既保留生成器先验又受 KL 温度控制？
Reward Guided Decoding for Generative Recommendation
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：最优受约束分布在原模型概率上乘以奖励的指数项，奖励较高的结果被提升，但原先极不可能的结果不会完全忽略先验地涌入。温度控制偏离代价，越小越强追逐奖励，越大越接近原分布。无需重训不代表无代价：奖励误差会改变解码方向，归一化与候选搜索也影响近似质量。
教学例子：原模型偏好熟悉影片，奖励鼓励新颖。适中温度可适度提升相关冷门片；温度过小则可能为新颖性挑出不合兴趣的片，因而不能只看奖励升高就说推荐更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
实现奖励指数倾斜为什么应使用 logsumexp 并测试温度极限？
Reward Guided Decoding for Generative Recommendation
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：直接 exp 容易上溢，log 空间计算更稳定；β 大应更接近先验，β 小更追奖励，非法候选保持屏蔽。截断近似与完整闭式归一需区别。来源新颖度奖励导致 NDCG 明显下降，不能只看奖励升高就称更好推荐。
教学例子：奖励一千直接指数可能变无穷，稳定归一仍能比较；但数值稳定不等于策略合理，小温度仍可能极端挑新奇却无关内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
指数倾斜与简单线性相加 logits，何时具有对应关系、何时不能乱换？
Reward Guided Decoding for Generative Recommendation
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：在相同候选全集上，log Q 与 log P0+R/β 仅差共同归一常数，可用于排序；若把原概率 P0 而非 log P0 加奖励，就不是同分布。不同候选截断也改变归一与支持，不能无说明视为闭式策略精确实现。
教学例子：概率零点九与零点一直接加一分奖励，和对数概率加奖励会产生不同强度；公式里先验的尺度不是可随便替换的细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
奖励引导解码能给先验概率 P0=0 的序列分配正概率吗？
Reward Guided Decoding for Generative Recommendation
问答新增：2026-10-27 · Institute of Information Engineering, Chinese Academy of Sciences
展开答案与例子
答案：按来源闭式公式不能。Q 与 P0 乘奖励指数成比例，先验严格为零时乘积仍为零，归一化也不会创造支持。奖励只重排已有支持内的质量；若额外平滑、扩展候选或修改生成器，需作为另外的算法步骤说明，不能归给指数倾斜本身。
教学例子：合法候选集合根本不包含某电影，给它再高新颖度也不会凭公式出现；必须先有可生成或可枚举的支持，奖励才能影响选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Reco-Reward 为什么奖励目标用户亲和力减去非目标用户亲和力，而不是只最大化通用吸引力？
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
问答新增：2026-10-27 · Kuaishou / Nankai University / Chinese Academy of Sciences
展开答案与例子
答案：只提高目标用户得分可能产生对所有人都相似的热门描述。减去非目标用户亲和力，鼓励描述保留能区分目标受众的特征，冻结双塔又提供稳定奖励接口。线上只消费优化后的内容描述，不需要实时用户画像；但奖励模型可能有盲点，差分得分提高不等于真实用户满意度已被验证。
教学例子：把咖啡描述写成“品质好、人人爱喝”可能吸引所有人却缺少区分。针对手冲爱好者突出酸质与冲煮参数，才可能提高目标人群相对其他人群的亲和力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
RAS 实现为何要冻结双塔，并记录非目标样本来自哪里？
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
问答新增：2026-10-27 · Kuaishou / Nankai University / Chinese Academy of Sciences
展开答案与例子
答案：奖励器若随策略一起变，分数可因教师漂移升高而非描述改善；非目标分布也影响扣减项。生成或选择描述与评估集合必须隔离，测试用户不能作为训练金标准。本地用历史质心代理用户塔，不能视为完整生产推荐器。
教学例子：描述变差但奖励网络同时调整也给高分，会造成自我强化；冻结后至少固定尺子，但尺子自身偏差仍需独立评价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Reco-Reward 的冻结模型奖励升高，与真实用户更喜欢描述，为什么不是同一证据？
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
问答新增：2026-10-27 · Kuaishou / Nankai University / Chinese Academy of Sciences
展开答案与例子
答案：RAS 由固定双塔估计目标与非目标亲和差，优化可以学会利用这把尺子的盲点；真实用户反应还受事实、表达与场景影响。冻结保证比较尺子不跟着动，却不保证尺子正确。应分别验证奖励、内容忠实和独立行为结果，不能用模型高分替代用户实验。
教学例子：反复堆目标人群关联词可能抬高双塔亲和，却让文案难读或夸大商品；模型奖励上升并不说明真实读者因此更愿意购买。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Reco-Reward 为什么训练内容描述而不是在线生成用户画像？
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
问答新增：2026-10-27 · Kuaishou / Nankai University / Chinese Academy of Sciences
展开答案与例子
答案：冻结推荐器提供受众亲和奖励，优化描述让商品内容更能表达适合谁，服务只消费描述，不依赖请求时个人画像生成。用户参与训练监督不等于线上暴露用户资料。描述仍应忠于商品，不能为拉亲和虚构事实。
教学例子：为手冲咖啡突出酸质与冲煮参数，面向目标受众而非每次实时写一段用户画像；若原商品不含这些属性，就不能凭奖励编造。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
Relay-OPD教师短暂接管后又还给学生，为什么不能把接力轨迹算作纯学生rollout？
Relay-OPD
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：接管区间的动作来自教师，后续学生又处在教师改变过的前缀中，整条轨迹是混合来源。接力预算让监督集中于关键失效位置，状态机须记录谁生成哪些片段。它能减少无效探索，但不能把外部帮助当成学生独立成功，更不能在评测时隐瞒教师调用成本。
教学例子：学生卡在第一步，老师带过两步后学生继续；最终答对并不表示学生从无帮助状态也会走到同样结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
Relay状态机怎样避免教师接管超出预算？
Relay-OPD
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：累积各次接力长度并检查总和不超过预算，接管、归还和终止均明确。当前教师是候选分布缓存，不是真实Qwen，更不代表八卡训练已完成。
教学例子：例如一次预算用尽后不能再偷偷开启第二轮接管。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
接力轨迹与普通学生rollout的来源假设有何区别？
Relay-OPD
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：接力包含教师干预，不能全称纯学生on-policy。完整轨迹用于训练需记录接管区间与预算，教师成功也不等于学生当时自主完成。
教学例子：例如教师替学生走过难点，评估时去掉教师仍需单独测量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
Relay-OPD为什么让教师短暂接管后再交回学生？
Relay-OPD
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：早期前缀失效会让后续监督陷入坏状态，短暂接力把轨迹拉回可学区域，同时预算限制避免全程由教师代写。学生仍需在交回状态继续行动。
教学例子：例如在关键转折教师写几步修复，然后学生自己完成剩下解答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
CoRT为什么在有无rubric的上下文中重放同一响应，而不是各自重新生成后比较？
CoRT
问答新增：2026-10-27 · ByteDance internship
展开答案与例子
答案：重放同一前缀和token能把似然差更多归于rubric条件变化；重新生成会同时改变轨迹，难以定位哪些位置受标准影响。差异用于重分配原响应级优势，而非把评分文本直接输入部署学生。反事实上下文也可能产生偏差，不能把权重等同真实因果贡献。
教学例子：同一句答案在加入“需引用来源”后，引用位置概率变化较大；若另一边重新生成整段，差异就不只来自评价条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
CoRT两次评分为什么必须对齐同一token与前缀？
CoRT
问答新增：2026-10-27 · ByteDance internship
展开答案与例子
答案：否则差异会混入生成内容变化，无法归因于criteria移除。归一后的权重用于固定优势，原学生采样不应见特权rubric；本地候选特征不等于真实逐词元重放。
教学例子：例如带条款评A句、不带条款评B句，差值已经不是局部条件对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
CoRT反事实重放与直接按attention大小分配有什么差别？
CoRT
问答新增：2026-10-27 · ByteDance internship
展开答案与例子
答案：重放比较评价条件改变后的概率，attention只是一次前向的信息权重；二者不等价，也都不直接证明因果正确性。不能用随意注意力图替代规定的似然对照。
教学例子：例如某词注意力大，却在移除criteria后概率不变，两种信号会不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
CoRT为什么对同一回答做有无criteria的重放？
CoRT
问答新增：2026-10-27 · ByteDance internship
展开答案与例子
答案：保持响应不变，条件差使词元似然变化反映rubric信息与位置关联，再重分配响应级优势。它尝试回答奖励应作用在哪，而不只是再给整篇加分。
教学例子：例如格式条款影响括号位置的预测，可让该位置获得不同信用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
代码优化RL为什么先校准计时环境，再把耗时加入奖励？
Reinforcement Learning for Code Optimization
问答新增：2026-10-27 · FAIR at Meta / Inria
展开答案与例子
答案：共享worker负载和小测试波动会让同一程序测得不同速度，策略可能学会利用计时噪声而非优化程序。独立沙箱计时、正确性门控与优化测试共同界定速度奖励，再处理稀疏优势和旧批次。通过语法或小夹具不能证明生产代码更快。
教学例子：一份程序恰好在空闲机器上跑得快，不应因此压过真正更高效的版本；先做同条件重复计时，再比较合法程序。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
代码优化方法的本地组件能替代独立计时服务吗？
Reinforcement Learning for Code Optimization
问答新增：2026-10-27 · FAIR at Meta / Inria
展开答案与例子
答案：不能。真实奖励需通过正确性及优化测试、独立沙箱校准，再处理稀疏优势和陈旧批次；只计算奖励公式不包含这套执行环境，也不能编造真实加速测量。
教学例子：例如模拟给出快慢分数，未实际运行代码，就只能验证更新接口。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
代码耗时奖励与普通数学verifier奖励有何不同？
Reinforcement Learning for Code Optimization
问答新增：2026-10-27 · FAIR at Meta / Inria
展开答案与例子
答案：数学正确性常可相对确定地判定，耗时则依赖测试、沙箱和负载，容易被小测试或测量噪声误导。需要门控与参考百分位，而非直接用一次墙钟时间作可靠优劣。
教学例子：例如共享worker短暂拥塞会让同一程序变慢，不应误判为代码退化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
代码优化RL为什么不能只奖励程序答案正确？
Reinforcement Learning for Code Optimization
问答新增：2026-10-27 · FAIR at Meta / Inria
展开答案与例子
答案：正确性是前提，目标还包括运行速度；但计时受输入规模与机器负载影响，需要专门测试和校准，才能把有效优化与环境噪声区分。
教学例子：例如两个算法输出一样，较大输入下运行差异才可能体现真正复杂度改进。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Penelope增加latent推理步时，为什么不用把整条decoder反复运行？
Penelope: Localized Latent Recurrence for Efficient Structured Reasoning
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：递归被局限在一个decoder边界，用共享变换与门控状态反复精炼该处表示，再继续后续计算。它增加的是局部表示更新次数，而不是每一步都重跑所有层。这样控制额外成本，但多次精炼是否真的帮助任务仍需测量；循环次数不能直接当作有效推理能力。
教学例子：把一道结构化题的中间表示在一个局部模块里更新3次，再交给后半段网络；前面已经完成的所有decoder层无需跟着重复3次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
Penelope 的 K 次更新能否用 K 个互不共享权重的层直接替代？
Penelope: Localized Latent Recurrence for Efficient Structured Reasoning
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：不能视为同一结构。文档递归使用同一Fθ并通过GRU/time gate更新状态；独立层会增加参数且改变迭代约束。本地短预算也未覆盖论文CoT-to-latent curriculum。
教学例子：两次调用相同latent块，与各调用一个新参数块，训练容量和状态演化都不同。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
局部共享块循环，与让整条 decoder 重跑，计算图有什么不同？
Penelope: Localized Latent Recurrence for Efficient Structured Reasoning
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：局部循环固定在上下decoder之间，只重复指定latent块；整条重跑会重复下层与上层计算。两者即使循环次数相同，计算预算与信息传递路径也不同，不能只按“思考两步”对齐。
教学例子：重复中间的小模块两次，和把全模型从输入到输出再执行两遍，成本并不相等。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Penelope 的 latent recurrence 反复精炼的是什么？
Penelope: Localized Latent Recurrence for Efficient Structured Reasoning
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：它在decoder的一个局部边界上反复更新连续hidden表示，使用共享latent块及门控状态，再交给上层继续预测。循环对象是内部表示，而非每次都生成一段新的可见文本。
教学例子：一个位置的hidden先精炼两步再继续向上，而不是连续写两次同一段答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么新任务先放 episodic buffer，反复可靠出现后才固化到参数记忆？
UniMem
问答新增：2026-10-27 · CASIA
展开答案与例子
答案：一次事件可能是噪声或特例，先留情节记录保留上下文，重复且可靠的模式再适合形成稳定参数化知识。自路由决定两种记忆如何使用，减少把偶然经验过早写进长期行为的风险；出现次数也需配合可靠性，不能把重复错误当成可固化规律。
教学例子：例如首次遇到临时服务故障先记为事件，多次确认同一配置约束后再沉淀为通用处理模式，而不立即修改所有任务策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 parametric route 是否实际扩展了 LLM 权重块？
UniMem
问答新增：2026-10-27 · CASIA
展开答案与例子
答案：没有。本地参数记忆是结构化模式表，用于验证频次阈值、情景到固化的路由逻辑和统计，不是训练或扩展语言模型参数。不能用 consolidation 计数证明权重内化，也不能把确定性 suite 的成功率当成流式大模型能力。
教学例子：例如模式出现三次后表里新增一条规则，只说明状态迁移；若 LLM 权重未更新，就不应写成参数学习已发生。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
情景检索与参数记忆在更新和调用上有何取舍？
UniMem
问答新增：2026-10-27 · CASIA
展开答案与例子
答案：情景条目易追加、核查和删除，但读取占上下文与检索成本；参数记忆将重复模式内化，调用更直接，却更难精确撤销单条事实。研究强调互补路线，不能把固化等同于简单复制到另一张表，也不能忽略错误积累风险。
教学例子：例如临时会议日期适合可追溯情景记录，稳定的工具使用模式才可能适合固化，二者更新频率不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
流式任务不断到来时，UniMem 为什么不能只依赖固定模型参数或只堆原始经历？
UniMem
问答新增：2026-10-27 · CASIA
展开答案与例子
答案：固定参数难及时吸收新情况，原始经历持续堆积又会带来检索和上下文负担。UniMem 研究让新近个例与稳定重复知识协作，在适应变化的同时保留可重复使用的经验。重点是处理知识的时效和稳定性，不能把出现次数多直接当成正确规律。
教学例子：教学例：新服务刚改了一次接口，需要先记住具体事件；若之后持续沿用同一规则，才有理由考虑形成稳定的调用习惯。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
技能图为什么要区分分解边、时间边和恢复边？
HiSkill
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：这些边表达不同执行语义：分解说明高层目标由哪些 AtomicOp 落地，时间边约束先后，恢复边提供失败后的可用路径。混成一种相似度关系会丢失可执行条件；检索相关子图后还需根据当前状态 grounding，不能把找到技能名就算完成动作。
教学例子：例如“上传文件”先分解为选文件与提交，失败后沿恢复边刷新登录；把恢复步骤当固定前置流程会引入无谓操作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地受控轨迹建图可以证明在线 LLM 已学会抽取技能关系吗？
HiSkill
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：不能。本地图节点和关系来自受控轨迹，验证层次、子图检索与复用，没有在线 LLM 经验抽取。AtomicOp reuse 数量可说明操作实际复用，但不代表开放环境语义关系被正确发现，也不能直接外推推理 token 节省。
教学例子：例如预先指定恢复边后系统能走该边，只证明图执行器；尚未测试模型能从未知失败日志自行发现这条恢复关系。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
按任务检索相关技能子图，与把整张技能图都放进上下文，有什么取舍？
HiSkill
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：相关子图限制当前要解释和落地的技能范围，让规划聚焦目标附近的组成、先后及恢复关系；整图保留更多潜在路径，却增加输入与选择负担。子图选择也会漏掉远处但必要的依赖，因此仍需按当前状态检查完整执行条件，不能把上下文更短等同于任务必然更好。
教学例子：教学例：当前只需恢复一次失败上传，可先取上传及恢复邻域；若漏掉认证前提，即使子图很紧凑也无法合法执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
高层 skill 与 AtomicOp 为什么需要不同类型节点？
HiSkill
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：高层技能表达目标和可复用子程序，AtomicOp 对应可落地动作，两者通过分解关系衔接。若把所有节点都当同一种文本片段，难区分抽象计划与可立即执行操作；落地仍需当前状态和工具合同，不能直接执行高层名称。
教学例子：例如“整理订单”是高层技能，查询订单、验证状态、写出结果是原子操作，需要分解后才能形成合法工具调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
solver 相邻状态价值差为什么能补充终局 outcome，而不是替代它？
CAST
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：差值把状态向可解方向的变化转为局部信用，帮助识别长链中的关键一步；但 solver 估值可能不完美，局部改善也可能最终失败，所以保留任务结果优势作整体约束。训练侧价值接口若接触隐藏答案，必须与评测行动者的信息边界隔离。
教学例子：例如一步约束化简让剩余问题更易解，可得到正局部信用；若后面写出无效结果，仍不能把整条轨迹当最终成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
CAST 计算 V(s_{t+1})−V(s_t) 时，怎样避免把状态顺序写反？
CAST
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：同一动作前后状态必须成对绑定，并使用一致价值方向；顺序写反会把进步记成负credit。还要统计solver实际调用成本，训练teacher价值也不应作为评测策略的隐藏答案接口。
教学例子：价值从0.2升到0.5应得到+0.3，而不是−0.3。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
solver 状态价值与策略自己学的 value critic，监督来源一样吗？
CAST
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：solver来自可求解环境的外部计算，critic则通常从经验学习估计。前者依赖环境可求解性并有查询成本，不能把小型最短路oracle的准确度外推到任意真实Agent任务。
教学例子：确定性小图可精确求解，并不意味着真实网页任务也存在同样便宜的完美solver。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
CAST 为什么向求解器查询相邻状态价值，而不只看终局输赢？
CAST
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：长程游戏的终局信号难定位单步贡献，solver对动作前后状态的价值变化可提供turn级credit，补充最终outcome，使训练更清楚某步如何改变局势。
教学例子：尚未结束的一步已明显改善可达结果，价值差可在终局前提供信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
UniR² 为什么让排序分支读取 SID 轨迹，却对共享输出 stop-gradient 并只学习 LoRA？
Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
问答新增：2026-10-27 · Kuaishou / IIE, CAS / UCAS
展开答案与例子
答案：SID 轨迹包含召回时逐级选择的中间信息，保留它可作为生成与排序的表示桥。两类 query 用不同掩码读取所需上下文，排序分支再对共享输出停止梯度，只通过低秩增量学习专有交互，防止排序目标破坏生成主干。它共享前向知识但控制反向干扰，并非所有任务梯度都无约束混合。
教学例子：生成器先走“户外—露营—帐篷”路径，排序器可利用整条轨迹判断具体商品。若排序偏好变化，先调整排序 LoRA，而不直接把生成器原本学好的路径语义改乱。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
UniR² ranking LoRA如何避免改坏共享生成主干？
Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
问答新增：2026-10-27 · Kuaishou / IIE, CAS / UCAS
展开答案与例子
答案：共享Q/K/V输出在ranking分支stop-gradient，只让ranking LoRA学特有交互。不是冻结整个模型，也不能把两个分支全梯度共享称隔离；本地缩比未跑生产beam与并行。
教学例子：例如排序loss仍可更新LoRA，但不应沿共享输出回传修改生成投影。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
generation query与ranking query为什么不能同一mask？
Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
问答新增：2026-10-27 · Kuaishou / IIE, CAS / UCAS
展开答案与例子
答案：生成需因果读取此前SID，排序可读完整轨迹与同步item tokens，信息需求不同。若生成读未来码会泄漏teacher-forcing目标，若全用生成mask又削弱排序。
教学例子：例如预测第二级码不能看第三级真实码，排序则可用完整候选路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
UniR²为什么把生成SID轨迹作为排序桥？
Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
问答新增：2026-10-27 · Kuaishou / IIE, CAS / UCAS
展开答案与例子
答案：召回与排序共享用户编码还不够，生成路径包含选候选的中间信息。异构decoder让排序读取这条轨迹及item特征，减少交接时表示丢失。
教学例子：例如不仅知道最终商品ID，还利用它经哪些语义前缀被生成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SpecFormer 的奇异值谱软化为什么有助于对抗表示坍缩？
SpecFormer: Mitigating Embedding and Attention Collapse via Spectral-Aware Transformer for Recommendation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：表示若被少数巨大奇异值主导，很多 token 会挤在近似同一低维方向，深层交互难增加信息。对谱做软化缩小强弱方向差距，谱残差位置编码再给注意力额外结构信号，意在保留更丰富的方向。它不是让所有方向等权的无损变换，弱方向可能也含噪声，效果仍需任务证据。
教学例子：一组向量几乎全沿“热门程度”方向变化，主题差别被淹没。压低最强方向的相对支配后，题材等较弱方向更可能被模型利用，但也要防止放大随机噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SpecFormer本地SVD路径应审查什么边界？
SpecFormer: Mitigating Embedding and Attention Collapse via Spectral-Aware Transformer for Recommendation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：输入形状、奇异值非负及变换重建需正确，位置残差与attention维度对齐；零秩或小奇异值要稳定。公开代理未复刻生产模型，不把谱图变化当线上lift。
教学例子：例如二维分解重建正确，只说明计算路径，不代表用户兴趣被真实恢复。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
谱软化与简单把所有embedding归一化有什么不同？
SpecFormer: Mitigating Embedding and Attention Collapse via Spectral-Aware Transformer for Recommendation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：单位化限制各向量长度，却不直接改变整体方向谱；奇异值变换调整群体子空间能量。两者可有不同作用，不能把L2 normalize重命名为SVD软化。
教学例子：例如所有向量都长度一也能完全同向，坍缩并未因此消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SpecFormer为什么观察奇异值谱来处理表征坍缩？
SpecFormer: Mitigating Embedding and Attention Collapse via Spectral-Aware Transformer for Recommendation
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：向量集中到少数方向会降低表达多样性，谱软化改变奇异值相对幅度，谱位置残差再影响注意力。谱更平不直接等于推荐更好，仍需任务验证。
教学例子：例如许多用户向量几乎平行，模型难分不同偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OxygenREC-v2 为什么从第一枚 SID 就注入行为指令，并按不确定性选择不同的后训练约束？
OxygenREC-v2: Internalizing Discrimination into Generative Recommendation
问答新增：2026-10-27 · JD.COM
展开答案与例子
答案：只在生成后重排不能补回已经漏掉的商品，行为指令因此直接进入解码前缀，让点击、加购或下单目标影响整条生成路径。后训练借助仅训练时可见的未来交互，低熵位置接受较确定的教师信号，高熵位置用 forward-KL 保留多种可能。未来信息用于监督而不进入线上输入，是机制成立的关键边界。
教学例子：要优化下单时，模型从首个语义码就偏向可购买候选。若某一分支有多种合理商品，训练不把它硬压成唯一答案；请求时仍只能依据当前已知历史生成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
OxygenREC-v2 本地推理为何边缘化三种代理行为，而不选真实目标所属一类？
OxygenREC-v2: Internalizing Discrimination into Generative Recommendation
问答新增：2026-10-27 · JD.COM
展开答案与例子
答案：MovieLens 没有 click/cart/order，若按 held-out 目标流行度选择条件，会泄漏答案身份线索。边缘化承认没有真实请求行为条件，但也改变原任务，结论限代理机制。未来 privileged view、高熵路由与损失仍应分别核验，不能用一项代表全链路。
教学例子：目标恰属低流行度组，评估先告诉模型“本次生成这组”就缩小搜索；对三个未知代理条件综合处理，才避免这种额外答案提示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
privileged teacher 的未来监督与线上使用未来特征，为什么边界不同？
OxygenREC-v2: Internalizing Discrimination into Generative Recommendation
问答新增：2026-10-27 · JD.COM
展开答案与例子
答案：训练教师可利用后续交互构造更丰富目标，再将知识传给仅当前输入的学生；线上未来尚未发生，不能进入 prefix。知识迁移允许标签更丰富，不允许评估读答案。高熵位置 forward-KL 也只是约束分布，不把未来变成实时可见信息。
教学例子：训练知道用户后来买了露营灯，可教当前历史模型；测试若先把这次购买放教师前缀再直接用于线上评分，就绕过了预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OxygenREC-v2 为什么把 click、cart、order 放进 decoder instruction？
OxygenREC-v2: Internalizing Discrimination into Generative Recommendation
问答新增：2026-10-27 · JD.COM
展开答案与例子
答案：行为目标不同会改变哪些候选值得生成，从首个 SID 起条件化比末端只改排序更早影响覆盖。加权预训与后训练再连接反馈。行为是合法任务条件，不应由当前测试目标反推；本地用热门度代理，不能当真实多行为监督。
教学例子：同一历史想优化加购与随手点击时，首层语义分支就可能不同；若只生成点击热门品再重排，下单候选可能早已漏掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Mosaic 已经有多个专长用户向量，为什么还要对新向量施加去冗余目标？
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
问答新增：2026-10-27 · Meta
展开答案与例子
答案：新增网络可能再次编码旧向量已有的信息，增加服务开销却不给下游新线索。Mosaic 把不同专长模型组成表征集合，并用任务关系挖掘学习联合行为，再约束新专长与既有表示的冗余。目标是增加互补信息，供下游按需使用；向量更正交只是一种训练约束，不等同于业务信息必然独立。
教学例子：已有向量擅长记住常买品牌，新模型若也只记品牌就价值有限。让新专长学习跨任务组合并减少重复，可补充“何时愿意探索新品”这类不同线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
Mosaic 的 cosine redundancy loss 为什么要 warm up，并与实际互补效用分开验收？
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
问答新增：2026-10-27 · Meta
展开答案与例子
答案：主任务尚未成形时强推不同方向可能只制造随机分离，warm-up 让表示先有任务信息，再逐渐降冗余。余弦降低甚至负值只说明几何变化，不证明增加了可用信息。来源本地 Hit 下降与头部上升必须保留，不能用正交趋势代替质量。
教学例子：两个随机向量本就可不相关，却都不会推荐；先学有效兴趣再检查新增 specialist 是否补充，才有理由讨论去冗余价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Mosaic 的 MRM 联合标签与分别预测每个二元任务，增加什么监督？
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
问答新增：2026-10-27 · Meta
展开答案与例子
答案：边际标签只约束各事件频率，笛卡尔积标签表示它们一起发生的组合，鼓励 specialist 学依赖结构。相关任务挖掘决定哪些组合值得学，标签空间也会增长。联合信号不等于真实因果关系，相关性高也可能只是曝光共同影响。
教学例子：点击与长看各半可能同时发生也可能错开，联合组合区分两者；只训练两个独立头无法由边际唯一确定这份关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Mosaic 的 specialist fleet 为什么不等同于扩大一个通用用户向量？
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
问答新增：2026-10-27 · Meta
展开答案与例子
答案：不同 specialist 分别优化记忆、稠密交互、序列和下游共训，让各自学习互补信息并可独立演进，下游按需消费多个接口。单模型扩宽仍可能被同一目标支配。fleet 也增加存储和维护成本，多个 embedding 不保证信息独立。
教学例子：记忆专家保留常买品牌，序列专家捕捉本周出游，共训专家适配购买目标；把向量简单加宽未必让这三类知识自然分工。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Memory Layer为什么把item cache做成模型内稀疏参数表，而不继续用独立发布的外部缓存？
Memory Layer: Train the In-Model Cache for Recommendation Models
问答新增：2026-10-27 · Meta / Instagram Reels
展开答案与例子
答案：训练用新鲜item塔输出、服务读旧缓存会造成表征错位，miss时走旁路又产生第三种分布。模型内写回与读取让后续网络在训练中就适应缓存语义，always-on属性还保证未命中项可评分。它改变的是数据依赖与训练服务一致性，不意味着缓存永远最新或外部读取完全没有开销。
教学例子：某商品训练时有新向量，上线却读到昨日旧值；把缓存纳入模型读取路径可让训练见到相同机制，缺失时仍用作者或主题等通用属性打分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
Memory Layer 的 η=1 writeback 为什么不同于对 M[i] 做普通小学习率 SGD？
Memory Layer: Train the In-Model Cache for Recommendation Models
问答新增：2026-10-27 · Meta / Instagram Reels
展开答案与例子
答案：这里把 item tower 输出直接覆盖对应表项，而非让旧表值缓慢沿任意梯度走。读出始终来自表，miss 分量置零但保留通用属性。应核验写回误差、覆盖与陈旧度，不能因表可训练就忽略来源定义的实际赋值行为。
教学例子：新 tower 输出一二三，写回后表项应就是一二三；若变成旧向量与新向量的十分之一混合，已不是 η=1 的覆盖语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
模型内 writeback 与定期全量发布外部 cache，相比一致性和维护成本如何变化？
Memory Layer: Train the In-Model Cache for Recommendation Models
问答新增：2026-10-27 · Meta / Instagram Reels
展开答案与例子
答案：writeback 把更新与训练事件耦合，减少独立发布管线带来的错位；外部发布可集中控制但可能落后和覆盖不齐。内存表仍有容量、并发和版本问题，always-on 也只是缺失 fallback。来源本地结构诊断不能外推 Meta 生产吞吐。
教学例子：训练到商品甲就写它的新向量，未出现商品仍旧；定期发布则全表一起换，两种更新节奏不同，不能只按命中率判断谁更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
Memory Layer 为什么要求训练、评测和服务都读取同一份表征？
Memory Layer: Train the In-Model Cache for Recommendation Models
问答新增：2026-10-27 · Meta / Instagram Reels
展开答案与例子
答案：训练用新鲜 tower 输出、服务用外部旧 cache 会产生表征错位，cache miss 另走旁路又增加分布差异。内置 Memory 表由训练写回，评分始终读表，always-on 属性支持未命中。统一读取不等于缓存永远新鲜，仍需记录更新时间和缺失。
教学例子：训练以最新电影向量学好，线上却查上周版本，分数会漂；让两侧消费同一内存表能减少这种接口不一致，但不消除所有刷新滞后。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
CORE为什么先判High与Non-High，再只对Non-High判Mid与Low？
CORE: A Unified Cascaded Ordinal Relevance Estimation Framework for E-commerce Search
问答新增：2026-10-27 · Meituan / Beijing Institute of Technology
展开答案与例子
答案：三档相关性有顺序且边界含义不同，平面三分类会混合严格匹配与宽松替代判断。级联让两个条件头分别专注边界，训练中的逐步奖励也只作用于实际经过的步骤；若已判High，就不应为未执行的Mid/Low步骤制造梯度。蒸馏时须把三类教师概率正确汇总成条件分布。
教学例子：搜索特定型号时先核对是否精确命中；未命中才区分可替代型号与完全无关商品。不能因为第一步已通过，还要求模型回答一个没必要执行的第二步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
CORE 将三类 teacher logits 蒸馏给双头 student 时，Non-High 的 logit 为什么要用 logsumexp？
CORE: A Unified Cascaded Ordinal Relevance Estimation Framework for E-commerce Search
问答新增：2026-10-27 · Meituan / Beijing Institute of Technology
展开答案与例子
答案：Non-High 对应 Mid 与 Low 的概率总和，在 logit 空间应以 log(exp zM+exp zL) 合并，而不是取均值。第二头只比较 Low 与 Mid，条件标签与有效 mask 要对齐。直接复制三类 logits 到两个头会改变条件概率含义。
教学例子：Mid 与 Low 各有较大质量时，它们合计可能超过 High；取两者 logit 平均会漏掉“两个分支合并”的概率，导致第一头判断失真。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
CORE 的 step-GRPO 与只给最终三分类答案一个奖励，有什么信用分配区别？
CORE: A Unified Cascaded Ordinal Relevance Estimation Framework for E-commerce Search
问答新增：2026-10-27 · Meituan / Beijing Institute of Technology
展开答案与例子
答案：最终奖励无法区分是第一层判断、第二层条件判断还是格式出了错。分步奖励分别组内归一，把反馈送到有效步骤；若已判 High，未执行的 Mid/Low 不产生奖励和梯度。更细信用依赖可验证步骤定义，不是推理文字越长奖励就越充分。
教学例子：正确判为 High 后不应强迫模型继续回答 Mid 还是 Low；只惩罚最终答案则可能让未被执行的步骤也受到含混更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
CORE 中 High、Mid、Low 为什么不能简单当作无顺序的三个类别？
CORE: A Unified Cascaded Ordinal Relevance Estimation Framework for E-commerce Search
问答新增：2026-10-27 · Meituan / Beijing Institute of Technology
展开答案与例子
答案：High 侧重严格实体与意图匹配，Mid 和 Low 的分界允许更软的替代关系。它们的错误代价与判别依据不同，级联拆分使两个头各自集中于相应边界。类别有序不意味着数值间隔相等，也不能把三类随意编码后当连续回归目标。
教学例子：搜索某型号手机时，同型号是 High，其他可替代型号可能是 Mid，无关配件可能是 Low；把 High 误判 Low 与相邻等级混淆含义不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
计算奖励模型记忆量时，为什么必须先逐run做sigmoid，再按训练内外平均？
What do Reward Models Memorize?
问答新增：2026-10-27 · ILLC, University of Amsterdam
展开答案与例子
答案：sigmoid是非线性的，先平均margin再变换会改变统计量。协议先把每个真实run的优劣奖励差转为概率，再分别条件平均得到训练内记忆与留出泛化，二者差可为负。训练包含关系来自真实划分记录，不能从高分反推，也不能让同用户跨边界泄漏。
教学例子：同一偏好对在两个run的margin差异很大，先压成一个均值会掩盖概率饱和；应保留每次训练是否包含它的记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
同一偏好对跨run的训练包含关系，能根据奖励模型得分高低推断吗？
What do Reward Models Memorize?
问答新增：2026-10-27 · ILLC, University of Amsterdam
展开答案与例子
答案：不能。训练内或留出身份必须由每次真实划分的manifest给出，得分只是被统计的结果。用高分反推“训练见过”会把结论写进分组条件，制造循环解释。还需核对用户级隔离；本地聚合组件不生成论文所需的多次RM训练运行。
教学例子：某条留出回答得分很高，仍应归入该run的留出组；不能为了符合记忆假设把它移动到训练组。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
CM与直接训练集准确率减测试集准确率有何区别？
What do Reward Models Memorize?
问答新增：2026-10-27 · ILLC, University of Amsterdam
展开答案与例子
答案：CM围绕同一偏好样本跨运行比较，并要求按用户划分，避免用户特征泄漏。普通两个集合均值还混合样本难度差异。该指标仍依赖划分与运行质量，不是逐条证明模型背诵。
教学例子：例如两个不同用户群难度不同，训练测试差可能来自群体差异，而非同一条偏好记忆。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
奖励模型记忆研究为什么把训练内表现与留出表现分开？
What do Reward Models Memorize?
问答新增：2026-10-27 · ILLC, University of Amsterdam
展开答案与例子
答案：某偏好对在被训练时得分高，不足以区分一般规律学习与对该样本的记忆。通过多次真实划分比较同一样本训练内外的偏好概率，差值才描述其条件记忆效应。
教学例子：例如同一偏好对在包含它的模型与没见过它的模型中表现不同，才有可比的记忆线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
DataOrchestra为何先允许Drop和Untouch，而不是给每个chunk都依次清洗三遍？
DataOrchestra: Learning to Orchestrate Per-Example Curation of Pretraining Data
问答新增：2026-10-27 · Fudan University / Shanghai Jiao Tong University / SII-GAIR
展开答案与例子
答案：不同样本需要不同处理，干净文本反复改写既浪费算力又可能损伤内容。orchestrator先决定丢弃、原样保留或清洗，只有Clean才组合噪声剪除、表面修正与教学增强，并生成样本专属指令；训练计划还经过真实执行与核验。目标是质量与成本的取舍，不是最大化被清洗比例。
教学例子：一段干净教科书可Untouch，网页噪声段先剪除导航，严重缺内容的段落可Drop；给三者统一套改写指令，可能花钱把原本正确的文本改坏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
DataOrchestra 的 teacher 粗计划，能未经执行验证就直接作为最终 SFT 目标吗？
DataOrchestra: Learning to Orchestrate Per-Example Curation of Pretraining Data
问答新增：2026-10-27 · Fudan University / Shanghai Jiao Tong University / SII-GAIR
展开答案与例子
答案：文档先实际执行tool model并由verifier检查，失败rewrite有限次纠正，内容损失或改动不足的stage会删除；通过验证的evolved plan才用于训练。只存一份粗计划不能替代这条闭环。
教学例子：计划写了“修复格式”，但执行后丢了内容，这个stage不应仍被当作成功范例。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
逐样本编排相对统一 corpus-level 清洗，为什么还要保留 Untouch？
DataOrchestra: Learning to Orchestrate Per-Example Curation of Pretraining Data
问答新增：2026-10-27 · Fudan University / Shanghai Jiao Tong University / SII-GAIR
展开答案与例子
答案：Untouch明确允许不处理，避免把清洗率误当质量目标。逐样本计划还可选择不同阶段；统一流水线通常让同类操作作用于所有样本，难兼顾过度改写与处理成本。
教学例子：把本来正确的代码也强行改写，可能既花工具计算又破坏原始信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
DataOrchestra 为什么把每个 chunk 当成一个需要单独决策的数据处理单元？
DataOrchestra: Learning to Orchestrate Per-Example Curation of Pretraining Data
问答新增：2026-10-27 · Fudan University / Shanghai Jiao Tong University / SII-GAIR
展开答案与例子
答案：不同chunk的噪声与质量不同，固定清洗流程可能过度处理干净文本。orchestrator为每块选择Drop、Untouch或Clean，并在需要时组织具体阶段和指令。
教学例子：一段已干净的说明可原样保留，另一段乱码则可能删除或局部修复。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
YouTube Freshness 为什么区分训练去偏与 serving 探索，而不把新鲜度特征当作完整解决方案？
Breaking the Loop: An Empirical Comparison of Strategies for Novelty and Freshness in YouTube Music
问答新增：2026-10-27 · YouTube Music / Google
展开答案与例子
答案：新鲜度特征告诉模型内容年龄，却不自动改变旧曝光造成的标签偏差。IPS 与可移除偏置塔在训练端处理数据选择，SNGP 不确定性奖励在服务端为未知内容分配探索，两者作用阶段不同。探索收集新反馈，去偏改善已有反馈利用；都依赖校准与假设，不能只因头部占比下降就认定用户满意度提高。
教学例子：新视频没有点击不一定质量差，可能从未曝光。训练端校正旧曝光偏差，服务端给高不确定候选少量机会，再根据真实反馈更新，而非仅给所有新视频固定加分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
本地SNGP代理或负结果能解释原YouTube在线试验吗？
Breaking the Loop: An Empirical Comparison of Strategies for Novelty and Freshness in YouTube Music
问答新增：2026-10-27 · YouTube Music / Google
展开答案与例子
答案：不能，当前没有连续训练基础设施和真实SNGP大模型。需分别报告干预、日志倾向与探索预算，IPS概率必须有来源，不能用物品流行度随意代替真实propensity。
教学例子：例如低流行并不等于当时被展示的概率低，两者统计对象不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
可移除bias tower与推理保留recency特征有什么区别？
Breaking the Loop: An Empirical Comparison of Strategies for Novelty and Freshness in YouTube Music
问答新增：2026-10-27 · YouTube Music / Google
展开答案与例子
答案：bias tower可吸收训练曝光偏差后移除，recency仍直接影响服务分。移除与保留改变目标，不能把训练偏差模型当作线上质量因素继续叠分。
教学例子：例如学习日志里旧内容优势，不代表部署应再次奖励旧内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
新鲜度研究为什么把训练去偏与serving探索分开？
Breaking the Loop: An Empirical Comparison of Strategies for Novelty and Freshness in YouTube Music
问答新增：2026-10-27 · YouTube Music / Google
展开答案与例子
答案：日志受既有曝光影响，新内容数据少；IPS或bias tower改训练信号，不确定性探索则改变实际曝光。两者干预位置不同，不能只靠加入发布时间消除反馈环。
教学例子：例如旧歌更常被展示导致数据更多，新歌需获得真实尝试机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Melo为什么必须在推荐后做实体grounding，并在失败时反思重试？
Melo: A Production LLM-Powered Music Recommendation Agent
问答新增：2026-10-27 · NetEase Cloud Music / Zhejiang University of Technology
展开答案与例子
答案：语言模型能生成合理的音乐描述，却可能给出不存在或名称不一致的实体。grounding把输出映射到真实目录，验证后才进入推荐结果；反思重试利用失败原因修正意图或检索，而非任意换一份列表。合法实体也未必符合偏好，修复成功率和推荐质量需要分别观察。
教学例子：模型写出一首听起来像真的歌，目录却找不到；系统应回到意图和检索节点修正，而不是把相似名称强行当成成功，也不能因歌名合法就认定用户会喜欢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
Melo 的 grounding 后 argmax 返回合法实体，为什么仍需要阈值和失败状态？
Melo: A Production LLM-Powered Music Recommendation Agent
问答新增：2026-10-27 · NetEase Cloud Music / Zhejiang University of Technology
展开答案与例子
答案：在目录内强选最高分总会得到一个合法 ID，但全部分数都低时可能是硬凑。阈值识别证据不足，原始生成实体是否存在也要在映射前记录；不能映射后再用“在目录内”条件假装发现了全部错误。本地只允许定义的一次重试。
教学例子：不存在的片名被硬映到最近真片，ID 虽合法但语义可能错；若只检查映射结果存在，就会漏报原始幻觉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
Melo 的一次 reflective retry 与无边界反复生成，相比可靠性取舍是什么？
Melo: A Production LLM-Powered Music Recommendation Agent
问答新增：2026-10-27 · NetEase Cloud Music / Zhejiang University of Technology
展开答案与例子
答案：受控重试可修明显 grounding 错误并限制成本，无限重试可能反复幻觉或把随机碰中当能力。触发需基于目录合法性与置信条件，修复后仍独立评质量。来源本地 fresh 增加但总体退化，不能用修复次数证明更好。
教学例子：第一次输出错电影名，可查目录再试一次；若越试越换主题，继续循环直到碰到答案会夸大系统成功率并浪费延迟。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Melo 为什么将意图、检索、推荐、解释分成多个执行节点？
Melo: A Production LLM-Powered Music Recommendation Agent
问答新增：2026-10-27 · NetEase Cloud Music / Zhejiang University of Technology
展开答案与例子
答案：每步有不同输入与失败条件，目录 grounding 让生成实体落到真实可用对象，反馈再决定是否反思重试。分节点便于定位与修复，而非让自由语言一次包办。合法实体也不保证相关，解释流畅也不能弥补候选错误。
教学例子：模型说出不存在的电影时，应先修实体映射而非继续解释；若实体真实却不合用户需求，则应回到意图或检索节点找原因。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Dual-purpose SID为什么还要用Semantic Decoder重建内容embedding？
Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in Recommendation Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：普通SID适合承载离散身份，却未必能替代下游需要的高维内容输入。SiDec训练从短码恢复内容表示，让同一码同时服务推荐身份与低I/O内容访问，减少反复搬运大向量。重建存在信息瓶颈，短码越省并不一定越好；本地小码本的质量损失说明压缩收益与推荐效果必须分开衡量。
教学例子：服务端只取三枚短码，再在模型内恢复商品内容向量，可减少外部读取；但若不同用途商品被压成同一码，解码器也无法凭空还原丢失差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SiDec 为什么要将每一级 one-hot 分开占列后再拼接？
Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in Recommendation Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：同一整数在不同残差层代表不同码字，分层偏移保留其身份，再由解码矩阵输出内容维度。若共用列，层次信息混淆；重建标签需对应同一物品与版本。本地 ridge 解码是明确缩比路径，不能把形状可运行当作全原文训练已完成。
教学例子：第一层码三与第二层码三是不同输入列；合成一个列会把粗主题与细残差混为一谈，解码器无法知道三来自哪层。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
短 SID 加 SiDec 与直接缓存 dense embedding，资源取舍是什么？
Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in Recommendation Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：直接缓存保留向量但占存储与 I/O，短码将逐物品负担转成小索引和共享解码参数，增加在线重建计算及近似误差。低 I/O 不必然等于低端到端延迟，来源小码本的检索负结果也不能被重建误差或接口优势掩盖。
教学例子：百万件商品的大向量可换成短码表，但每次需调用解码矩阵；若计算繁忙或码本太小，整体速度和相关性未必划算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Dual-purpose SID 为什么要求短码还能重建内容向量？
Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in Recommendation Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：离散码不只服务生成提名，还要为排序提供语义特征。SiDec 从小索引恢复近似内容，减少逐物品存储与传输大向量，同时用重建约束防止只剩协同身份。重建有损，短码不能保存所有原信息，需与质量代价一起衡量。
教学例子：商品只传三枚码再还原向量，带宽更小；若码没有保留防水属性，公共解码器也无法为这件商品凭空补回该细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
EGR让item索引与user查询共用骨干，为什么仍要联合训练两个任务？
EGR: Embedding-Native Generative Retrieval with a Shared LLM
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：共享参数只提供计算与表示联系，不保证两侧在检索空间中自然匹配。item表示学习维护可索引内容，next-item目标让用户查询朝实际消费关系调整，两种监督共同决定空间几何。若独立冻结一侧而另一侧持续变化，索引可能陈旧；联合训练后的向量仍需以一致版本建库和评估。
教学例子：商品编码因新训练发生旋转，用户查询却沿旧方向打分，会破坏近邻关系；两个目标共同训练有助对齐，但服务索引也要按对应版本更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
EGR 的共享骨干更新后，为什么要校验 item 索引和 query 版本？
EGR: Embedding-Native Generative Retrieval with a Shared LLM
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：两侧空间由同一参数约束，更新会改变点积含义，旧索引与新 query 不一定仍可比较。应记录重建、训练与切换边界，也确认 IRL 与 NIP 两项实际执行。仅共享类名而关闭一项损失，不满足全程联合训练定义。
教学例子：把物品向量留在旧坐标系、用户向量换到新坐标系，即使维度一样点积也可能无意义；版本化导出是实际接口要求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
EGR 联合更新与先冻结 item encoder 再训练用户塔，有什么部署取舍？
EGR: Embedding-Native Generative Retrieval with a Shared LLM
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：冻结稳定物品索引，用户目标却无法再修正物品空间；联合可持续对齐，但需要更新物品向量并保持服务版本一致。两种方案针对稳定性与适应性的取舍，来源本地负结果不能被共同训练的设计愿景取代。
教学例子：新 query 模型改变了科幻方向，若物品索引仍是旧版本，检索可能错位；冻结则更稳定，却无法修正旧空间难区分的问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
EGR 为什么联合训练 item representation learning 和 next-item prediction？
EGR: Embedding-Native Generative Retrieval with a Shared LLM
问答新增：2026-10-27 · Snap Inc.
展开答案与例子
答案：物品表示只优化自身内容时，可能不利于用户查询；下一物品监督让索引空间保留推荐需要的差别，item 目标又约束其语义。共享骨干使两类信号共同更新，减少割裂，也可能带来梯度冲突，不能由共享结构直接推出自然对齐。
教学例子：两部同题材片内容接近，但不同人群消费模式不同，联合训练可让索引区分这种关系，而不只优化文本相似。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
PinEqualizer 为什么沿整条分发链检查新内容存活率，而不只在精排里提高新内容分数？
PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：新内容可能在语料选择或召回阶段已经消失，精排再加分也看不到它。逐级检查输入占比和存活率能定位瓶颈；内容特征、互动特征 dropout 和校准减少模型依赖旧曝光，独立探索与不确定性奖励再补采反馈。探索仍要受相关性约束，否则只奖励低曝光会把不合适内容推给用户。
教学例子：一篇新食谱在召回前就被过滤，精排加分无济于事。先为新内容保留进入机会，再按相关性和不确定性分配少量探索流量，才能收集判断质量所需的反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
PinEqualizer 验证全选 UCB α=0，为什么不能继续加大 α 调出好看的 fresh 指标？
PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：验证目标已表明额外探索损害当前取舍，应保留零选择，test 不用于重挑 α。去偏模型本身可已大幅增加 fresh 分发，探索项不是必须强开。fresh、小分母与整体指标要共同报告，不能更换目标隐去主质量退化。
教学例子：模型已让新品曝光翻几倍，继续 UCB 只让相关性更差；应报告这一边界，而非为了显得有 bandit 就强制启用正 α。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
PinEqualizer 的 UCB 与仅降低热门分，相比为何同时关注不确定性与相关性？
PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：降热门只是反向惩罚，不知道哪些冷内容值得试；UCB 给少曝光或高不确定对象机会，搜索再乘相关性限制无关探索。它仍有精度代价，来源本地整体 NDCG 下降而 fresh 大升，不能只报探索数字。
教学例子：低曝光的相关新食谱值得少量试探，不相关冷门新闻则不应仅因冷而上榜；相关性 gate 避免把探索变成随机打散。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
PinEqualizer 为什么把新内容探索看成供给与模型共同问题？
PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：新内容可在 corpus、召回、排序任何环节消失，单点加分不足；内容特征减少依赖旧互动，独立探索 corpus 提供入场机会，不确定性策略分流反馈。全链路存活率帮助定位瓶颈，但新内容配额高不代表整体相关性不受损。
教学例子：精排再愿意推荐新品，若召回从未包含它就无效；先检查候选入口，再决定模型去偏与探索该在哪层增加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
BARGE为什么既修复同一物品的token边界，又对累计语义路径重排？
Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：一个物品被展开为多层SID后，普通序列注意力可能把局部码当独立事件，ICA先聚合物品上下文再门控回写。HPR则对已经生成的累计路径判断相关性，缓解早期beam偏差向深层扩散；互补量化路径进一步提供不同分解视角。三者分别处理表示边界、搜索误差和路径多样性。
教学例子：商品的三层码像同一地址的省、市、街道，不能当三次独立购买；若省级候选已选偏，后面只细分街道也难补救，因此要逐层检查路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
BARGE 实现 HPR 时为何比较累计路径向量，而不只比较当前一级码？
Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：累计和包含从粗到细已经作出的选择，才能判断当前整条语义路线是否仍符合用户。只看本级码会忽略早期错误；推理融合的是生成 log-probability 与重排分，训练对累计路径做对比。DPD 的正交约束另作用于投影，不应混成同一损失或声称完全独立。
教学例子：细码“入门款”本身合理，但前缀已走进家居而用户要相机。累计路径会暴露整体偏离，只看最后一级就可能误把它留下。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
BARGE 的两条互补解码路径与单路径增加 beam width 相比，改变了什么搜索空间？
Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：加宽 beam 在同一编码结构下探索更多路径，两条正交子空间则先构造不同表示与量化视角，有机会避免同一早期偏差同时主导全部候选。HPR 再评价累计路径。多路径增加训练和合并成本，互补性仍需验证，不能把输出翻倍直接当成信息独立。
教学例子：单路径再宽可能仍围绕同一错误粗码扩展；另一子空间若保留不同语义线索，才有机会找到被第一路径遗漏的书，而不只是重复列相同书。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
BARGE 为什么认为一个物品的多枚 SID token 需要显式 item context？
Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：SID 是同一物品的分解，普通序列注意力可能把各码当作独立事件，丢掉它们共同描述一个物品的边界。ICA 先在物品内部聚合上下文，再门控回写各码，保留整体与细节的连接。它修复的是编码组织，和跨物品历史的偏好关系仍是两个层面。
教学例子：一本书的主题、细分类和碰撞码应共同表示这一本书，不能把三枚码当成用户连续读了三本书；item context 把它们重新联系起来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
Windowed-MTP只缩小draft窗口，为什么能省读取又不直接改变target输出分布？
Windowed-MTP: Removing the Full-Context Draft-KV Tax at Million-Token Context
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：草稿只读起始保留项与近期窗口，降低其上下文读取开销；目标验证器仍读完整历史并校正所有提议。窗口改变提议质量、接受率及速度，不应改变精确验证定义的目标分布。若连验证器也截窗则条件改变，本地延迟也不能外推到原文生产硬件。
教学例子：例如旧历史线索被草稿忽略导致猜错，完整目标仍可拒绝并纠正；为了再省一点内存把目标历史也删掉，就失去原分布保证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
短序列中 sink 与 recent 重叠时，Windowed-MTP 应复制这些 KV 吗？
Windowed-MTP: Removing the Full-Context Draft-KV Tax at Million-Token Context
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：key集合是两区间的并集，重叠位置不应重复计入attention；还需保证只改draft索引，target仍读完整cache。若同时裁target，就失去原文的完整上下文验证条件。
教学例子：第5个位置同时属于sink和recent，也只应在draft读取集合中出现一次。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
draft key 数大幅减少，为什么 TPOT 不会自动按同一比例下降？
Windowed-MTP: Removing the Full-Context Draft-KV Tax at Million-Token Context
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：每步仍有target验证与draft前向，最终每token耗时还要除以接受长度AL。窗口可能降低接受率，因此读取节省、单次draft时间和端到端TPOT必须分开比较。
教学例子：一次验证便宜了，但每次只接受更少token，部分节省会被抵消。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
Windowed-MTP 为什么只缩小 draft 的历史读取范围？
Windowed-MTP: Removing the Full-Context Draft-KV Tax at Million-Token Context
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：长上下文下草稿每步读完整KV也可能成为瓶颈。方法为draft保留sink和近期窗口，而target仍看完整历史并验证，主要改变提案成本与接受率，保留target作为最终依据。
教学例子：草稿只读开头几项和最近64项，校验器仍能读取整段16K历史。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Naju为什么把保留门和写入门分开，不能只用一个互补门？
Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：若写入量固定等于一减保留量，强保留旧信息就会同时压低新信息写入。Naju直接参数化离散转移，并独立控制retain和write，所以可以同时较强地保留旧状态并接收新线索。token相关读写方向、局部卷积和直通路径仍各有作用，不应把它简化为一个固定指数滑动平均。
教学例子：已有状态记录人物名字，当前token补充其年龄；独立门允许保留名字并写入年龄，而不是为了增加年龄信息就被迫按同一比例擦掉旧状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
preserve-first 初始化应该怎样反映在 Naju 的两个 sigmoid 门上？
Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：文档给出forget_bias=5、write_bias=-2，使初始保留接近1、写入较小；它不是把两个门设为同一个值。还需保留token相关B/C与直接feedthrough，才能对应记录的完整本地路径。
教学例子：sigmoid(5)约0.993、sigmoid(-2)约0.119，分别表达强保留与弱初始写入。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
Naju 的原生离散 pole 与 Mamba 的连续系统离散化，出发点有什么不同？
Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：Naju直接参数化离散保留系数，Mamba路径从连续动力学及输入相关步长得到转移。两者都可递归，但参数化和门的耦合关系不同，不能只因都叫SSM就替换公式。
教学例子：一个模型直接学习每步保留比例，另一个经时间步长和连续系统矩阵得到该比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Naju 为什么把“保留旧状态”和“写入新信息”分开控制？
Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：若两个动作被同一门耦合，强保留可能限制新信息写入。Naju分别参数化retain与write门，并直接使用离散状态转移，使两种需求能独立调节。
教学例子：读到关键补充事实时，可以既保留旧事实，又写入新事实，而非必须二选一。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Möbius位置编码跨训练窗口旋转成负单位阵，和标准RoPE有何不同？
Anti-Periodic Positional Encoding: Möbius Boundary Conditions Make In-Context Retrieval Reliable
问答新增：2026-10-27 · Independent researcher
展开答案与例子
答案：它为部分头使用反周期频率，使相隔一个训练窗口的旋转为负单位阵、两个窗口后回到单位阵。这样显式约束长距离位置关系；其余头保留标准RoPE以兼顾语言建模。它是改变某些头的位置几何，不是增加可访问的历史内容，也不自动保证所有长度上的检索。
教学例子：窗口长度为N时，相隔N的位置在这些头上受到统一反向旋转，而相隔2N回到同向；内容是否被正确检索，仍需由查询、键和训练共同决定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
实现 Möbius RoPE 时，N 应随当前推理长度动态改写吗？
Anti-Periodic Positional Encoding: Möbius Boundary Conditions Make In-Context Retrieval Reliable
问答新增：2026-10-27 · Independent researcher
展开答案与例子
答案：文档把N定义为固定训练上下文，本地固定N=64并仅替换四头中的一头。若每次随输入长度改N，相同位置就可能使用不同频率，改变原本的边界定义。小模型负结果仍需如实保留。
教学例子：长度32与80的输入都应使用同一训练N，而非分别按32和80重建这张频率表。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
Möbius 频率相对标准 RoPE，多出了什么明确的边界条件？
Anti-Periodic Positional Encoding: Möbius Boundary Conditions Make In-Context Retrieval Reliable
问答新增：2026-10-27 · Independent researcher
展开答案与例子
答案：它把部分头的二维频率设为π(2i+1)/N，使跨N位置的旋转为-I、跨2N为I；标准RoPE头继续保留。差异在相位结构，不能把这项结构约束等同于已经测得检索提升。
教学例子：相隔一个训练窗口时相位反转，两个窗口后复原，而非任意缩放全部头的频率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Möbius RoPE 想改善的是哪种长距离检索不稳定？
Anti-Periodic Positional Encoding: Möbius Boundary Conditions Make In-Context Retrieval Reliable
问答新增：2026-10-27 · Independent researcher
展开答案与例子
答案：文档指出标准RoPE在长距离needle retrieval上可能受随机种子显著影响。Möbius为部分头加入反周期频率边界，尝试稳定跨训练窗口的相位关系，同时让其余头保留标准RoPE。
教学例子：同一长文本里插入同一个needle，不同训练seed的检索表现可能差异很大。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
gzip压不动的block为什么获得长程连接，这是否等于找到了重要内容？
Parameter-free Adaptive Sparse Attention via Compression-Based Content Selection
问答新增：2026-10-27 · Pennsylvania State University
展开答案与例子
答案：方法把较难压缩的字节块视为literal信息较丰富，以样本平均压缩率为阈值，让这些块之间建立长程边，同时保留局部窗口与因果约束。压缩率是无需训练的内容选择信号，并非语义重要性的真值；随机噪声也可能难压缩，而且literal块过多时长程边仍会变贵。
教学例子：重复模板容易压缩，独特编号往往更难压缩，后者可能需要跨段读取；但一段随机乱码也难压缩，所以还得验证这种连接是否服务于实际问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
为什么合并 literal/local/self 边后，还必须与 causal mask 相交？
Parameter-free Adaptive Sparse Attention via Compression-Based Content Selection
问答新增：2026-10-27 · Pennsylvania State University
展开答案与例子
答案：这些连接规则只说明哪些块相关，并不保证时间顺序；若直接使用并集，当前token可能读到未来。还需按三类head分配相应mask；本地dense score后masking并不实现稀疏kernel加速。
教学例子：两个literal块位于前后章节，早期token不能因为两块都被选中就读取后面章节。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
相对固定 BigBird/Longformer mask，gzip mask 的变化来自哪里？
Parameter-free Adaptive Sparse Attention via Compression-Based Content Selection
问答新增：2026-10-27 · Pennsylvania State University
展开答案与例子
答案：固定mask按预设位置建立边；gzip方案按每个样本的块压缩率改变literal长程边，同时保留局部窗口。它无需学习mask参数，但引入逐样本压缩与建mask工作，不能只比较边数就断言更快。
教学例子：把独特段落从文首移到文末，内容驱动的长程连接可随它改变，而固定位置模式不因此改变。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Gzip-guided Sparse Attention 为什么先把原始 bytes 分块压缩？
Parameter-free Adaptive Sparse Attention via Compression-Based Content Selection
问答新增：2026-10-27 · Pennsylvania State University
展开答案与例子
答案：它用压缩率作为无需训练的内容密度信号，识别可能携带较多独特字节的块，再决定长程连接。这个信号是启发式代理，不是语义重要性标签。
教学例子：重复模板与独特编号的压缩率可能不同，但难压缩的乱码也未必对答案有用。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
AdaDSF为何把更多token计算预算分给输入输出相似度较低的层？
Adaptive Depth Sparse Framework: Similarity-Driven Resource Allocation for Pre-Trained LLMs
问答新增：2026-10-27 · Huawei ACS Lab / Southern University of Science and Technology
展开答案与例子
答案：相似度低表示该层对表示改写更大，固定每层相同稀疏率可能把关键变换一并跳过。AdaDSF先测dense教师的层级变化，将预算映射并校正到全局总量，再由每层router选择token，其余走残差旁路。预算分配与学生对齐训练分工不同，不能只复制一个全局Top-K比例。
教学例子：一层几乎原样传递输入，另一层明显重组信息；同样跳过一半token并不等价。总预算固定时，可把更多块执行机会分给改写更强的一层。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
未进入 AdaDSF 某层 Top-K 的 token 应该被删除吗？
Adaptive Depth Sparse Framework: Similarity-Driven Resource Allocation for Pre-Trained LLMs
问答新增：2026-10-27 · Huawei ACS Lab / Southern University of Science and Technology
展开答案与例子
答案：不应删除序列位置，而是走residual bypass，再与已计算token按原位置合并。层ratio还需服从整体预算校正；只删掉token或改变顺序会破坏后续注意力与教师对齐。
教学例子：第5个token跳过某层后，仍保留第5个位置，下一层继续接收其原残差表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
AdaDSF 与 Uniform Mixture-of-Depths，应该在什么共同条件下比较？
Adaptive Depth Sparse Framework: Similarity-Driven Resource Allocation for Pre-Trained LLMs
问答新增：2026-10-27 · Huawei ACS Lab / Southern University of Science and Technology
展开答案与例子
答案：应共享全局token预算、teacher起点、对齐步数与优化设置，差别主要放在层间预算分配。文档中的小模型负结果也说明，自适应预算不能仅凭设计动机就视为必然优于均匀预算。
教学例子：一组保留80%计算、另一组保留50%，不能直接把质量差异全归于分配策略。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
AdaDSF 为什么不让每一层使用相同 token 预算？
Adaptive Depth Sparse Framework: Similarity-Driven Resource Allocation for Pre-Trained LLMs
问答新增：2026-10-27 · Huawei ACS Lab / Southern University of Science and Technology
展开答案与例子
答案：不同层对输入表示的改写程度不同。AdaDSF先测dense teacher各层输入输出相似度，把更多预算分给改写较大的层，再训练router与稀疏路径对齐教师。
教学例子：某层几乎保留原表示，另一层明显重构表示，两者未必需要相同激活比例。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
TCR为什么从过程奖励里减去outcome的滑动基线，而不直接把两项相加？
TCR
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：过程分与最终正确性常高度相关，直接相加可能把同一个成功信号重复奖励。残差项试图保留结果尚未解释的思考增益，并随训练状态更新参照。它依赖checklist质量和基线口径，不意味着过程残差必是真实推理质量，本地候选验证也不能外推完整模型。
教学例子：答对的回答几乎总获得高过程分，简单求和会重复计分；关注超出通常结果水平的过程改善，才有额外信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
TCR本地是否会调用模型生成样本级checklist？
TCR
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：不会，当前候选策略只验证残差过程奖励计算，未包含真实checklist生成与自由文本训练。EMA需按训练顺序更新，不能由测试整体成绩反向设置。
教学例子：例如给定一张手工清单并算奖，不能说明自动清单质量已验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TCR残差与简单把过程奖加到结果奖有什么不同？
TCR
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：直接相加持续累积两个来源，残差扣去动态结果基线，降低重复贡献。它不是精确统计去相关证明，也不保证过程裁判没有独立偏差。
教学例子：例如结果整体已提升，基线升高会减少同等过程分的额外信用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
TCR为什么把过程分数减去outcome的EMA？
TCR
问答新增：2026-10-27 · 论文未列机构
展开答案与例子
答案：过程与结果评分可能重复奖励同一成功，残差试图突出尚未由结果解释的思考增益，再与原结果合并。EMA反映训练状态，不是逐题真值。
教学例子：例如答对本来已得分，不能把同一个成功又包装成许多过程分重复强化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
DynamicRubric为什么既要求区分当前hard negatives，又用anchor限制评估器漂移？
Co-Evolving LLM Evaluators and Policies via DynamicRubric
问答新增：2026-10-27 · WeChat / Tencent
展开答案与例子
答案：固定标准可能随着策略进步失去区分力，动态维度和权重帮助识别新难例；若只追求可区分，评估器也可能学到任意风格捷径。anchor提供相对稳定的参照，约束评价标准改变。共同进化不等于客观真值同步改善，仍需独立任务验证。
教学例子：所有回答都已格式正确，旧格式rubric难再区分；新增标准若只偏爱更长措辞，也需被锚点评价约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
DynamicRubric权重为什么要绑定prompt和候选版本？
Co-Evolving LLM Evaluators and Policies via DynamicRubric
问答新增：2026-10-27 · WeChat / Tencent
展开答案与例子
答案：评分函数依赖两者，换候选可能产生新标准。训练记录需保存所用rubric及anchor版本，不能给不同组套用未声明的新权重后继续比较原奖励。
教学例子：例如同题两轮候选难点不同，得分变化可能来自标准变化而非策略本身。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
discriminability目标与anchor目标会怎样拉扯？
Co-Evolving LLM Evaluators and Policies via DynamicRubric
问答新增：2026-10-27 · WeChat / Tencent
展开答案与例子
答案：区分目标推动评价器对当前难样本敏感，anchor保留原参考标准避免随策略共谋。只追区分可能奖励无关差异，只追anchor又可能停留旧尺度，需要明确权衡。
教学例子：例如区分回答长短很容易，但若偏离真实质量，anchor应起限制作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
DynamicRubric为什么看当前候选集合生成标准？
Co-Evolving LLM Evaluators and Policies via DynamicRubric
问答新增：2026-10-27 · WeChat / Tencent
展开答案与例子
答案：策略进步后旧标准可能全满足，新的hard negatives需要更细区分。动态维度与权重利用当前差异，anchor限制评价器漂移，不意味着评价标准可以任意事后改变。
教学例子：例如旧格式条款人人通过后，应寻找仍能分开好坏回答的证据维度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
GaugeQuant为什么能先换内部坐标基，再降低量化误差，而不必先改变原始浮点函数？
GaugeQuant: Online Learning of Quantization-Optimal Bases from LLM Symmetries
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：某些内部通道变换具有函数等价的对称性：一侧乘正交基，另一侧作逆变换，浮点组合保持一致。量化却依赖坐标轴上的数值分布，因此等价基可能有不同outlier和舍入误差。方法在线学习更友好的基，利用的是函数等价与量化不等价之间的空间，不能随意在不满足对称条件的位置旋转。
教学例子：原来能量集中在一个特别大的通道，经合法旋转可分散到多个通道；逆变换保持浮点输出，而低比特码本可能更容易表示分散后的数值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
验证 GaugeQuant 时，怎样区分函数保持、fake quant 与真正 int4 执行？
GaugeQuant: Online Learning of Quantization-Optimal Bases from LLM Symmetries
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：先核对Q正交及对应权重变换，再检查量化与梯度路径；STE fake quant仍可用浮点kernel执行。本地没有int4 kernel，不能用位宽标签推导实测吞吐或内存带宽收益。
教学例子：张量值被映射到16个级别，不代表它已以4-bit打包并被int4硬件指令读取。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
GaugeQuant 与依赖额外 calibration corpus 的离线量化，优化时机有什么不同？
GaugeQuant: Online Learning of Quantization-Optimal Bases from LLM Symmetries
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：GaugeQuant把正交基及outlier目标放进训练，与LM目标共同优化；离线校准通常在冻结模型后根据样本统计调整量化。训练机制和额外数据需求不同，不能仅比较最终位宽。
教学例子：两个方案都写W4A4，但一个在训练中改变基，另一个在训练后固定校准参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
量化里的 activation outlier 为什么会让大多数普通数值也受影响？
GaugeQuant: Online Learning of Quantization-Optimal Bases from LLM Symmetries
问答新增：2026-10-27 · University of Cambridge
展开答案与例子
答案：有限位宽要覆盖一组数的动态范围，少数大幅度通道会让表示普通值的间隔变粗。GaugeQuant学习内部正交基，用outlier目标寻找更利于量化的表示；浮点等价不代表量化误差相同。
教学例子：用很少刻度同时表示1、2和1000时，普通小数值之间的差异可能更难保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
TSGR 为什么在同一语义前缀下同时分配全局和 query-conditioned 价值码？
TSGR: Taobao Search Generative Retrieval
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba / Zhejiang University
展开答案与例子
答案：语义前缀先组织商品相关性，但同一主题下的商业价值既有全局差异，也随查询而变。两套并行价值码把这两种信号带入生成路径，联合训练的 VRM 再结合生成状态与商品信息精细评分，避免完全独立的预排器割裂目标。价值代理与真实业务标签需区分，本地公开评分构造不能代表真实交易价值。
教学例子：同一款相机配件整体销量一般，但在“微距摄影”查询下很有价值。全局码表达总体表现，条件码表达该查询的特殊价值，精细模块再综合判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
TSGR本地ID和VRM实现应避免什么泄漏？
TSGR: Taobao Search Generative Retrieval
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba / Zhejiang University
展开答案与例子
答案：价值统计和码分配只用训练时间数据，query条件与item身份对齐，VRM与backbone按协议联合更新。不能用测试转化率先造价值码，再称能预测未来商业收益。
教学例子：例如将待预测订单金额编码到物品ID，会把答案直接写进输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
全局价值码与query-conditioned码为什么不能只留一种？
TSGR: Taobao Search Generative Retrieval
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba / Zhejiang University
展开答案与例子
答案：全局反映跨query的总体价值，条件码表达特定需求下价值，两者参照不同。只留全局易偏头部，只留条件又需可靠query统计，不能用一个热度码冒充全部。
教学例子：例如通用畅销商品在专业query中未必比小众适配款更有价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
TSGR为什么把商业价值编码进生成路径？
TSGR: Taobao Search Generative Retrieval
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba / Zhejiang University
展开答案与例子
答案：只生成语义相关商品再外接独立预排，会割裂召回与价值目标。并行全局和query条件价值码配联合VRM，让生成状态与精细商业排序一起训练。
教学例子：例如同语义候选中，当前query下更合适的交易价值可进入选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
PinDCO 为什么预测创意相对基础广告的增量，并额外惩罚长宽比带来的像素占用？
PinDCO: Whole-Page Aware Dynamic Creative Optimization at Scale
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：基础广告分数包含商品和用户匹配信息，增量预测把学习重点放在图片、标题与版式改变了多少价值。较高创意还会占用更多瀑布流空间，像素调整乘子让收益与空间代价共同决定选择。探索流量为新创意补反馈；本地无真实像素实验，不能把代理特征结果解释为布局因果收益。
教学例子：同一广告有方图和长图，长图点击可能更高，却挤掉其他内容。只有增加的价值足以抵消像素惩罚时才选长图，而不是见到更高点击预测就直接占用更多版面。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
PAM 的 clip 与相对长宽比 r，为什么需要精确保持？
PinDCO: Whole-Page Aware Dynamic Creative Optimization at Scale
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：P(r)=clip(1−tanh(k(r−1)),0,1) 使过高创意受惩罚并保持合法范围，乘在对应原目标 O 上。换成长宽比倒数或去掉 clip 会改变边界。本地 content norm 只是无像素替代，不能从该代理结果宣称真实版式效率。
教学例子：若 r 定义高宽比，误用宽高比就会惩罚宽图而非高图；公式都能算出有限数，却正好反转了屏幕空间代价方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
PinDCO 的 ε-greedy 与只给历史最优创意流量，相比对新品反馈有什么作用？
PinDCO: Whole-Page Aware Dynamic Creative Optimization at Scale
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：贪心持续曝光旧赢家，新创意缺机会便难估；少量随机探索提供较少选择偏差的反馈，再训练组件价值。探索也有成本且不消除全部混杂，像素调整另管页面占用，不应把两者合并成一个收益保证。
教学例子：新标题暂没点击并不代表差，分一点探索流量才有证据；但不能为了探索把明显误导创意强推，目录与事实约束仍需保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
PinDCO 为什么为图像、标题、版式使用组件专属 tower？
PinDCO: Whole-Page Aware Dynamic Creative Optimization at Scale
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：创意各组件模态与统计不同，独立编码后再学习其对基础广告的增量，便于比较同一广告不同组合。全混合容易丢角色差别，但组件塔也需交互才能表达搭配。增量是预测分变化，不自动等于随机实验测得的创意因果收益。
教学例子：同一商品换标题与换长图影响不同，专属塔让模型知道改的是哪部分；图片漂亮也可能配错文案，需要组合判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
Off-Context GRPO采样时给提示，为什么优化与推理却仍使用无提示策略？
Off-Context GRPO: Learning to Reason on Hard Problems using Privileged Information
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：提示用于提高困难题成功轨迹的出现率，采样行为分布因此不同于目标策略。训练用无提示策略概率与带特权行为概率的比值校正，而不是训练一个依赖提示才能运行的模型。忽略分母或把提示留在评测输入中，都会改变方法所声称的任务。
教学例子：训练教师给出一段草稿帮助采到正确续写；更新时学生仍只条件于原题，测试时也不能把那段草稿偷偷保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
Off-Context重要性比分子分母分别条件于什么？
Off-Context GRPO: Learning to Reason on Hard Problems using Privileged Information
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：分子是原问题下目标策略概率，分母是问题加特权信息下behavior采样概率。回答前缀相同，条件上下文不同；不能把两边都用带提示概率让比值退化。
教学例子：例如删除提示只发生在目标视图，分母仍须保留真实采样时的提示条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
它与直接对提示后回答做普通SFT有何区别？
Off-Context GRPO: Learning to Reason on Hard Problems using Privileged Information
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：它保留可验证奖励和组内相对信号，并校正有提示采样与无提示目标分布；普通模仿不自动处理这种采样差。两者都需严格隔离评测答案。
教学例子：例如有提示更易生成某解法，不代表无提示策略原来以同样频率生成它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Off-Context GRPO为什么只让behavior看特权提示？
Off-Context GRPO: Learning to Reason on Hard Problems using Privileged Information
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：提示帮助采到成功轨迹，目标策略仍按部署条件只看原题。这样训练学习无提示行为；若目标也看到解题信息，就不再检验推理时无需特权上下文。
教学例子：例如采样器可拿到一段草稿，目标评分时必须去掉这段草稿。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ISO固定奇异值只优化singular frames，和普通低秩增量训练有什么不同？
ISO: An RLVR-Native Optimization Stack
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：固定谱把参数变化限制为输入与输出奇异方向的调整，而非自由改变所有幅度或任意加一个低秩矩阵。这个约束影响可达权重集合，也为专家合并提供结构。只验证小矩阵或候选策略上的保持性质，不能据此声称完整模型优化栈已被复现。
教学例子：同一组奇异值对应的矩阵仍可因方向旋转而改变映射；因此“谱不变”不意味着模型行为不变，也不等于参数被冻结。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ISO实现中怎样避免把Σ也作为可训练参数？
ISO: An RLVR-Native Optimization Stack
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：参数化需明确固定Σ0，只把允许的输入输出框架交给优化器，并检查相应结构约束。普通无约束矩阵更新会改变谱；本地候选核未覆盖原文完整大模型栈。
教学例子：例如把重建矩阵整体设requires_grad后任意更新，会绕过固定奇异值的设计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
ISO固定谱与GCPO保护主子空间是不是同一种约束？
ISO: An RLVR-Native Optimization Stack
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：不是。ISO固定奇异值而可改变奇异框架，GCPO限制更新不得进入选定主空间；固定量与允许变化的方向不同，只能按机制比较，不能由名字相近推断等价。
教学例子：例如保持尺度但转动方向，与保持主方向不动再在补空间更新，并非一回事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ISO为什么固定奇异值而只调整singular frames？
ISO: An RLVR-Native Optimization Stack
问答新增：2026-10-27 · The University of Texas at Austin
展开答案与例子
答案：固定谱强度、改变输入输出方向，提供一种受结构限制的适配空间，减少任意重塑权重。它不是冻结整层，也不意味着权重功能完全不变。
教学例子：例如同样各方向伸缩强度，旋转输入和输出基仍能改变处理哪些特征。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么修复建议不能自动从导入日志重放任意外部工具？
AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：日志是观察资料，可能过时、缺权限或包含有副作用的调用；检测归因与授权执行应分开。不可变原轨迹上叠加假设和建议，真实重跑经人或 policy gate 后形成独立证据；诊断器若有参考答案等特权输入，也必须与无答案在线能力明确区分。
教学例子：例如日志里有删除临时目录命令，调试器不能仅因导入了它就重新执行；应先建议修复，再由有权限的运行流程决定。
依据：背景与主要改动、核心机制与评测边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
AgentDebugX生成修复建议后能自动重放日志工具吗？
AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不能，实际重跑经过人或policy gate，不能从导入日志擅自执行任意外部命令。闭环结果需修后独立轨迹真实评分；memory或Error Hub收益未被原文评估。
教学例子：例如日志含删除命令，诊断器可以建议修正，不应直接再次运行。
依据：背景与主要改动、核心机制与评测边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
Who&When提供reference answer意味着怎样的比较边界？
AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：该诊断条件允许任务答案但不提供责任Agent或步骤，是with-ground-truth定位协议。不能省略答案特权后宣称它是无答案在线智能体能力对比。
教学例子：例如知道目标结果有助发现偏离，但仍不等于知道谁最先犯错。
依据：背景与主要改动、核心机制与评测边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
AgentDebugX为什么保留不可变原始轨迹再叠诊断？
AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：失败定位需要完整事件顺序和证据，重写旧日志会掩盖真实行为。Detect、Attribute、Recover和Rerun分别产物可追溯，症状步骤不直接等于根因。
教学例子：例如工具报错发生在后一步，根因可能是前面传参错误。
依据：背景与主要改动、核心机制与评测边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
RecEvolve 为什么把候选门控、独立验证集选择和版本回滚放在研究 agent 外围？
RecEvolve: A Knowledge-Driven Autonomous Agent System for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：研究 agent 能生成结构改动，也可能提出只对某个指标投机的配置。外部门控先拒绝违规候选，再用独立验证效用与当前冠军比较，只有真实改善才原子更新版本，失败则回滚并记录知识。它把“提出想法”与“接受证据”分开；测试集不能参与冠军选择，否则循环会逐步过拟合最终评估。
教学例子：agent 提议极低温度让分布异常尖锐，门控先检查是否合法；另一个结构能运行但验证集更差，就保留旧冠军，并把失败原因记入下轮实验知识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
RecEvolve 的原子冠军更新，为什么需要先完成验证产物再替换指针？
RecEvolve: A Knowledge-Driven Autonomous Agent System for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：部分训练、缺指标或写入中断不应覆盖可用基线，先核验候选终态与 J，再原子切换版本，否则失败难恢复。未胜出时保留旧冠军是有效结果，不强制每轮有改进。来源本地小幅差值不能外推线上长期收益。
教学例子：新 checkpoint 写到一半崩溃，冠军仍应指向旧完整版本；先改指针再写文件会让下一轮读取一个不存在或不完整的模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
外部 critic gate 与让 agent 自评好坏，相比为什么能减少刷指标？
RecEvolve: A Knowledge-Driven Autonomous Agent System for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：agent 可能偏向自己提案或利用温度等捷径，外部门控固定允许空间，独立验证效用决定是否晋级。它管理证据而非保证创新，门控规则也需可执行不能仅写提示。test 不得成为 critic 的常规搜索反馈。
教学例子：极低温度让输出异常尖锐，即使某代理分好看也先按约束拒绝；不是让 agent 自己说一句“没有作弊”就算审查通过。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
RecEvolve 的研究知识库与可运行模型 artifact，为什么不能互相替代？
RecEvolve: A Knowledge-Driven Autonomous Agent System for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：知识库保存提案、验证协议、观察和失败条件，帮助下一轮选择；模型 artifact 保存实际参数与配置，供执行和复评。写下“某结构有效”不能代替一个可加载候选，保存 checkpoint 也不能说明它为何晋级。版本状态需要把证据与具体产物关联。
教学例子：一段笔记说内容分支最好，但没有对应配置就难重跑；反之只留下权重、不留验证口径，也无法审查它是否真的胜过旧冠军。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
RAMP 为什么为缺少个性化字段的流量保留独立路径，而不是统一填零？
RAMP: Robust Ad Recommendation Under Limited Personalized-Feature Availability via Masking and Alignment Pathways
问答新增：2026-10-27 · Huawei Ireland Research Center / University College Dublin
展开答案与例子
答案：填零会把“字段不可用”与真实零值混为一谈，还要求同一表示同时适应差异很大的输入分布。RAMP 用可用性掩码选择个性化或公共路径，并在训练期把富特征预测对齐给受限路径，让后者学习可迁移知识。受限路径推理仍只用获准字段，蒸馏不能让它恢复原本不可见的个人信息。
教学例子：用户未授权行为特征时，只走内容与上下文路径；训练时可从有授权样本的丰富预测获得软监督。上线不能为了复制教师分数再偷偷读取缺失的历史字段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
RAMP 可用性 mask 为什么必须由真实权限状态决定而非预测效果？
RAMP: Robust Ad Recommendation Under Limited Personalized-Feature Availability via Masking and Alignment Pathways
问答新增：2026-10-27 · Huawei Ireland Research Center / University College Dublin
展开答案与例子
答案：输出选择代表字段是否可用，不应看标签或哪个分支事后更准来切换。训练蒸馏可在获准样本上进行，测试受限流量严格禁止个人字段，mask 与缺失值处理也需一致。若把零值当缺失，会混淆真实零特征和不可访问。
教学例子：某用户购买标签为正时选个人分支、为负选公共分支就是泄漏；正确 mask 只取决于请求时权限与字段存在性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
RAMP 的蒸馏对齐与单纯缺失特征训练，额外借用了哪类信号？
RAMP: Robust Ad Recommendation Under Limited Personalized-Feature Availability via Masking and Alignment Pathways
问答新增：2026-10-27 · Huawei Ireland Research Center / University College Dublin
展开答案与例子
答案：缺失训练只用硬标签教模型适应受限输入，对齐还让富特征路径提供软判断，传递标签之外关系。受限学生不一定能恢复全部信息，教师偏差也会迁移。来源大相对增幅来自很低基线，不能只报百分比当工业鲁棒性定论。
教学例子：公共特征相近两广告，教师可用更多历史给软差别；学生学这份趋势，但没有足够公共线索时仍无法分清每个用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
RAMP 的 non-personalized 路径是否意味着给所有请求同一个预测？
RAMP: Robust Ad Recommendation Under Limited Personalized-Feature Availability via Masking and Alignment Pathways
问答新增：2026-10-27 · Huawei Ireland Research Center / University College Dublin
展开答案与例子
答案：不是。它不使用受限个性化字段，仍能依据广告内容、公共属性和请求上下文产生不同结果。无个人历史不等于没有任何输入，完全常数预测反而丢掉合法可用证据。具体公共字段应遵守来源与权限定义，不能以 public 名称包装个人标识。
教学例子：同一匿名用户在雨天看雨具广告与晴天看食品广告，公共内容和场景不同，预测可以不同；这无需读取他的私人浏览史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
PPL-Factory为什么不总选最难样本，还要随任务和数据预算改变选择区间？
PPL-Factory: Task-Aware and Budget-Aware Data Selection from Language Modeling to Reasoning
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：样本难度与有用性并非固定单调关系；高预算、低预算和极小预算下，学习信号与覆盖的取舍不同。它先用冻结基础模型按任务口径打分，再分别偏向easy、middle或从middle池随机抽样。推理SFT只看response损失，不能让prompt长度主导所谓难度。
教学例子：预算只能留几十条时，机械挑最难可能全是模型尚无学习信号的样本；从中等池随机抽取可保留部分覆盖。预算足够大后，最佳策略又可能改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
PPL-Factory 的选择实验，为什么要从同一冻结 scorer 和训练起点比较子集？
PPL-Factory: Task-Aware and Budget-Aware Data Selection from Language Modeling to Reasoning
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：否则分数模型或初始checkpoint变化会混入选择效果。文档固定scorer、各组block数量和微调预算，并保留middle规则未迁移成功的负结果；不能事后按test重选区间。
教学例子：Random、Easy与Middle若分别从不同起点训练，就难把PPL差异归因于数据选择。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
推理 SFT 的 response-only NLL，与整段 prompt+response NLL 排名可能相同吗？
PPL-Factory: Task-Aware and Budget-Aware Data Selection from Language Modeling to Reasoning
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：不一定。整段分数会受到prompt长度和易预测文本影响；response-only把选择依据集中到reasoning/answer部分。语言建模packed-block又是另一口径，不能跨任务直接复用同一排名定义。
教学例子：一个很长但容易的prompt，可能掩盖其答案部分很难预测的事实。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
PPL-Factory 为什么把样本选择策略与任务、数据预算绑定？
PPL-Factory: Task-Aware and Budget-Aware Data Selection from Language Modeling to Reasoning
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：固定选最难或最容易并不适用于所有预算。方法先用冻结模型计算任务相关NLL，再按预算在easy、middle及mid-random之间切换，兼顾训练效用与覆盖。
教学例子：极少数据时，只取狭窄分数区间可能损失覆盖，随机抽middle pool是另一种取舍。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Conv-LLM已经有attention，为什么还在Q/K/V投影后加三点卷积？
Convolution for Large Language Models
问答新增：2026-10-27 · Huawei / Peking University / Tsinghua University
展开答案与例子
答案：attention按内容在历史中选择位置，短卷积先给每个位置注入附近顺序模式。这里卷积作用于投影后的Q/K/V，并通过残差保留原值，再进入attention；它不是把整个全局交互替换为卷积。逐通道卷积控制额外参数，因果左填充避免提前读到后面的词。
教学例子：读取“不是很好”时，局部卷积可先把否定词与相邻词结合，再让增强后的查询去匹配远处上下文；卷积不能读取尚未出现的“好”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
QKV 残差卷积的 padding、激活和旁路该怎样对应文档？
Convolution for Large Language Models
问答新增：2026-10-27 · Huawei / Peking University / Tsinghua University
展开答案与例子
答案：本地实现使用左侧padding，避免卷积读取未来；卷积结果加回原QKV投影，再进入attention。文档指定该旁路不另加归一化或激活，随手增加层会改变被比较的配置。
教学例子：核宽3时，第t位只能组合t、t-1、t-2，不能为了保持长度而使用对称未来填充。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
QKV 后的逐通道短卷积，与直接把 attention 换成卷积有什么区别？
Convolution for Large Language Models
问答新增：2026-10-27 · Huawei / Peking University / Tsinghua University
展开答案与例子
答案：前者只增强投影表示，保留原attention的全局匹配与聚合；后者会改变主要交互路径。逐通道卷积也不在不同通道间做完整混合，额外参数因此较小，但长程访问仍由attention负责。
教学例子：卷积先组合邻近三个位置，当前词之后仍能通过attention读取几百词前的名字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Conv-LLM 试图补足 attention 的哪类信息偏好？
Convolution for Large Language Models
问答新增：2026-10-27 · Huawei / Peking University / Tsinghua University
展开答案与例子
答案：全局attention能按内容访问远处位置，却不天然强调相邻词的局部组合。论文用轻量短卷积先增强Q/K/V附近的顺序模式，再保留attention做全局交互。
教学例子：“不太好”中的相邻否定关系可先被局部聚合，再参与对整段上下文的读取。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
C²KV为何同时学习压缩与拼接复用，而不是先压短缓存再任意组合？
C²KV: Compressed and Composable KV Cache Reuse for Efficient LLM Inference
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：独立压缩后的KV可能依赖原位置和原上下文，拼起来未必仍能被模型正确读取。方法通过compression tokens及结构化attention学习更可组合的压缩表示，让多个片段的复用也进入训练目标。压缩表示仍有信息损失与接口条件，不能把任意摘要都视为位置无关的可拼接缓存。
教学例子：分别压缩两份文档后，要在同一请求中一起使用；训练需让模型理解两个压缩片段如何共同提供证据，而不只保证各片段单独重构时看起来合理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
C²KV 复用接口中，Extractor 输出与下游拼接输入需要核对什么？
C²KV: Compressed and Composable KV Cache Reuse for Efficient LLM Inference
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：应核对每段Z的形状、拼接边界及结构化attention消费方式，而非只统计压缩后长度。当前本地mini-suite未训练论文规模checkpoint或kernel，不能把Z可拼接当作完整复用能力验证。
教学例子：两个压缩段长度正确，但若边界和可见性混错，下游仍可能读取错误段落。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
C²KV 的联合压缩/复用训练，与独立压短各段后任意拼接有何差异？
C²KV: Compressed and Composable KV Cache Reuse for Efficient LLM Inference
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：联合训练让压缩表示适应位置无关与组合消费的约束；独立压缩只优化单段表示，可能丢掉组合后需要的信息。压缩比例相同不能证明拼接行为等价。
教学例子：两段各自能回答局部问题，不代表其压缩表示拼起来就能回答跨段关系。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
C²KV 为什么希望压缩后的 KV 既短又可拼接复用？
C²KV: Compressed and Composable KV Cache Reuse for Efficient LLM Inference
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：单段缓存压缩并不保证多段组合后仍可用。方法以compression tokens和结构化attention联合学习压缩与复用，使多个压缩表示能作为后续模型的共同输入。
教学例子：几个文档片段分别压缩后，希望在新的组合查询中复用，而不是每次全部重新prefill。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
WHALE 为什么让 Wukong 与 HSTU 每层双向交换状态，而不是各自编码后只在末端融合？
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：特征交互分支擅长高阶字段组合，序列分支擅长行为演化，末端融合只能组合两份已完成的表示。逐层 cross-attention 让字段关系影响后续历史解释，也让行为状态改变后续特征交互，从而联合扩容。双向交流增加计算与依赖，不同于纯用户缓存结构；本地比较也只支持公开缩比任务。
教学例子：场景字段显示周末出游，序列分支据此关注近期露营行为；更新后的兴趣再影响价格与品类交叉。若只末端拼接，两条分支在此前多层都无法互相调整。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
WHALE公式两路更新要留意同步还是原位覆盖吗？
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：应明确该层query、key、value来自约定的同层状态，避免先覆盖一支让另一支意外读新状态。当前公开路径不含原工业全量特征与系统，不能直接报生产scaling。
教学例子：例如先更新x再把新x给h，可能与两者都读旧层状态的公式不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
双向cross-attention与late fusion有何机制区别？
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：late fusion前两路各自独立，双向交互从中层就改变彼此表示。它增加候选或特征依赖计算，不应把两塔最终分数相加称逐层统一模型。
教学例子：例如第二层的序列状态已经读过特征，后续行为建模会随之不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
WHALE为什么把Wukong和HSTU两路逐层交互？
WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：稀疏高阶特征与行为序列原本分开，逐层交换让两种表示共同演化并扩容，而非最后才拼接一个向量。更多耦合也可能引入干扰，需任务验证。
教学例子：例如用户属性可影响序列兴趣，序列状态也反过来帮助解释属性交叉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
UAME 为什么为排序分数学习均值和方差，训练时重点处理高冲突 pair，却线上只用均值？
Uncertainty as Remedy: Mitigating Satisfaction Label Bias in Short Video Multi-Objective Ensemble Ranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：多个 pxtr 是满意度的冲突代理，确定性分数难表达其分歧。均值—方差双头把得分建成高斯变量，用解析胜出概率进行 pairwise 学习，再提高高不确定 pair 的权重并约束方差。方差在训练中组织困难关系，服务只读取均值以保持路径成本；它表示模型化的不确定性，不是已观测到的真实满意度方差。
教学例子：两个视频一个更易点击、一个更可能长看，模型对胜负不确定。训练重点处理这类冲突，并约束随意抬高方差；上线仍输出一个均值分数参与排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
UAME线上是否必须采Gaussian噪声，既有负结果怎样解释？
Uncertainty as Remedy: Mitigating Satisfaction Label Bias in Short Video Multi-Objective Ensemble Ranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：线上只读均值，不需训练用噪声或方差路径。当前公开proxy负结果说明映射未复现原收益，不应删除或外推否定原私有实验；方差和权重零范围边界要明示。
教学例子：例如所有pair不确定性相同，min-max分母为零需合法处理，而非制造NaN。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
不确定性加权与直接平均各pxtr有什么不同？
Uncertainty as Remedy: Mitigating Satisfaction Label Bias in Short Video Multi-Objective Ensemble Ranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：前者让高冲突pair获得更多训练关注，并建模比较概率；平均只固定合成代理。方差不是问卷真满意度，不能由高权重证明已解决所有目标冲突。
教学例子：例如两个候选各擅长不同指标，不该把冲突隐藏成一个无解释平均数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
UAME为什么同时预测均值与方差？
Uncertainty as Remedy: Mitigating Satisfaction Label Bias in Short Video Multi-Objective Ensemble Ranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：多个pxtr是潜在满意度的冲突代理，方差描述预测不确定性，解析高斯pair概率联合学习。线上只用均值，因此训练不确定性建模与服务打分分开。
教学例子：例如点击高但观看低的候选，其相对偏好可能比信号一致者更不确定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Pin-SCALE 为什么保留 Semantic ID 的残差层级，并加入参与度与多视角对比监督？
Pin-SCALE: Semantic Cascading and Alignment Learning for Engagement-Aware IDs in Cold-Start Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：纯语义离散码有利于新物品共享内容知识，却未必对推荐行为最有辨别力。保留残差层级并逐级聚合，可利用粗到细的信息；参与度感知训练和查询—物品、物品—物品对比目标，再把码与推荐相关性连接起来。SID 因而是参与检索训练的表示部件，而不只是把文本向量换成整数标签。
教学例子：两个“客厅装修”内容语义相近，但服务不同兴趣人群。粗层码保留主题，细层码补充差别；参与度和共现对比使检索表示进一步反映用户实际使用关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
Pin-SCALE 单个样本同层权重 wi 对最近码选择，为什么不能仅从公式就断言改了 argmin？
Pin-SCALE: Semantic Cascading and Alignment Learning for Engagement-Aware IDs in Cold-Start Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：若 wi 是对全部候选码相同的正标量，乘距离不会改变该样本最近中心；作用可能体现于码本学习与全局目标而非这次分配。实现必须检查权重实际施加位置，零权重与候选相关权重又不同，不能靠符号名称补出不存在的变化。
教学例子：距离二与五同时乘三，最近仍是二；只有中心更新受样本权重影响或各候选系数不同，后续分配才可能改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
参与度感知 tokenization 与纯内容重构，为什么优化重心不同？
Pin-SCALE: Semantic Cascading and Alignment Learning for Engagement-Aware IDs in Cold-Start Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：纯重构保留内容几何，参与度信号强调影响消费的差异，让语义码更适合推荐而非只还原向量。它也会引入曝光与热门度偏差，需要平衡长尾泛化。来源 fresh 分母小，不能把大相对变化直接视作工业新品收益。
教学例子：两种装修图片像素相近但用户用途不同，行为目标可强化这份差别；若只看互动量，热门风格也可能压过新内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Pin-SCALE 为什么将层级 SID 用在判别式 dense retrieval，而非只做生成？
Pin-SCALE: Semantic Cascading and Alignment Learning for Engagement-Aware IDs in Cold-Start Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：粗细码可提供可迁移语义，cascading pooling 将层级信息转成检索表示，参与度与多视角目标让它适应推荐。输出仍可进入判别检索空间，不必逐码生成。SID 是输入知识组织，不意味着所有下游都应采用同种生成解码。
教学例子：新品有园艺粗码与室内种植细码，聚成向量供双塔匹配；系统可以一次近邻检索，不必先自回归输出两枚码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
Distilled RL为什么只给正优势样本加教师权重，负优势样本保持原权重？
Distilled RL
问答新增：2026-10-27 · Nankai University
展开答案与例子
答案：正优势样本已有任务奖励支持，教师比率可进一步强调其中值得模仿的词元；非正优势样本维持原权重，避免教师重加权干扰其惩罚含义。比率经过裁剪和序列几何均值归一化，限制尺度及长度影响，但教师偏好仍不等于额外正确性证明。
教学例子：例如一条答对的解法可提高关键步骤权重，一条失败解法仍按原负优势更新；不应因教师喜欢某些用词就削弱失败惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
Distilled RL为何用裁剪比的序列几何均值归一？
Distilled RL
问答新增：2026-10-27 · Nankai University
展开答案与例子
答案：限制比值尺度并让整条权重相对化，求几何均值要用有效响应位置，非正优势分支仍为一。当前确定性mini-suite未完成真实词元生成和完整教师训练。
教学例子：例如padding混入均值会改变所有词元权重，即使它们本身不计loss。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
正优势门控与对正负样本都加教师权重有什么区别？
Distilled RL
问答新增：2026-10-27 · Nankai University
展开答案与例子
答案：负优势维持原权重一，避免教师偏好改变失败惩罚的相对意义；双向重权可能减弱某些负反馈。这个门不是按教师分数重新判断整条对错。
教学例子：例如失败解法里教师喜欢的措辞，也不能因此获得额外减罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
Distilled RL怎样把教师分布用于RL而非单独模仿？
Distilled RL
问答新增：2026-10-27 · Nankai University
展开答案与例子
答案：教师与旧学生概率比形成词元权重，作用于已有任务优势，只对正优势启用。这样任务反馈决定该强化哪些样本，教师细化其中哪些位置更值得强化。
教学例子：例如已验证成功解法中，教师更认可关键步骤可获得更多相对权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
OpenLanguageModel的可组合Block/Residual/Repeat，怎样帮助判断消融到底改了什么？
OpenLanguageModel: Readable and Composable Small-Language-Model Pretraining for Education and Research
问答新增：2026-10-27 · Indian Institute of Technology Madras
展开答案与例子
答案：它把普通PyTorch组件与布线结构分开，让重复、残差和并行关系可直接组合，降低模型、训练循环与分布式执行的耦合。这样同一结构更容易跨notebook和不同设备运行，也更容易保持消融的其他条件一致。可读可组合是工程属性，本身不是模型能力提升的实验结论。
教学例子：比较串联两个块与两支并行相加时，可只改布线表达，沿用数据和训练循环；若同时换了整个分布式框架，就更难把结果归因于结构变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
实现 Residual 与 Parallel 时，怎样避免把连接关系写错？
OpenLanguageModel: Readable and Composable Small-Language-Model Pretraining for Education and Research
问答新增：2026-10-27 · Indian Institute of Technology Madras
展开答案与例子
答案：按文档Residual(f)(x)=x+f(x)，Parallel(f,g)(x)=f(x)+g(x)。还需检查输出维度与重复块的参数关系，不能把分支相加误作顺序串联；本地未搬运上游全部preset。
教学例子：f(x)+g(x)通常不同于g(f(x))，即使最后shape相同。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
组合 DSL 的等价性测试，与比较一种新架构是否更好，目标相同吗？
OpenLanguageModel: Readable and Composable Small-Language-Model Pretraining for Education and Research
问答新增：2026-10-27 · Indian Institute of Technology Madras
展开答案与例子
答案：等价性测试检查改写布线后是否保持原计算语义；新架构比较则检验结构变化的效果。文档中几乎相同的PPL用于前者，不能把近零数值差异包装成质量提升。
教学例子：把x+f(x)改写成Residual(f)，首先应得到相同输出。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
OpenLanguageModel 为什么坚持把组件保留为普通 PyTorch module？
OpenLanguageModel: Readable and Composable Small-Language-Model Pretraining for Education and Research
问答新增：2026-10-27 · Indian Institute of Technology Madras
展开答案与例子
答案：结构与训练/分布式框架强耦合会增加理解和消融成本。普通module加可组合布线，让模型结构更透明，同一模型也更容易在notebook、CPU和不同GPU环境间迁移。
教学例子：替换一个block时，可以明确看到改了哪条数据流，而不是同时更换整套训练框架。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RecGPT-V3 为什么同时改记忆、商品接口和推理表示，而不是只压缩显式 CoT？
RecGPT-V3 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：仅压缩 CoT 仍会反复读取长历史，也保留自然语言标签映射商品的损失。Memory Hub 增量更新可追溯记忆单元，SID 连接模型与实际商品，潜在 token 再减少输出推理文本的成本。三者分别针对输入重算、输出落地与解码开销；生产排序反馈还参与对齐，不能把总体收益归因于单个压缩步骤。
教学例子：新增一次相机浏览时，只更新相关摄影记忆，而非重读所有历史；生成器直接输出商品码，内部短推理提供支持。三处节省来自不同环节，不能只统计少写了多少字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
RecGPT-V3 本地多轮迭代后的最终数字，为什么要标明选择过程与头部变化？
RecGPT-V3 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：配置经过教师预热与冻结等调整，最终单 seed 是选中设置，不能冒充预注册稳定结论；head share 同时增，说明可能借热门捷径。memory 与 latent token 减少是结构计数，不等于生产延迟或真实 14B 效益测量。
教学例子：从四十事件压到十四输入说明预算变化，却不能按比例承诺快百分之六十五；内核、缓存与计算密度仍决定实际时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
latent internalization 与直接删掉显式 CoT，相比训练多了什么保障？
RecGPT-V3 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：分段、跨段和全链重建让潜 token 学习承接教师信息，直接删文本只省输出却未传知识。重建相似仍不证明步骤忠实，教师质量与冻结时机也影响结果。来源先同步漂移失败、后预热冻结才正向，应保留这一边界而非只看最终增益。
教学例子：让内部四个槽学会支持原解释，与上线直接不输出解释不同；若教师也同时随学生漂移，二者可能互相追逐而失去稳定目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RecGPT-V3 的 memory unit 为什么包含原始行为索引和时间，而不只一句偏好摘要？
RecGPT-V3 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：索引与时间让压缩知识可回溯到证据并增量更新，减少旧摘要无依据漂移；新行为只改相关单元，避免每次重读长史。可追溯不等于内容无损，也不能自动证明所谓因果信息准确，更新与过期规则仍关键。
教学例子：记录“近期准备露营”同时指向哪几次浏览与日期，后续需求改变时可更新对应单元，而不必依赖一条不知何时生成的旧句子。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
RECAP 为什么把画像更新拆成 LLM 语义修改和确定性生命周期管理，再用推荐反馈训练？
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology / USTC
展开答案与例子
答案：语言模型擅长理解新行为，却不适合独自保证容量、合并与淘汰规则。确定性状态机约束画像大小和生命周期，LLM 在其中更新语义；评价器再把画像与后续行为的匹配转成奖励，使训练目标从“摘要像不像”转向“是否有助预测”。奖励仍是代理，需防止评价器偏差被策略放大。
教学例子：用户从跑步转向骑行，新行为可更新运动偏好，但过期条目由规则淘汰以免画像无限增长。若新画像更能匹配后续骑行行为，反馈再鼓励这种更新方式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
RECAP 的容量 |Pt|≤C 应由谁强制，为什么不能只写在 prompt？
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology / USTC
展开答案与例子
答案：确定性状态机负责条目生命周期、合并与淘汰，LLM 输出再经验证进入状态，prompt 只是意图约束不能保证执行。新状态、证据与 evaluator reward 要绑定同一轮，测试目标不能进入更新。无效格式或超容量应显式处理，不凭后处理掩盖模型错误。
教学例子：模型返回七项而容量四，应按规则拒绝或合并并记录；若无声截前四再把结果当模型完整遵守，就失去约束可审计性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
RECAP 的闭环 GRPO 与 open-loop SFT，为什么可能 reward 升而 test 排名降？
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology / USTC
展开答案与例子
答案：SFT 模仿更新示例，GRPO 优化 evaluator 的代理偏好；若 evaluator 与真实下一物品不一致，策略会更讨好它而伤泛化。来源确有这种分离，不能只看训练奖励证明画像更好。需要独立评估与参考、格式、多样性约束。
教学例子：评审喜欢丰富兴趣标签，策略不断增加多样描述，奖励升高，却把用户实际最重要需求稀释；静态文字看着更好不等于推荐更准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
RECAP 的 LLM judge 与双塔 evaluator 是同一个角色吗？
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology / USTC
展开答案与例子
答案：不是。LLM judge 用于筛出标签一致的行为 pair，为 evaluator 提供较可靠训练材料；双塔 evaluator 学习画像与行为匹配，并把分数作为画像更新的奖励。前者审数据，后者提供可学习评估接口，二者都可能有误，不能把任一输出当真实用户满意度。
教学例子：judge 先检查一对行为是否符合标签语义，双塔再学如何给画像匹配打分；让 judge 说一声“不错”不等于已训练出可部署的双塔奖励器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
房产 LLM 重排为什么要读取候选集合统计，而不只独立比较查询与每套房源？
LLM-Based Re-Ranking for Real Estate Search
问答新增：2026-10-27 · QuintoAndar
展开答案与例子
答案：对话需求可能包含预算、通勤和空间等互相制约条件，房源描述与结构化字段也需要共同解释。候选集合统计提供当前可选范围，使模型进行相对取舍，补足向量相似度的局部匹配。列表变化会改变比较背景，所以分数未必可跨集合直接复用；重排也不能补回召回阶段漏掉的房源。
教学例子：用户想要地铁近且安静，候选都难两者兼得。读取整组后可说明哪套在通勤与噪声之间更平衡，而不是把每套宣传文本单独与查询做相似度比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
房产 LLM 评分的 Agg(X) 为什么必须随着候选集变化重算？
LLM-Based Re-Ranking for Real Estate Search
问答新增：2026-10-27 · QuintoAndar
展开答案与例子
答案：它代表当前列表统计，删增房源会改变相对预算与可选范围，旧聚合不再对应同一条件。结构字段与文本身份也要对齐，不能按真实成交先挑候选给模型。本地单品 scorer 与完整对话重排需按实际依赖区分。
教学例子：原候选全高价时某房显便宜，加入多套低价后不再如此；若继续用旧均价，模型的相对性解释就与真实列表不符。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
LLM 相对重排与向量召回，为什么缺一方不能完成另一方任务？
LLM-Based Re-Ranking for Real Estate Search
问答新增：2026-10-27 · QuintoAndar
展开答案与例子
答案：召回从大库低成本选池，向量难表达复杂条件；LLM 在小池细比较但无法重排未召回房源。候选集依赖也增加成本，不能把小集合改善称全库搜索完成。来源本地电影代理缺真实对话和房产限制，只检验部分打分思路。
教学例子：最符合学区和通勤的房源没进前百，LLM 在其中再聪明也选不到；提高重排解释质量不能补回候选覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
房产重排为什么要结合结构化属性与对话需求，而不只读文本描述？
LLM-Based Re-Ranking for Real Estate Search
问答新增：2026-10-27 · QuintoAndar
展开答案与例子
答案：宣传文字可能含糊，价格、面积、通勤等字段提供明确约束，对话又包含用户逐步表达的取舍。联合读取使模型可比较多条件满足度，候选集统计补相对环境。语言理解不能替代真实属性校验，也不能凭生成理由改写事实。
教学例子：房源都写交通便利，一套到地铁二十分钟、另一套五分钟，用户要求十分钟内时应依据结构字段，而不是谁描述更吸引人。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Looped Transformer共享权重后，为什么跨loop的KV缓存仍有压缩空间？
Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers
问答新增：2026-10-27 · University of Maryland / Meta AI
展开答案与例子
答案：共享计算参数并不意味着每个loop产生的KV相同，直接缓存仍可能按loop重复存储。LLA学习可共享的低秩latent，再按loop使用专用映射重建K/V，把跨loop冗余转成存储节省。节省程度受latent秩和重建误差约束，也可能增加重建计算，不能由权重共享自动推出缓存已共享。
教学例子：同一组网络权重运行4轮，各轮状态不同；可以保存一份较小latent及4组重建映射，而不是保存4份完整KV，但要验证重建后的读取仍可靠。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
LLA 从共享 latent 重建不同 loop 的 K/V，需要保留哪些 loop 专属部分？
Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers
问答新增：2026-10-27 · University of Maryland / Meta AI
展开答案与例子
答案：文档用共享投影产生z，再以各loop的重建矩阵U映射回专属K/V。若所有loop直接复用完全相同K/V，会删除这层差异；本地小模型也不是大checkpoint的post-hoc codec或fused服务内核。
教学例子：同一个z可经U¹与U²得到两套K，不能省略矩阵差别后仍称为按loop重建。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
LLA 压缩跨 loop 的 KV，与只减少模型参数量，节省对象有什么不同？
Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers
问答新增：2026-10-27 · University of Maryland / Meta AI
展开答案与例子
答案：参数共享减少权重存储；KV latent压缩减少序列历史的缓存表示，并引入重建操作。两者内存随不同因素增长，不能用参数减少比例直接代替长序列缓存节省。
教学例子：模型权重不变时，随着生成越来越长，KV仍会继续增长。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Looped Transformer 中，共享模型权重与共享运行状态有什么区别？
Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers
问答新增：2026-10-27 · University of Maryland / Meta AI
展开答案与例子
答案：权重是重复调用的变换，KV则由各loop的实际隐藏状态产生，不能因变换相同就假定结果相同。LLA让跨loop共享低秩latent，再按loop重建专用K/V，保留这种角色区别。
教学例子：同一台机器重复加工不同中间材料，机器相同，不代表每一轮产物也完全相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
用 hindsight skill 前后动作概率差，为什么是在原动作上蒸馏而不是复制新专家轨迹？
SEED
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：技能由已完成轨迹反思得到，再对学生实际访问状态和动作比较条件概率，形成更稠密的局部学习信号。它利用事后知识解释原行为，不要求教师另走一条不同路线；部署不能携带同题未来答案，技能本身的错误也可能污染信号，需保留验证边界。
教学例子：例如学生已执行一次目录检查，反思技能指出该检查有用，就评估有无技能时这条原动作的概率，而非换成教师另写的命令。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
计算 SEED skill log-prob 差时，需要冻结哪些对齐条件？
SEED
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：两项应对应同一s_t、同一a_t与同一策略评估口径，仅改变skill条件z；否则差值混入状态或动作变化。hindsight信息属于训练反馈，不能将当前评测题答案衍生skill泄漏给策略。
教学例子：有skill时评分A、无skill时评分B，两数之差不能解释为A获得的skill指导。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
SEED 在原动作上重打分，与让teacher另写完整成功轨迹有什么差别？
SEED
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：前者保持学生实际访问的状态与动作，衡量skill条件对这些动作的改变；新专家轨迹可能走到另一批状态。它是on-policy重评分，不应偷换成只模仿另外的理想过程。
教学例子：学生确实执行过动作A，就比较A在两条件下的概率，而非拿从未执行的B替代记录。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
SEED 为什么把已完成轨迹的反思整理为可复用 hindsight skill？
SEED
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：反思若只停留在当前答案，难积累成稳定训练信号。SEED提取skill后，在相同原动作上比较有无skill的概率，形成稠密蒸馏并与outcome RL联合，促进经验复用。
教学例子：一次失败暴露的“先检查工具前置条件”可成为之后任务的训练指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TMallGS 为什么为字段独立学习 Q/K/V，还要叠加噪声 gate 与逐层监督？
TMallGS: Scaling Unified Feature and Sequence Modeling for Generative E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：查询、历史、用户和商品字段分布不同，共用一套投影可能混淆它们的含义。字段专属投影先建立适合的交互空间，显著性校准与噪声门控再控制哪些交互值得保留；FiLM 注入内容，逐层损失按中间误差分配训练信号。多个环节分别处理异构性、噪声和深层学习，不能只归因于增加注意力头数。
教学例子：一次偶然点击不应像明确搜索词一样强烈影响商品排序。字段投影区分两者，门控降低噪声历史贡献，中间层监督再帮助模型逐步学到更稳定的相关性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地TMallGS极大相对NDCG提升能否说明稳定胜出？
TMallGS: Scaling Unified Feature and Sequence Modeling for Generative E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：不能，README记录绝对命中很少，主要证明field-wise、门控、FiLM、bias和中层监督训练链可运行。单seed小基数百分比不代表生产模型统计稳定提升。
教学例子：例如从极少命中增加一点可有很大百分比，但证据仍需看绝对量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
FiLM内容注入与简单拼接内容向量有何不同？
TMallGS: Scaling Unified Feature and Sequence Modeling for Generative E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：FiLM用内容生成逐维缩放与偏置来调制状态，拼接只把两向量交给后续层。progressive supervision还按中层误差分配目标，不能用单MLP拼接替代整套。
教学例子：例如内容条件可强调某些隐藏方向，而不是只多放一组输入列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TMallGS为什么按字段学习独立Q/K/V？
TMallGS: Scaling Unified Feature and Sequence Modeling for Generative E-commerce Search
问答新增：2026-10-27 · Taobao & Tmall Group of Alibaba
展开答案与例子
答案：query、用户历史和商品字段语义与噪声不同，统一投影易混信号。字段化交互再配saliency校准与noise gate，尝试让异构信息按可靠程度进入排序。
教学例子：例如一次搜索词与多年浏览汇总，不必用同一投影方式解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
异步长历史模型已有缓存，在线轻量Transformer为什么还要保留最近事件？
Long-History User Transformers for Real-Time Ad Ranking
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：长历史缓存覆盖稳定模式，但刷新有延迟，新发生的行为可能尚未进入。在线模型读取短窗口并结合缓存，补足实时变化，避免每个请求重算完整历史。训练辅助目标还让两部分学习可用表示；缓存尺寸小并不意味着没有压缩损失，也不能把离线新鲜状态与线上旧缓存混用评估。
教学例子：昨夜缓存记录用户爱摄影，今天突然连续搜索育儿用品；在线最近事件能反映新需求，不必等待下一轮长历史刷新，也不必重新编码全部旧记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地二十四步离线、四步在线的模型应怎样划分输入截止？
Long-History User Transformers for Real-Time Ad Ranking
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：离线历史与在线最近段都只能包含当前预测前的事件，重叠部分按定义处理，缓存不得由完整含 test 的用户序列生成。next-item、feedback 辅助标签只在训练侧。三十二维缓存是缩比配置，不代表原文长历史长度与特征规模。
教学例子：猜最后一片时先用所有二十四条含该片生成缓存，即使在线只看前四条也泄漏；两个分支都必须截在目标之前。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
两级异步模型与请求时完整长序列编码，相比把哪些成本移到了后台？
Long-History User Transformers for Real-Time Ad Ranking
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：后台提前处理长历史并缓存固定维状态，在线只读短段和缓存，减少重复长 self-attention。代价是刷新、存储、失效管理与压缩误差，成本并未消失。来源没有真实 Yandex feature-store 系统测量，不能按结构直接报生产延迟收益。
教学例子：一天多次请求共用长摘要，后台周期重算；请求更轻，但用户少请求却频繁刷新时，也要考虑后台预算是否划算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Long-History Transformer 为什么给离线缓存配一条在线近期路径？
Long-History User Transformers for Real-Time Ad Ranking
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：异步长模型保留稳定兴趣却有刷新滞后，在线轻模型捕捉刚发生变化并读取缓存，兼顾覆盖与响应。缓存不是完整实时历史，也可能压掉细节；训练辅助目标与广告任务微调各负责不同阶段，不能只把长向量拼接当全部机制。
教学例子：后台记用户爱摄影，今天刚开始寻找婴儿用品，在线最近行为可立即改变判断；等待下一轮长缓存才更新会慢半拍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
下游reward为什么要先筛选对未来参与度的预测能力，而不是把所有即时行为都加进排序？
Long-term User Engagement Optimization through Model-agnostic Downstream Rewards Learning
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：即时行为和长期满意度可能相反，盲目增加目标会放大浅层互动或噪声。方法先提出多种下游信号并检验其与未来参与度的关系，只把通过筛选的reward head接入原有系统。预测关联仍不等于因果改善，因此跨产品接入后还需相应评价，不能把所有短期指标上涨相加当留存收益。
教学例子：一次点开大图可能只是误触，随后深入浏览相关收藏却更可能表示有价值的探索；先比较它们与未来活跃的关系，再决定哪种反馈值得成为附加目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
训练 downstream reward head 时，未来窗口信息应放在哪一侧？
Long-term User Engagement Optimization through Model-agnostic Downstream Rewards Learning
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：未来行为可用于构造监督和筛选 reward，在线输入必须截止当前请求，不能将未来轨迹直接当特征。融合强度按验证口径选择后冻结。来源本地用未来类别覆盖代理长期参与，既不能偷读测试未来，也不能当作平台留存标签复现。
教学例子：用明天是否探索新主题训练今天的预测合理；上线今天若直接输入明天浏览记录，模型是在读取答案，而非预测长期参与。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
附加 downstream reward head 与替换整个主排序器，接入方式有什么不同？
Long-term User Engagement Optimization through Model-agnostic Downstream Rewards Learning
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：附加头保留现有主干，以筛选后的长期代理预测作为额外目标或融合项，便于在多个 surface 使用。替换主模型涉及更多特征和部署变化。模型无关接入不代表标签含义通用，首页有效信号不一定适合通知，也不保证所有子指标提高。
教学例子：首页继续用原相关性模型，只额外预测深度消费；通知系统可以另定权重，但不能把保存和下载直接解释成通知留存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
Downstream Rewards 为什么用未来参与度筛选即时行为信号？
Long-term User Engagement Optimization through Model-agnostic Downstream Rewards Learning
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：即时点击或保存可能只是短暂吸引，未必对应后续活跃。筛选先找出能预测未来参与的行为，再训练可在线预测的附加头，让排序考虑更长价值。相关性只是候选证据，不证明该行为有因果促进；不同产品仍要独立验证。
教学例子：误触大图带来点击却很快离开，深入探索收藏可能更关联后续使用；先比较长期预测关系，再决定哪种行为值得成为附加目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
为什么搜索广告数量不能始终取使当前广告收入最大的那个值？
Adaptive Ad Load Design for Sponsored Search Markets: Evidence, Theory, and Deployment
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：广告数量同时影响收入、自然结果体验和转化，最优供给随请求而变。方法先借随机现场实验估计不同广告量的响应曲线，再在业务约束下选择请求级策略；拉格朗日权重表达目标之间的取舍。不能把相关性日志直接当增加一个广告位的因果收益，本地代理排序也未验证真实市场均衡。
教学例子：购物意图强的查询可容纳多个广告，导航型查询多塞广告反而妨碍用户；同样增加一格，两个请求的收入与体验变化可能相反。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
实现 ad load 选择时，为什么必须遍历可行数量并明确收入与转化项的口径？
Adaptive Ad Load Design for Sponsored Search Markets: Evidence, Theory, and Deployment
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：选择式在各可行 k 上比较收入与加权转化，候选数量、库存和业务限制决定合法集合，系数决定目标取舍。若不同 k 的估计来自不同口径，最大值没有可比意义。本地混合权重只在验证集选择，测试不能用于调出看似更好的数量策略。
教学例子：只允许零到三条广告时不能输出五条；若一项用每请求收入、另一项却用每广告转化率，也应先统一定义再比较不同数量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
用随机现场实验估计 ad load，和只回看既有日志中的高收入请求相比有什么识别差别？
Adaptive Ad Load Design for Sponsored Search Markets: Evidence, Theory, and Deployment
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：既有广告数量往往已由旧策略选择，收入差异可能来自用户意图而非广告数。随机变化数量更有机会区分供给变化的效果与请求本身差异。轻量策略再使用估计曲线作选择；公开排序代理没有真实供给干预，不能据其命中率推断数量的因果收益。
教学例子：原日志里高意图用户广告多且收入高，不能因此给所有人加广告；在相近请求中随机分配广告数，才能更接近观察增加一位的实际影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
Adaptive Ad Load 优化的决策变量为什么是每次请求的广告数量，而不只是广告排序？
Adaptive Ad Load Design for Sponsored Search Markets: Evidence, Theory, and Deployment
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：排序解决给定广告位里放什么，ad load 决定给请求多少广告位，直接影响用户体验、收入和后续转化。先估计不同数量下的供给与响应，再在约束内选择数量，才能处理广告供给的边际收益，而非默认所有请求都有相同容量。
教学例子：强购物意图搜索可能容纳更多相关广告，探索型搜索过量广告会挤压自然结果；两次请求即使候选广告相同，合理广告数也可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么记忆控制器的 UCB 必须按当前离散状态计数，而非只用全局动作频率？
Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents
问答新增：2026-10-27 · 未明确标注（正文 HTML 未显示一作机构映射）
展开答案与例子
答案：某操作在早期探索有用，不代表任务后期或记忆拥塞时也有用。状态局部的访问数与价值让控制器分别学习这些条件下的取舍，未访问动作先探索，再从终局与效率反馈更新；不额外调用 LLM 只指控制选择，实际检索和执行仍可能有成本。
教学例子：例如“深检索”在刚开始有价值，临近结束却可能拖延；两个状态应各自累计尝试，不能用一份全局成功率混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
MemCon 的 Q 更新能按 sample-mean UCB 或 TD bootstrap 实现吗？
Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents
问答新增：2026-10-27 · 未明确标注（正文 HTML 未显示一作机构映射）
展开答案与例子
答案：不能。本地按 v3 正文用状态局部计数，终末成功和效率奖励按剩余距离折扣，逆序逐次更新同一状态动作；不使用未来 Q bootstrap。未访问动作优先，用初始 Q 打平，本地与可变上游 main 的计数规则差异已明确记录。
教学例子：例如一个动作在同 episode 出现两次，要按逆序分别接收折扣终末信用，不能只把总奖励加一次后除访问数。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
表格 UCB 控制与每轮让 LLM 决定记忆策略有什么取舍？
Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents
问答新增：2026-10-27 · 未明确标注（正文 HTML 未显示一作机构映射）
展开答案与例子
答案：表格控制不为调度额外调用语言模型，状态和动作较可解释，但依赖离散特征覆盖，难以表达任意语义情境。LLM 控制更灵活却消耗调用；这里 UCB 是状态局部探索，环境与记忆持续变化时也无无条件收敛保证。
教学例子：例如重复动作标志可立即切换更深检索，但两种语义完全不同、离散状态相同的任务可能被表格视为同一情况。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
为什么 MemCon 把“是否用记忆”也当成控制动作？
Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents
问答新增：2026-10-27 · 未明确标注（正文 HTML 未显示一作机构映射）
展开答案与例子
答案：记忆检索、注入计划、改查询和维护都有成本，某些简单任务直接行动更便宜。MemCon 根据进展、重复、记忆规模等离散状态选择操作，任务结束后用成功与效率反馈学习，因此记忆不是每轮必须开启的固定外挂。
教学例子：例如任务已明确下一工具且状态简单时，可选不检索；反复失败、已有相关成功计划时，再选择注入或更深检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SlimPer 已经用 attention 选取证据，为什么还要与 knowledge templates 显式点积匹配？
SlimPer: Make Personalization Model Slim and Smart
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：Select 用当前知识库生成查询，得到少量被聚合的用户证据，回答“该取哪些信息”；Match 再把这些证据与同一知识库生成的多个模板比较，形成查询数乘模板数的相关性矩阵。Refine 利用这些显式关系更新知识，而非把聚合向量直接当最终兴趣。两步把证据检索与多方面相关性判断分开。
教学例子：面对跑鞋候选，Select 找到用户跑步距离与尺码相关行为；Match 再分别比较舒适度、用途等模板，更新知识槽。找到证据不等于已经判断它支持候选的哪个方面。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SlimPer每层都读取长历史，为什么还能只保留固定大小的knowledge base？
SlimPer: Make Personalization Model Slim and Smart
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：被反复更新的是少量候选相关知识槽，而原始用户token作为只读证据被重新访问。Select取出相关证据，Match与知识模板显式比较，Refine再更新槽位；层间无需传播全部历史隐藏状态。共享的是用户编码，候选相关knowledge base仍分别演化，并不是所有候选共用一个最终兴趣向量。
教学例子：同一份购买记录可供鞋和相机两个候选共读，但两组小知识槽分别整理尺寸需求和摄影兴趣，不能把鞋候选更新过的槽直接给相机。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SlimPer固定KB后是否可以每层不再读取长历史？
SlimPer: Make Personalization Model Slim and Smart
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：不可以，每层仍查询共享原始tokens；省的是逐层更新N个历史状态，计算仍有KN访问。当前短MovieLens、AdamW和解析元素统计不代表生产长序列QPS或Shampoo实验。
教学例子：例如KB只有少量槽，也必须再次看原证据，不能把它误写为一次压缩后彻底丢历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SlimPer 不逐层更新全历史，是否意味着它完全不建模相邻行为之间的关系？
SlimPer: Make Personalization Model Slim and Smart
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：不是。原文§2.5在事件 token 化时加入局部上下文编码，可用卷积或滑窗注意力融合邻近行为；后续层才反复读取这些用户 token 并更新固定知识库。因此它减少的是深层全量两两历史交互，而非禁止任何历史关系。固定知识槽也只是中间状态预算，原始输入存储与每层读取仍随历史长度增长。
教学例子：连续搜索、比较、加购可先编码成带局部背景的事件，再由多层知识槽按候选读取。虽然每层不重写整条历史，这些事件也不必被当成彼此孤立的点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
SlimPer与HSTU或LONGER比较时，为什么不能只把它当序列encoder？
SlimPer: Make Personalization Model Slim and Smart
问答新增：2026-10-27 · Meta Platforms, Inc.
展开答案与例子
答案：SlimPer面向user-item relevance，KB还接收item与cross特征，每层Select–Match–Refine直接形成个性化排序状态。比较需包含候选交互与任务头，不能只拿一个用户序列向量排同协议胜负。
教学例子：例如同一长历史面对两个候选可有不同知识库，不能只与候选无关encoder输出硬比。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SAM 为什么购买后先压制相关历史，再随补货周期逐渐恢复注意力？
Learning to Forget: Satiation-Aware Long-Sequence Transducers for Mitigating Post-Purchase Redundancy
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：购买常意味着一个需求已经完成，继续照抄购买前点击会导致重复推荐。SAM 先定位属于同一已完成意图的历史节点，再依据长期购买节奏估计周期，用时间门控和 log-mask 压低注意力，接近补货时间时逐渐解除。它区分需求完成与永久厌恶；本地用评分代理购买事件，不能验证真实补货规律。
教学例子：刚买大包装洗衣液时减少同类推荐，几周后按个人使用节奏逐步恢复；若永久删掉这类兴趣会错过补货，完全不抑制又会立刻重复展示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SAM把mask放到attention哪里，本地有哪些数据边界？
Learning to Forget: Satiation-Aware Long-Sequence Transducers for Mitigating Post-Purchase Redundancy
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：以log-mask加到attention logits，需保护mask为正并裁数值范围，不是最终分数直接相乘。当前没有真实补货商品和删失购买日志，只验证机制和失败边界。
教学例子：例如mask接近零时需数值保护，但不能因此声称真实复购周期已预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
SAM与简单购买后固定冷却天数有什么差别？
Learning to Forget: Satiation-Aware Long-Sequence Transducers for Mitigating Post-Purchase Redundancy
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：模型按相关历史节点和长期购买节奏个性化抑制，固定冷却对用户商品一刀切。周期预测不准也会误伤，且非补货商品未必适用同样假设。
教学例子：例如咖啡与电视的重复需求周期不能统一设成一周。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SAM的购买后抑制，是把同类商品直接加入不可推荐黑名单吗？
Learning to Forget: Satiation-Aware Long-Sequence Transducers for Mitigating Post-Purchase Redundancy
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不是。定义性操作是降低相关历史节点在注意力中的权重，并随时间逐渐恢复；它改变证据利用强度，不是给所有同类候选设置永久禁用规则。先区分软注意力抑制与硬过滤，才能理解为何模型仍可根据其他信号推荐相关商品。
教学例子：买过洗发水后降低那段旧浏览历史的影响，不等于规定任何洗护商品都绝不能再次进入候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Airbnb 的 proximity key 为什么在密集地区细分、稀疏地区合并，而不使用固定地理网格？
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：固定网格在城市可能过大，在稀疏地区又可能只包含极少用户。自适应 key 以人群数量为约束，密集处用哈希进一步拆分，稀疏处降低地理精度合并，使群体特征有足够支持。每日聚合提供匿名冷启动信号，而不是持久识别个人；空间邻近也只是群体偏好的代理，不能等同于个人兴趣。
教学例子：市中心一小块已有数千人，可再细分；郊区相同面积只有十人，就要扩大区域再聚合。两者都争取形成有足够样本的群体，而不是强行使用同样大小的格子。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
生成 proximity key 为什么要固定坐标量化、hash 和每日聚合版本？
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：群体行为按稳定键累积，量化精度或哈希规则变化会让同一区域换桶，历史与线上读错组。应显式处理人数不足与缺坐标，不用个人精确位置暗补。MovieLens 桶规模远小生产约千人，结果只支持代理信号，不证明真实隐私或业务效果。
教学例子：今天改小数精度却继续读昨天旧键，会将新桶匹配到不相关聚合；稳定命名与版本比把字符串成功 base64 更关键。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Airbnb proximity aggregate 相比 global cold-start aggregate，多加入了什么条件信息？
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：global 聚合给所有匿名请求同一总体先验，proximity 聚合按人数足够的邻近群体读取统计，允许不同地区有不同需求。它提高局部性，也降低单桶样本量并可能放大地域偏差。来源 ZIP 代理比较检验这一局部信号，不能据此宣称恢复了个人偏好。
教学例子：整体用户常找热门城市，某邻近群体近期更多周末短途，局部聚合可反映差别；但同桶里准备跨国旅行的人仍可能不符合群体趋势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Proximity Features 为什么是群体键而不是匿名个人 ID？
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：key 将达到人数门槛的地理邻近群体聚合，密处细分稀处合并，线上消费群体行为，不持久追踪每个人。群体信号可帮助冷启动，却无法表达个人精细偏好，也不应把代理 ZIP 实验人数当原生产隐私阈值。
教学例子：同区域多人近期偏好城市短租，可作为新匿名请求先验；不能说这个键唯一识别其中某人或知道他个人订过什么。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
NONTP 的 TCL 与 TDL 分别补足 next-token prediction 的哪两种局部性？
Not Only NTP: Extending Training Signal Coverage for Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：TCL 让当前状态预测 EMA 教师的较远未来状态，补上只监督紧邻下一步的时间局部性；TDL 用目标之前的异域状态经共享物品头预测目标，让稀疏域获得跨域信号。两项只在训练时使用，推理仍走原主干。未来状态是训练监督而非上线输入，不能把这种训练方式理解为允许推理读取未来。
教学例子：用户先看家居内容再购买灯具。TCL 训练早期状态理解更远的轨迹，TDL 让购买前的异域浏览也参与预测灯具；真实请求时仍只能读取已经发生的行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
TDL 选择异域历史时，为什么同时要求在目标之前，并复用同一 item head？
Not Only NTP: Extending Training Signal Coverage for Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：时间条件防泄漏，异域条件聚焦跨业务迁移；均值后的状态通过 NTP 相同分类头，使辅助监督直接更新目标物品空间。空集合需跳过而非造零标签，不能另接完全独立头仍声称同接口迁移。
教学例子：预测购物目标只取此前其他域状态，不能取目标后视频行为；若没有异域历史，该位置没有 TDL 证据，不应强行填一个假正例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
TCL 的 EMA teacher 与直接拿在线未来状态作目标，相比稳定性在哪里？
Not Only NTP: Extending Training Signal Coverage for Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：EMA 平滑参数变化并作为停止梯度目标，减少两边一起追逐的抖动；但仍需未来状态只作训练监督。负例来自其他用户，避免把同用户相邻兴趣误作负例。稳定目标不是准确目标保证，EMA 也可能保留旧偏差。
教学例子：在线模型刚更新较大，直接互相对齐会不断移动靶子；缓慢教师提供较稳参照，但若教师一直学热门模式，稳定也不能自动变有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
NONTP 为什么只在训练增加辅助模块而保持线上 NTP 结构？
Not Only NTP: Extending Training Signal Coverage for Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：TCL 与 TDL 把远期和跨域监督写入 backbone，推理不必再计算未来教师或辅助分支，保留原服务预算。训练更丰富不保证全部任务更好，特别弱域标签与短历史可能提供少信息。未来监督可用不等于线上能读未来。
教学例子：训练时教当前状态理解几步后的轨迹，上线仍只算当前历史状态与 item head，既不加载未来记录也不多跑教师。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
MESH为什么先分别放大user、item、context子塔，再做全局交互？
MESH: Scaling Up Retrieval with Heterogeneous Content Unification
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：过早平铺所有输入，常见内容的强梯度可能掩盖新鲜和长尾信号。独立子塔先在各自空间做残差交叉，保留专门容量，再用context gate调节用户—物品亲和力，使交互受请求语境影响。可缓存item子塔并不代表最终打分完全解耦，后续候选相关计算仍需按实际服务路径核算。
教学例子：长尾商品的内容特征先有独立建模空间，不必一开始就与热门曝光统计竞争同一层；随后在当前场景中再判断用户与该商品的匹配程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
RGBC 为什么在 user-item 逐元素亲和上施加 context gate，再加 context 残差？
MESH: Scaling Up Retrieval with Heterogeneous Content Unification
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：乘积形成两侧对应维关系，context 的 sigmoid gate 调节哪些关系适合当前场景，残差保留上下文本身。三塔向量需同维且身份对应，不能先平均上下文再宣称逐样本调节；LN 和残差位置也会改变作用。
教学例子：相同用户商品在通勤与周末场景可使用不同亲和维度，context 还可提供独立时段线索；把场景只当最终常数偏置不是同一机制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MESH 的塔并行与 flat 模型串行，相比何时才可能带来速度收益？
MESH: Scaling Up Retrieval with Heterogeneous Content Unification
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：独立塔允许并发、item 可异步缓存，但真实收益依赖执行框架、设备、批量和同步开销。模型图可并行不等于 Python 小批实际并行，来源测到更慢也是有效反例。质量与算力更需分别比较，不能按理论分支数推算吞吐。
教学例子：三条塔在同一 CPU 循环逐一执行，没有 GPU 并发，反而多了调度成本；设计可并行并不能让这种运行自动提速三倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MESH 为什么先在 user、item、context 子塔内部放大？
MESH: Scaling Up Retrieval with Heterogeneous Content Unification
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：全量 flat 交互容易让高频 evergreen 信号支配共享梯度，分子塔先独立交叉可保留各类结构，再由 context gate 调节 user-item 亲和。它试图让新增容量更均衡使用，不保证 fresh/tail 真正受益，仍需分组和整体质量证据。
教学例子：用户长期偏好、商品新鲜度和请求场景分别建模，再决定当前两者怎样匹配；不能让大量热门商品统计先淹没场景细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
DANet为什么把折扣历史分成高低频，而不只给模型一个当前折扣率？
Cheaper is Better: A Discount-Aware Network for Conversion Rate Prediction in E-commerce Recommendation System
问答新增：2026-10-27 · Alibaba Group / Tmall
展开答案与例子
答案：相同折扣对不同用户的吸引力不同，当前数值无法表达长期价格敏感度及短期促销反应。DPN从折扣序列中分离较稳定模式与快速波动，再结合相似购买和促销上下文调节偏好；兴趣网络负责另一路需求。购买样本的折扣辅助监督补充信息，但不能由关联直接推出降价因果效应。
教学例子：有人只在年度大促采购，有人日常也追逐小幅优惠；今天同为八折，两人的历史周期和近期反应不同，模型不应给出完全相同的折扣增益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
DANet 为什么只在购买样本上计算真实折扣辅助回归？
Cheaper is Better: A Discount-Aware Network for Conversion Rate Prediction in E-commerce Recommendation System
问答新增：2026-10-27 · Alibaba Group / Tmall
展开答案与例子
答案：该辅助目标对应已购买条件下观察到的折扣，未购买样本没有同义的成交折扣标签。按正样本指示 mask 避免编造监督；FFT 滤波后高频残差还应与低频重构相加回原序列。本地 popularity/rating intensity 只是代理，不得称真实券价回归。
教学例子：用户没买的鞋没有实际成交折扣，不能随手填零去训练；已买鞋的折扣才用于该目标，另用点击或排序损失学习总体行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
DANet 的 FFT 高频、低频分解与简单最近折扣平均，相比多保留什么结构？
Cheaper is Better: A Discount-Aware Network for Conversion Rate Prediction in E-commerce Recommendation System
问答新增：2026-10-27 · Alibaba Group / Tmall
展开答案与例子
答案：均值把波动与周期压成一个数，频域分解将长期趋势和快速变化分开，让模型识别促销节奏。它也依赖时间采样与序列质量，不保证每种高频都是真实兴趣，噪声也会形成高频。公开数据无价格时，该机制只接受代理诊断。
教学例子：长期九折偶尔五折，与每周在八折十折间摆动，平均可能相近，频率结构却不同，用户对突发大促和规律折扣的反应也可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
DANet 的一般兴趣与折扣偏好为什么分开建模？
Cheaper is Better: A Discount-Aware Network for Conversion Rate Prediction in E-commerce Recommendation System
问答新增：2026-10-27 · Alibaba Group / Tmall
展开答案与例子
答案：喜欢一个品类不代表只在大促时购买，折扣敏感度是另一种影响行为的维度。IPN 提取一般兴趣，DPN 从长期折扣序列分析节奏，用户与促销上下文模块再调节。两种信号可相互作用，但不能用“爱某商品”直接代替“愿为多大折扣等待”。
教学例子：两人都爱运动鞋，一人原价就买，另一人等季末促销；若只看同样的浏览兴趣，会错过价格时机上的差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
因果召回为什么按触发召回带来的uplift决策，而不是按用户本来的购物概率？
Deep-learning Causal Retrieval Optimization for Efficient e-commerce Distribution in Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：高购物概率用户可能无需额外召回也会购买，资源应关注触发动作所改变的结果。方法用随机日志学习处理与对照结局，并以doubly-robust校正构造增量估计，再通过replay选择触发阈值。估计仍依赖合适的实验支持与重叠条件，不能把普通预测分换个名字就叫因果收益。
教学例子：甲本来就会购买，额外召回几乎不改变结局；乙购买概率较低但对合适候选敏感。预算紧张时应比较干预增量，而非只把召回给甲。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
因果召回实现中，为什么倾向概率接近零或一时必须特别检查？
Deep-learning Causal Retrieval Optimization for Efficient e-commerce Distribution in Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：DR 残差分别除以 e(x) 与 1−e(x)，极端概率会放大噪声，缺乏重叠时甚至无法估计对照差。阈值应由独立 replay 或验证口径选择，而非按 test 搜最好触发率；任何裁剪也需记录，因为它改变估计偏差与方差。
教学例子：某人群只有百分之一机会触发召回，一次结果会被大幅加权；不能把由小分母产生的巨大分数直接当成高置信增量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
DR uplift 与只训练处理组、对照组两个 outcome 模型相比，多了什么校正？
Deep-learning Causal Retrieval Optimization for Efficient e-commerce Distribution in Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：两模型差估计结局差异，DR 项再按倾向概率缩放观测残差，利用处理分配信息纠正拟合误差。双重稳健依赖其假设与至少适当的模型条件，不是对任意偏差都免疫。来源本地使用合成随机处理，不能直接外推真实平台增量。
教学例子：某类用户模型低估处理后购买，残差项可按其处理概率校正；若这一类用户从未接受处理，分母与缺乏支持的问题也无法凭公式解决。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
因果召回中的 treatment 是触发哪种动作，outcome 又是什么？
Deep-learning Causal Retrieval Optimization for Efficient e-commerce Distribution in Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：处理指是否运行购物候选生成器，结果是后续多事件业务响应，目标估计同类用户触发与不触发的差异。它评价的是资源动作的边际作用，不是购物模型单次预测准确度。只有两种决策在数据中有足够支持，才可能比较该增量。
教学例子：同样用户上下文下，运行购物召回是否改变购买或消费才是目标；用户本来就很爱购物，不足以证明这次额外运行有帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Prompt Generation 的 preprocessor、projector、merger 为什么要与模板一起配置化？
Prompt Generation Technical Report
问答新增：2026-10-27 · Alibaba / Taobao Search
展开答案与例子
答案：新增特征往往同时涉及离线数据处理和在线输入组装，分别写代码容易产生训练服务偏差。统一协议把清洗、空间投影与融合压缩拆为可组合部件，让训练和服务解释同一份配置。merger 还控制 token 数，因此它影响延迟与信息损失，不只是文本拼接工具；均值压缩的强基线也不意味着所有顺序信息都可丢弃。
教学例子：给检索器新增商品标题，配置声明文本清洗、向量投影和均值压缩后，训练与服务都产出同样的一个 token。若两边各自实现，一边截十词另一边读全文就会偏离。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
PG_train(x,c)=PG_serve(x,c) 为什么需要用线上原始特征 replay 检查？
Prompt Generation Technical Report
问答新增：2026-10-27 · Alibaba / Taobao Search
展开答案与例子
答案：同一 JSON 不保证两端依赖、截断、缺失值和 tokenizer 实现一致，重放实际源特征才能比较最终输入张量。配置版本与解释器都需绑定。来源本地按验证选 Title 后 test 下降，应保留而不以压缩更短宣布效果成功。
教学例子：训练标题清洗保留数字、服务删型号，两边配置名相同却输入不同；replay 对比能暴露这种隐藏 skew。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
无参数 mean merger 与可学习压缩，相比默认优点与信息代价是什么？
Prompt Generation Technical Report
问答新增：2026-10-27 · Alibaba / Taobao Search
展开答案与例子
答案：均值简单、无额外训练参数且易保持服务一致，可降低 token 成本；它忽略顺序和部分细节，学习压缩更灵活也增加开销与过拟合。来源称强默认不意味着所有字段都应均值，更不能用压缩率替代相关性验证。
教学例子：几条同义商品属性均值可够用，带否定和先后关系的长行为直接平均可能丢“不要”或顺序，需按特征任务选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
Prompt Generation 为什么把特征类型与处理组件分成两个正交维度？
Prompt Generation Technical Report
问答新增：2026-10-27 · Alibaba / Taobao Search
展开答案与例子
答案：text、embedding、combo、sequence 描述输入是什么，preprocessor、projector、merger 描述如何处理；拆开可组合而不为每种特征改模型代码。配置是可执行协议，不是单纯提示文案，错误配置仍会丢信息或制造训练服务偏差。
教学例子：标题是 text，可先清洗再投影后池化；行为是 sequence，也可用同类组件不同配置，不能把“文本”直接等同某一种固定处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
下一POI生成为什么需要时空上下文，不能只把地点名当普通商品ID？
Guess Where You Go: Generative Next Point-of-Interest Recommendation in Amap
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：地点选择受距离、时间与出行状态限制，相同兴趣在不同位置未必可执行。语义ID提供层次表示，时空特征限定当前需求，课程式训练再逐步适应更复杂反馈。长期奖励优化仍需要对应观测，不能把静态地点共现或一次命中直接当真实路线规划与长期出行收益。
教学例子：用户喜欢咖啡馆，但早晨上班途中和周末远游时可去的店不同；模型要结合当前时间与位置，而不能只重复历史里最常访问的店名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
实现 POI SID 生成时，哪些训练标签不能变成请求特征？
Guess Where You Go: Generative Next Point-of-Interest Recommendation in Amap
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：目标地点及未来停留反馈可用于损失，当前输入只能包含已发生轨迹与当时可知时空信息；不能把下一站坐标提前用于筛选。生成码映射需对应同版本地点目录，公开 proxy 的混合分数不等于原文全流程策略训练。
教学例子：为了缩小候选而先用真实下一站所在商圈过滤，就泄漏了目标；应按当前区域和合法约束构造候选，再检验是否预测到下一站。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
课程预训练/SFT 与直接按长期反馈更新 POI 策略，分别解决什么学习阶段？
Guess Where You Go: Generative Next Point-of-Interest Recommendation in Amap
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：课程与监督先建立地点语义、时空关系和基本生成能力，反馈优化再调整长周期偏好，避免从稀疏奖励从零探索巨大空间。二者都依赖数据定义，公开电影代理缺少真实移动限制，不能当作 POI 能力结果。
教学例子：先学合法地区与出行序列，再用后续满意度调整路线；仅靠一次正负反馈很难从零学会所有城市地点关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
下一 POI 生成为什么比普通内容推荐更依赖时空条件？
Guess Where You Go: Generative Next Point-of-Interest Recommendation in Amap
问答新增：2026-10-27 · Amap / Alibaba
展开答案与例子
答案：地点可达性、当前区域与时间共同决定合理去向，同一个名字的地点也受营业和旅程阶段影响。SID 提供离散生成接口，时空条件决定此刻哪些路径有意义。只学地点共现可能得到语义相近却无法到达的候选。
教学例子：午间在上海办公区更可能去附近餐饮，不能因历史喜欢北京咖啡馆就跨城推荐；地点语义相似不足以替代当前可达性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
ZoRRO 为什么无需模型训练也能做候选排序，又在哪些信息上受限？
ZoRRO: A Zero-Weight Personalized Recommender System for Scalable News Recommendation
问答新增：2026-10-27 · Technical University of Denmark
展开答案与例子
答案：它直接用历史的时间衰减、语义相似与类别关系组合候选得分，偏好规则与内容向量足以构成可运行排序器，省去参数拟合和训练更新。新历史可立即改变权重，但组合关系由设计固定，难自动学习复杂协同与用户差异。适合检验轻量规则价值，不能把无训练误解为没有特征、超参数或数据依赖。
教学例子：用户刚读多篇科技新闻，最近文章权重更高，语义相近且同类候选得分上升。系统能立刻响应，但无法自行学出“某用户周末更想看文化内容”的复杂规律。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
ZoRRO本地电影代理能证明高吞吐新闻线上表现吗？
ZoRRO: A Zero-Weight Personalized Recommender System for Scalable News Recommendation
问答新增：2026-10-27 · Technical University of Denmark
展开答案与例子
答案：不能，MovieLens缺少真实新闻时效、私有流量与serving。时间权重、历史截止和类别来源需明确，固定系数不能用测试结果逐题挑选后称零训练泛化。
教学例子：例如把发布很久的电影时间当新闻新鲜度，只是机制代理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
时间衰减语义打分与只按热门新闻排序有什么不同？
ZoRRO: A Zero-Weight Personalized Recommender System for Scalable News Recommendation
问答新增：2026-10-27 · Technical University of Denmark
展开答案与例子
答案：前者随用户历史内容及时间变化，热门基线主要共享全局热度；类别项另提供结构。但相似历史可能形成重复推荐，也不保证新闻新鲜度目标自动满足。
教学例子：例如两用户同一时刻可因旧阅读兴趣得到不同顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
ZoRRO零训练参数是否表示完全不需要表示模型？
ZoRRO: A Zero-Weight Personalized Recommender System for Scalable News Recommendation
问答新增：2026-10-27 · Technical University of Denmark
展开答案与例子
答案：不表示，方法可使用已有文章embedding及类别，排序阶段不再训练参数，通过时间衰减和相似关系融合个性化。已有表示和固定超参仍是先验与成本来源。
教学例子：例如直接用外部语义向量算近邻，没有再对新闻日志反传训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
ELISE为什么先做分位数匹配，再融合语义召回和词法检索分数？
Multilingual Semantic Retrieval for Apple Music Search
问答新增：2026-10-27 · Apple
展开答案与例子
答案：两种模型的原始分数尺度和分布不同，直接加权可能让数值范围较大的一路支配结果。分位数映射先表达各自分布中的相对位置，再进行受控融合并限制语义结果数量。百分位不是校准点击概率，也不能替代对精确实体匹配的检查；跨语言分布变化后映射同样可能需要更新。
教学例子：词法分常在几十，向量相似度在零到一，直接相加几乎只看词法；映射到各自百分位后才可公平组合，同时保留精确歌名匹配的控制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
ELISE 的映射、融合权重与语义配额为什么要在 test 前锁定？
Multilingual Semantic Retrieval for Apple Music Search
问答新增：2026-10-27 · Apple
展开答案与例子
答案：三者都决定最终候选及次序，按测试结果反复调整会把评估集用成验证。应在训练或验证口径拟合并固定，服务执行相同配额。本地公开代理出现负结果时不能再挑测试最佳组合隐藏退化。
教学例子：看到 test 后发现语义比例七成最好，再只报这一组会乐观；先锁定比例和分位映射，才能诚实测它对新请求的表现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
分位数匹配与线性 min-max 缩放，处理分数分布的方式有何不同？
Multilingual Semantic Retrieval for Apple Music Search
问答新增：2026-10-27 · Apple
展开答案与例子
答案：线性缩放主要调整范围，分位数依据经验分布映射相对位置，能应对两路形状差异。它提升可比性却不保证同分位等于同相关概率，分布漂移还会改变含义。不能只因融合后数值同范围就声称概率校准完成。
教学例子：词法分长尾很重、语义分挤在窄区间，乘常数未必对齐尾部；百分位可表达各自位置，但新品查询仍可能不服从旧分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
ELISE 为什么保留词法与语义两条检索路径？
Multilingual Semantic Retrieval for Apple Music Search
问答新增：2026-10-27 · Apple
展开答案与例子
答案：词法匹配擅长型号、实体与精确条件，双编码器擅长表达变化和语义联想。混合补充不同盲点，再校准分数并限制语义数量，避免泛化吞掉明确要求。两路都可能出错，语义相似不等于符合全部商品条件。
教学例子：查具体相机型号依靠精确词项，查“适合雨天徒步”可借语义找到防水装备；仅保留一条路径会漏掉另一种需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
相同PPO ratio区间在不同旧概率处，为什么不代表相同的策略距离？
RIPO
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：概率空间的几何随旧概率位置改变，罕见动作与高概率动作的相同比率变化会消耗不同局部KL预算。RIPO依据Fisher–Rao距离设置概率相关半径，试图让约束更可比。它改变裁剪边界而非优势标签，仍需用实际更新验证稳定性。
教学例子：把一个极少见动作的概率翻倍与把常见动作概率翻倍，对其余分布的影响不同；统一比率上限并不几何等距。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
RIPO动态clip应该读取更新前还是更新后的概率？
RIPO
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：边界按旧策略动作概率定义，训练中固定这份参照，再评价当前比值。若用不断变化的当前概率重算，会让信任域随更新移动；本地候选核不等于长CoT训练。
教学例子：例如一个动作本轮被提高概率，不应据此立即重写这轮的原始允许边界。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
RIPO自适应边界与直接提高PPO全局ε有何差别？
RIPO
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：全局ε同时放宽所有动作，RIPO依据旧概率区分位置。它是概率条件化的距离设计，不只是把训练调得更激进，也不保证任何数据都更稳。
教学例子：例如只希望低概率区域有合适探索空间，不必让高概率区域也同样放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RIPO为什么认为固定概率比clip没有给各区域相同距离预算？
RIPO
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：同样比值变化在高低概率区域对应的分布距离不同。用Fisher–Rao几何按旧概率调整边界，试图让局部更新预算更均衡，而非固定百分比一刀切。
教学例子：例如罕见动作与常见动作都提高相同比例，对分布几何的影响并不相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
ARMOR主动采样参考策略轨迹，与只在损失里加入KL惩罚有什么区别？
ARMOR
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：KL惩罚在当前采到的数据上限制策略漂移，却不保证参考策略的好解法仍出现在训练样本中。ARMOR主动混入冻结参考策略的锚点轨迹，恢复这部分数据覆盖。参考轨迹也可能差或已过时，混合比例需要控制；本地参考候选模型不能代表完整语言模型结论。
教学例子：例如新策略只会用一种捷径，锚点采样能重新提供旧策略的检查路线；仅惩罚分布差异，不一定让这条路线实际进入批次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
ARMOR本地reference是什么，样本能标成当前on-policy吗？
ARMOR
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：reference是初始化候选策略，锚点来源需独立记录，不能称学生当前采样。当前没有论文长程轨迹池，混合项可执行只说明数据路径而非完整稳定能力。
教学例子：例如旧策略采出的动作，不能拿当前策略生成日志冒充其来源。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
anchor rollout与额外加reference KL是否等价？
ARMOR
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不等价，前者改变训练数据及访问状态，后者在现有状态约束分布。锚点也可能过时或错误，需要任务评价，不能把保留旧行为当永远有益。
教学例子：例如没进批次的旧路线，不会仅因一个被动正则就被真正重新练习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
ARMOR为什么主动从reference采样？
ARMOR
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：惩罚偏离只作用已见样本，不能让当前策略已经不采的好解法重新出现。reference锚点轨迹提供实际数据覆盖，帮助保留原能力路径。
教学例子：例如学生只剩一种捷径时，旧策略仍可能采出另一条检查路线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
TACO为什么只降低高tail-risk token的正信用，而不把负信用一起减弱？
TACO
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：正确整句可能夹有不合理的低概率步骤，统一正优势会把它们也强化。TACO平滑削弱这类位置的正信用，同时保留负信用，避免对坏轨迹的抑制也被一并取消。tail risk依赖局部上下文，不是凡低概率就错误，本地也未复现真实token风险预测器。
教学例子：答案碰巧正确，但中间有一次无根据猜测；可减少对猜测的奖励，而当整体失败时，不应顺便免除它的负向反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
本地TACO是否复现了真实上下文tail-risk predictor？
TACO
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：没有，候选动作只验证信用校准方向；逐词元长CoT预测器不在当前实现。权重应在零与一之间且平滑，不可直接把所有低概率位置一刀切删除。
教学例子：例如人工给风险标签能验证分支，但没有证明模型自动识别不合理token。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
TACO对正负优势采取相同缩放吗？
TACO
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：不相同。只降低高风险词元的正信用，非正优势保持，让失败学习信号不因tail风险被削弱。与双向都乘权重的方法有不同目标语义。
教学例子：例如错误回答中的稀有词仍保留原惩罚，不能因风险高反而替它减罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
TACO为什么认为正确回答也可能含不该强化的token？
TACO
问答新增：2026-10-27 · Johns Hopkins University
展开答案与例子
答案：终局正确只验证结论，过程里仍可有偶然或不合理词元。统一正优势会一起提升它们，tail risk用于平滑减弱这些位置的正信用，避免正向污染。
教学例子：例如最终算对但中间夹了错误理由，不应把整段都无差别当范文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么把 KL 监督按 turn 长度归一化，能改变长短回合的训练权重？
TurnOPD
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：纯 token 求和让冗长回合天然贡献更多损失，可能压过短但关键的决策。turn-normalized 监督先在回合内平均，再依据 probe 分配 rollout 深度，把有限教师预算聚焦到有信息的交互；这改变的是权重与采样合同，不代表更深或更多监督必然更好。
教学例子：例如一句关键工具选择只有十 token，另一轮长解释有两百 token；按回合平均可减少仅由长度造成的二十倍权重差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
TurnOPD 动态截断后，loss 中是否还能保留被省略 turn 的 teacher 分数？
TurnOPD
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：监督应与实际rollout截断L*一致，避免对未采样回合使用虚构目标。还需处理有效响应长度；当前教师由确定性任务oracle提供，未运行任务专用大模型teacher。
教学例子：本次只采到第3轮，就不能仍把第4到6轮的预填答案计入同次训练证据。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
每 token 平均 KL 与每 turn 除长度后求和，有何权重差异？
TurnOPD
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：逐token口径使长turn贡献更多项；每turn除以自身长度后，各回合更接近按回合单位计权。两种损失即使使用同一批token，也不是相同学习目标。
教学例子：一个10-token turn和一个100-token turn，先各自归一化不会让后者天然占十倍权重。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
TurnOPD 为什么同时研究 rollout 深度与 turn 内监督归一化？
TurnOPD
问答新增：2026-10-27 · Academic author team
展开答案与例子
答案：长程Agent的后续turn有不同训练价值和成本。probe用于决定采多深，turn-normalized KL改变长短回合的监督份额，分别控制采样预算和更新权重。
教学例子：少采几轮与减少一个长回合的相对权重，是两种独立节省方式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
SIS接受旧token后为什么把ratio置1，这是否意味着整条旧轨迹都变成on-policy？
Turning Off-Policy Tokens On-Policy: A Plug-in Approach for Improving LLM Alignment
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：拒绝采样在给定前缀下校正被接受动作的条件分布，理想条件下这部分无需再乘原重要性比；未接受token仍由宿主算法处理。它不把整条旧轨迹自动改成当前策略轨迹，且top-K envelope是工程近似，必须与精确采样保证区分。
教学例子：一条旧回答只有部分位置通过接受检验，不能因为其中一个token被接受，就把整段历史的全部比率都改成一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
SIS的top-K envelope来自哪个策略，拒绝项怎样处理？
Turning Off-Policy Tokens On-Policy: A Plug-in Approach for Improving LLM Alignment
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：工程近似用behavior的top-K候选估包络；接受项按规则置一，未接受项继续使用GRPO、DAPO或GSPO等宿主校正，不能自动也改成一或删掉。
教学例子：例如一处拒绝并不表示整条响应都必须丢弃，处理仍遵循所选宿主目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
SIS接受token后把ratio设一，与普通clip到一相同吗？
Turning Off-Policy Tokens On-Policy: A Plug-in Approach for Improving LLM Alignment
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：不同。接受事件由拒绝采样分布机制决定，不是看到任意比值就数值截成一。精确包络与工程top-K近似也有区别，不能把近似选择包装成无条件精确采样保证。
教学例子：例如随手把所有大比值改成一，没有提供接受样本来自目标分布的依据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
SIS为什么尝试把部分旧策略token变成当前策略可用样本？
Turning Off-Policy Tokens On-Policy: A Plug-in Approach for Improving LLM Alignment
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：异步和样本复用造成陈旧分布，长序列重要性连乘方差大。拒绝采样选择的接受部分可减少这种校正负担，未接受部分仍由宿主算法处理，而非整条数据一律丢弃。
教学例子：例如旧批次里一些词元仍与当前分布兼容，可保留它们的训练价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Cluster GOOBS为什么大概率在正例所在语义簇里抽负例，又保留随机负例？
Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：同簇物品在内容上接近，更可能落在模型真实选择边界，能避免大部分随机负例太容易。保留少量随机采样则提供全局覆盖，减轻只学簇内区分的局限。核心变化在实时OOB池的分段更新与采样分布，而非给线上双塔再加一个LLM；同簇物品也可能是假负例，比例需验证。
教学例子：正例是跑鞋时，与另一款跑鞋比较比与冰箱比较更难；偶尔仍抽跨类物品，避免模型只会区分鞋款，却不知道鞋和家电的整体差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
Cluster GOOBS 的 random:cluster 比例与实时池更新应怎样避免测试泄漏？
Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：簇与池应由训练可用内容和交互构造，采样混合比例按设定或验证口径固定，不能根据 test 命中反复调整。本地 MovieLens 用 genre 代理语义簇且限制训练转移量，不等同于原文多模态簇；全库评估与采样池是两个不同集合。
教学例子：一比十五表示每份随机负例配更多簇负例，并非只测试这十六件物品；测试目标也不能提前进入池更新来改变训练难度。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
Cluster GOOBS 与只在当前 batch 内找 hard negatives，相比多了什么覆盖？
Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：当前 batch 受批大小与抽样偶然性限制，out-of-batch 池提供更大、持续更新的负例来源，语义分段让取难例成本可控。池也可能有陈旧向量或假负例，需要与随机成分平衡；不能把常数采样开销误说成整个训练常数复杂度。
教学例子：当前批次没有同类电影，批内负例都很容易；跨批池中已有同题材候选，能提供更细的区分，但真实也喜欢的片可能成为假负例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Cluster GOOBS 为什么修改负采样池，而不用增加线上模型结构？
Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：双塔仍计算同样相似度，难度提升发生在训练分母中的负例选择：实时池按语义簇组织，更常给出与正例接近的竞争项。服务不需要额外簇模型参与打分。训练采样改变了学习分布，因此评估应看全库，而非只在同样采样的小集合上报好成绩。
教学例子：模型结构不变，但训练相机正例时更多面对相似镜头或相机负例；上线仍是一份双塔向量索引，不需再跑新网络。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
GenPage直接生成整页，为什么还需要长期奖励后训练，而非只模仿已有页面？
GenPage: Towards End-to-End Generative Homepage Construction at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：行为克隆或SFT主要重现日志中的展示分布，未必表达不同位置、内容组合对长期价值的共同影响。整页奖励把评价对象提升到页面决策，再通过后训练调整策略，同时保留业务可行性与冷启动处理。页面级建模不保证因果最优，尤其不能把公开代理列表收益当作生产长期留存。
教学例子：日志里每行都堆热门内容，模仿会复制这种布局；整页评价可能发现适量新内容有助持续探索，但需真实长期反馈，而不是只凭标题多样就假定收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
GenPage 本地 MovieLens 核心路径为什么不能当作 Netflix 整页生产实现？
GenPage: Towards End-to-End Generative Homepage Construction at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：公开数据没有真实首页布局、多形态内容与长期奖励，仅按固定候选协议检查代理机制。验收应明确哪些页面状态、约束与更新实际存在，不把一个排序列表改名为首页。来源本地也保留负结果，不能用原文线上收益填补缺失。
教学例子：十部电影排成列表没有轮播、文案与跨天反馈；它可以检验部分组合逻辑，却不能证明整页 UI 与留存策略都已上线可用。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
GenPage 的 WBC/SFT 与长期 RL 后训练，分别依赖什么证据？
GenPage: Towards End-to-End Generative Homepage Construction at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：模仿阶段借已有页面和加权示范建立可用策略，RL 再按长期反馈调整超出日志模仿的取舍。后者依赖可靠环境与奖励，不能由离线电影代理直接恢复真实留存。业务规则和冷启动也需要独立约束，而非完全交给单个长期数值。
教学例子：旧首页偏熟悉内容，模仿可快速学会可用布局；若真实长期反馈支持适度探索，后训练才有依据改变，不能凭空假设探索一定增加留存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
GenPage 的整页动作为什么比逐物品预测更接近首页目标？
GenPage: Towards End-to-End Generative Homepage Construction at Netflix
问答新增：2026-10-27 · Netflix
展开答案与例子
答案：首页价值取决于内容类型、布局和项目之间的组合，单品各自高分仍可组成重复或不连贯页面。整页生成使上下文包含已选内容，长期奖励再评价页面整体。输出单位更大也带来更难的搜索与信用问题，不自动保证全局最优。
教学例子：一页全是同系列电影单条都相关，用户却缺少探索入口；整页目标可考虑同时放不同类型，让页面整体更有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
核心机制
多实例编辑为什么同时需要文字组隔离与平滑空间偏置？
Editing Everything Everywhere All at Once
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：文字组隔离减少一条编辑指令直接影响另一组语义，空间偏置则把该指令绑定到相应实例并允许边界附近融合。只有硬切区域可能产生接缝，只有全局文字约束又可能串色；偏置在注意力里控制可见性，并不等于训练了一个新的编辑模型。
教学例子：例如要求左鞋变红、右鞋变蓝，文字组不应互相传播颜色，而平滑实例区域帮助各自颜色与周围图像自然衔接。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
实现细节
为什么 ε=10^-30 的偏置至少用 float32，且 context 到视觉域不能随意加空间 mask？
Editing Everything Everywhere All at Once
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：float16 可能使极小 ε 下溢，改变有限 log 偏置的语义；softmax 与累加需至少 float32。本地采用正文 Case 5 的 context 到整个视觉域无偏置，不能混入示意图或默认 processor 的不同规则，再声称各版本完全等价。
教学例子：例如区域外 log(ε) 本应是有限大负数，若下溢成零再取对数就变成负无穷，软衰减被意外改为硬禁止。
依据：核心公式、本地复现、原文与代码版本边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
方法对比
软空间偏置与对区域外 token 全部 hard mask 有何区别？
Editing Everything Everywhere All at Once
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：平滑掩码取对数后给区域外有限负偏置，让边缘有逐渐衰减的交互以融合周围内容；hard mask 则彻底禁止。无关文字组仍用负无穷隔离，不能把所有边都统一软化；正文与作者默认代码还存在版本差异，本地明确遵循 paper_v1。
教学例子：例如物体边缘附近的阴影可获得较弱联系帮助融合，但另一实例专属像素被清零，避免把局部编辑扩散过去。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 视觉世界建模：状态、生成与动作条件
基础理解
同时编辑多个实例时，MICE 所说的属性串扰会怎样破坏用户指令？
Editing Everything Everywhere All at Once
问答新增：2026-10-27 · University of Modena and Reggio Emilia
展开答案与例子
答案：用户可能要求每个对象发生不同变化，若生成过程不能保持属性归属，一处颜色、形状或材质会传播到另一处。MICE 研究在无需新训练的编辑流程里维持局部绑定与周围融合。困难不是只生成更美图片，还要让每项变化落在指定实例，且不误改其他内容。
教学例子：教学例：要求左杯变红、右杯变蓝，若两个杯子都变紫，就是不同编辑属性混在了一起；单一全局颜色描述难明确这种归属。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
POEM 为什么把当前请求多个目标的相对次序变成偏序，而不只按历史时间排训练序列？
POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：时间顺序描述事件发生先后，不一定描述当前请求最在意的候选关系。POEM 汇总多个目标对候选的相对排序，构造反映请求偏好的偏序信号，再据此组织训练。多目标分歧可保留为不完全确定的关系；它借用的是已有目标的判断，不能被当作独立、无偏的真实用户偏好。
教学例子：两个商品先后被浏览，但当前点击和购买模型都更偏好后者。偏序信号可以表达“后者在本请求更优”，而不是强迫模型把浏览时间先后当成偏好强弱。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
POEM 的两两多数关系为什么需要检查平局或循环，而不能当作天然总序？
POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：多目标偏好可能出现甲胜乙、乙胜丙、丙胜甲，平局也无唯一方向。若最终构序列，要遵循定义的稳定处理，不能悄悄排序成任意结果再声称原偏序保留。测试标签不能用于打破循环选择最有利答案。
教学例子：三个目标各支持不同排列可形成循环；直接按 item ID 拆解虽可运行，却是额外规则，应记录而非称所有候选都有一致真实顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
POEM 的多数目标比较与保留所有冲突证据，相比会丢什么信息？
POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：多数规则将多个目标压成一条方向，便于构序列，却可能丢掉少数任务强烈反对与差距大小。不同于同时保留正反证据的目标，偏序关注总体次序。此处只是机制取舍，不能借另一论文实验断言谁在所有场景更好。
教学例子：三项轻微支持甲、两项很强支持乙，多数仍判甲；它简洁表达方向，却不说明金额幅度或购买目标的强反对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
POEM 使用的“名次”与 CTR、GMV 原始数值有何区别？
POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：名次保留同一目标内谁排前谁排后，不保留原始量纲和差距大小，因此可将不同目标的相对顺序转成比较证据。它也会丢失价值幅度：一元和百元的差别不能仅由先后表示。理解这个信息损失，才不会把偏序信号当作所有目标数值的等价替身。
教学例子：甲点击率只略高于乙，却交易额低很多，两项名次各提供一个方向；名次本身没有告诉模型“略高”与“低很多”的幅度差异。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
MOPD为什么在学生轨迹上调用多个领域教师，而不直接拼接专家轨迹训练？
MOPD
问答新增：2026-10-27 · Xiaomi
展开答案与例子
答案：学生自己的前缀暴露真实学习状态，多个领域教师在相同状态提供稠密指导，可减少专家轨迹与学生分布不一致的问题。合并发生在监督信号而非简单参数平均，领域之间仍可能干扰，不能因为有多个教师就推断能力全部保留。本地只是候选级验证。
教学例子：例如学生在一道混合数学与代码的问题中写到中间步骤，两位教师围绕该状态指导；直接拼接各自完整答案未必覆盖这个状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
MOPD教师权重α与概率维度需要满足什么？
MOPD
问答新增：2026-10-27 · Xiaomi
展开答案与例子
答案：候选或词表对齐，权重按明确规则归一后构成目标，教师固定且只更新学生。当前mini-suite由确定性分布代理，不能视为各域真实教师训练完成。
教学例子：例如词表索引不同就不能直接相加概率，归一也无法修复语义错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
MOPD概率混合与参数平均分别在哪一层合并？
MOPD
问答新增：2026-10-27 · Xiaomi
展开答案与例子
答案：概率混合在同一学生状态形成监督，参数平均直接组合权重；前者需教师推理成本，后者需权重可比并可能破坏内部协调。无同协议实验证据不排优劣。
教学例子：例如两个教师同一前缀给分布，与把两套矩阵逐元素平均，是不同计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
MOPD为什么先独立训练领域教师？
MOPD
问答新增：2026-10-27 · Xiaomi
展开答案与例子
答案：联合RL可能让领域梯度耦合，独立教师允许各域分别优化，再以学生轨迹上的密集信号整合。整合仍是共享参数学习，不保证完全无干扰。
教学例子：例如数学与代码专家先各自训练，之后共同指导一个学生。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
NEXT 为什么先生成 next-intent 再检索和验证，而不直接连接语义最相似的视频？
NEXT: Reasoning-Driven Video Recommendation via a Vision-Language Model
问答新增：2026-10-27 · Meta
展开答案与例子
答案：语义相似描述内容接近，未必描述用户看完后的下一步需求。NEXT 用视觉语言模型从当前视频推断后续意图，再检索满足该意图的候选并验证，形成有方向的边。昂贵推理离线执行，在线在正反馈后注入高置信连接；因此图表达的是可能的后续关系，而非无方向的内容相似网络。
教学例子：看完“咖啡机开箱”后，下一需求可能是“如何萃取”，未必是另一条开箱。先生成这个后续意图，再检索教学视频，便能产生开箱到使用教程的有向边。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
NEXT 在线为何仅在 positive engagement 后加性注入 NKG 候选？
NEXT: Reasoning-Driven Video Recommendation via a Vision-Language Model
问答新增：2026-10-27 · Meta
展开答案与例子
答案：正反馈作为继续同类需求的触发，图路径补充现有生产候选而非完全替换，减少低置信边的影响。触发标签需当时已发生，不能用未来目标反馈；重复候选与资格仍要处理。本地单 seed 大幅变化只解释固定代理协议。
教学例子：用户跳过开箱不应立即强推使用教程，明确喜欢后再加图候选；原召回继续提供其他选项，避免一条推断边接管全部列表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
NEXT 的 intent→retrieve→verify 与直接让 VLM 点名下一视频，可靠性有什么差别？
NEXT: Reasoning-Driven Video Recommendation via a Vision-Language Model
问答新增：2026-10-27 · Meta
展开答案与例子
答案：意图先表达后续需求，检索落到真实目录，验证再检查候选是否满足该方向，减少自由点名幻觉。多阶段仍可能误推意图或继承检索漏召，不保证推理正确；来源本地是代理图增量，不能称 NEXT-8B 全训练已重建。
教学例子：先问“接下来想学怎么用”，再找教程并核对，比直接编出某视频标题更可落地；若意图起初理解错，验证也可能沿错方向工作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
NEXT 的 directed graph 为什么不能把所有边自动反向使用？
NEXT: Reasoning-Driven Video Recommendation via a Vision-Language Model
问答新增：2026-10-27 · Meta
展开答案与例子
答案：下一意图有顺序，A 看完后需要 B 不代表 B 后需要 A。显式续集与隐式推理都生成方向关系，在线再按正反馈触发高置信连接。无方向相似图无法表达同样转移，也不能把推断边当真实观测消费。
教学例子：咖啡机开箱后常需萃取教程，教程后再看开箱未必自然；把边反向会改变需求阶段，而不是仅多一点图覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
CMSL的contextual lens为什么不是预先按点击、购买等行为类型分桶？
CMSL: Constructive Multi-Sequence Learning for Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：固定业务分桶未必对应用户当下的潜在意图。CMSL根据事件和当前上下文学习软分配，让同一历史形成多个语义strand，各自编码后再按非序列上下文聚合。它把兴趣拆分和场景选择都变成可学习过程；软分配不保证天然互补，仍需检查不同strand是否重复或失去有效历史。
教学例子：一次厨房用品点击既可能属于日常补货，也可能属于搬家准备；上下文不同，事件可被不同lens赋权，而不必永远留在同一个点击桶里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
CMSL 的二阶 feature map 近似为什么需要单独检查宽度成本？
CMSL: Constructive Multi-Sequence Learning for Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：将 SiLU 点积近似分解后可重排乘法，减少对序列长度的二次依赖；但二阶映射包含交叉项，维度随原特征宽度增长，不能只写线性长度就忽略常数和宽度。来源本地主要验证 learned lenses 与 HSTU-style 路径，生产核应另行核验。
教学例子：历史从一千到两千可在长度项上近似翻倍，但若特征宽度也翻倍，二阶映射可能扩大更多；总 FLOPs 不能只按历史长度估算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
CMSL 多 strand 与简单增加多个 attention head，有何组织差别？
CMSL: Constructive Multi-Sequence Learning for Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：多头在同一输入序列上投影不同子空间，contextual lens 先按上下文改变事件分组或权重，构造不同潜在序列再编码。两者都可多视角，但分工发生的位置不同。来源的线性 HSTU 是特定核近似，不能从使用 strand 推出标准 HSTU 自动线性。
教学例子：多头像多人读同一本未分类账本，lens 先按当前任务把账目重组为几册再读；每册仍需有合适编码，不能仅靠册数增多获得信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
CMSL 的 contextual lens 为什么要以当前非序列上下文为条件？
CMSL: Constructive Multi-Sequence Learning for Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：同一历史包含多种潜在意图，当前场景决定哪些事件应共同解释。lens 依上下文对事件软分配，形成多条语义 strand，再由上下文查询聚合，避免固定业务类型分桶忽略细分需求。软路由并不保证分出人类预想的主题，需要检查是否发生重复或坍缩。
教学例子：同一购物历史在旅行场景可分出轻便装备，在居家场景强调收纳；若只按点击或购买分组，两种需求仍会混在每组里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
主指标显著改善后，为什么护栏越界仍能否决候选发布？
AgentX: Towards Agent-Driven Self-Iteration of Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：推荐系统需要在目标收益与关键约束之间满足共同条件，单指标上涨可能以稳定性或其他重要体验为代价。Evaluation Agent 用线上证据和护栏否决，成功失败都写回实验知识；harness 学习依据完整轨迹，而不是只筛赢家形成乐观偏差。
教学例子：例如点击率提高却导致关键时延明显越界，不能只拿上涨指标宣称可上线；失败原因也应进入下一轮提案证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 120 个 episode 的 policy update 计数能说明 SGPO 大模型训练吗？
AgentX: Towards Agent-Driven Self-Iteration of Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：不能。本地验证四阶段、资产化和复用状态，没有快手仓库、用户流量或 SGPO 训练。average proxy cost 不是人效、收入或用户时长；原文上线收益属作者证据，不能用确定性满分声称复刻工业推荐系统迭代。
教学例子：例如实验知识复用一百零八次是本地流程计数，没有真实 A/B 就不能将它换算成年化收入或生产业务价值。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
离线实现验证与生产线上 A/B，在 AgentX 中分别支持什么结论？
AgentX: Towards Agent-Driven Self-Iteration of Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：离线检查能发现代码、数据和运行合同问题，为进入安全流量提供准备；线上 A/B 才观察业务环境中主指标及护栏的变化。二者任务和风险口径不同，离线通过不能替代线上发布判定。作者生产证据也不能由本地小型 episode 或更新计数冒充。
教学例子：教学例：推荐代码通过单元测试，仅说明实现可进入后续实验；是否改善用户行为且不损害延迟，还需对应流量下的对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
四阶段闭环为什么让失败轨迹也进入实验知识库？
AgentX: Towards Agent-Driven Self-Iteration of Industrial Recommender Systems
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：失败可说明实现限制、护栏风险和不成立假设，帮助后续提案避免重复；只收成功会产生幸存者偏差。Brainstorm、Developing、Evaluation 与 SGPO 分工串联证据、代码、线上验证及经验更新，仍需区分作者生产系统与本地控制流。
教学例子：例如某特征离线涨分却线上伤害延迟，记录失败及条件可防下一轮再次提出同样高风险方案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
UniFormer 为什么显式区分 item-independent、item-dependent 与 task token 后再统一交互？
UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：候选无关特征可表达用户公共状态，候选相关特征负责当前匹配，任务 token 指明预测目标。先明确语义角色再交互，有助统一序列、字段与任务的扩展接口，避免把所有输入视为同质字段。统一模块不等于这些状态都能跨候选缓存；一旦发生候选相关信息流，复用边界仍需由掩码和结构保证。
教学例子：用户年龄属于公共 token，候选价格属于商品相关 token，购买任务另有目标 token。三者可共同建模，但包含某件商品价格的交互状态不能直接复用给另一件商品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
UniFormer本地如何避免任务或候选特征错位？
UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：token类型、位置和有效mask需与输入字段一一对应，任务头读其对应状态。公开MovieLens代理没有工业多场景字段和serving，不把小scale结果写成完整生产扩展。
教学例子：例如任务A头误读任务B token，形状虽对但学习目标已错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
统一task token与每任务独立模型有何取舍？
UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：共享交互利于跨任务信息与维护，任务token表达条件差异，但共享参数仍会有干扰。不能仅因结构统一就推断所有目标都同时变好。
教学例子：例如观看任务的有用表示可能帮助点击，也可能与交易偏好冲突。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
UniFormer为什么把特征类型与任务都做成语义token？
UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：统一交互接口可同时承载候选无关、候选相关与任务状态，扩展序列和任务空间。token化保留不同含义，不是把所有字段无区别拼成一个向量。
教学例子：例如用户历史、当前商品与点击任务各占对应token。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
NOVA 为什么把架构修改验证拆成结构语义、可执行、离线有效和在线影响四层？
NOVA: A Verification-Aware Agent Harness for Architecture Evolution in Industrial Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：代码能运行只排除了部分执行错误，不能说明架构仍符合设计，也不能说明指标或线上效果变好。NOVA 将历史修改与诊断反馈汇总为架构更新依据，再按成本递增的验证层级放行，让明显错误尽早退出。离线通过仍需独立的在线证据；本地可执行级联属于诊断流程，不能充当真实上线结果。
教学例子：一次改动把多任务分支接错，张量维度却仍兼容。运行测试可能通过，结构语义检查先拦住它；另一次结构正确但验证集退化，则在离线有效层退出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
NOVA 本地选择 candidate 后，哪些产物需区分真实验证与模拟 online？
NOVA: A Verification-Aware Agent Harness for Architecture Evolution in Industrial Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：候选、形状失败、validation 指标和晋级记录可真实执行；线上影响若无真实流量只能标诊断或模拟，不应把第四层存在于控制流就称上线完成。test 应只评最终选型，成功技能和禁止方向需写可审计结果。
教学例子：故意错误 shape 被拦证明执行 gate 有用，模拟分数通过不代表用户实验；两种“通过”必须在记录中保留不同证据等级。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
NOVA 的结构语义检查与普通运行测试，为什么一个通过不能替代另一个？
NOVA: A Verification-Aware Agent Harness for Architecture Evolution in Industrial Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：形状兼容代码也可能把任务头接错或取消定义性信息流，语义层检查设计；可执行层确认实际运行，再由离线与在线证据判断价值。四层问题不同，不能靠训练 loss 下降跳过结构。来源公开候选流程不包含真实生产 A/B。
教学例子：购买头误接点击标签仍可训练并降低 loss，运行测试通过；语义检查应发现任务关系错，不能等线上效果坏了才判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
NOVA 的 architecture gradient 为什么不是普通反向传播梯度？
NOVA: A Verification-Aware Agent Harness for Architecture Evolution in Industrial Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：它汇总历史架构修改、诊断与指标，作为 agent 下一轮结构选择的反馈，属于研究控制信号，而非某个参数可微损失的导数。名称强调方向性，不能据此假设可以端到端对代码求梯度或保证每次修改提升。
教学例子：记录“上次加宽超预算、改门控验证退化”可影响下一提案，这像研究经验方向；它不是给 Python 源码每个字符计算一个真实导数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RaG 为什么用解耦 SID 连接推荐选择和内容生成，而不是把两者当成同一个输出任务？
Recommendation as Generation: Unifying Personalized Video Generation and Recommendation at Industrial Scale
问答新增：2026-10-27 · Kuaishou / Beihang University
展开答案与例子
答案：推荐需要在既有内容中找到合适对象，内容生成还要控制创作属性，两类信息若混在单一编码里会互相牵制。解耦 SID 为内容与创意因素提供接口，再以跨域奖励协调“推荐什么”和“怎样生成”。接口一致不代表已实现完整生成器；本地只验证离散接口，不能据此宣称视频生成质量或端到端业务收益。
教学例子：用户偏好露营教学，内容码表达露营主题，创意码控制镜头或呈现方式。推荐侧先判断主题是否合适，生成侧再按创意条件制作，二者共享接口而职责不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
RaG 本地仅实现 D-SID 时，哪些产物才能证明完整视频生成另已完成？
Recommendation as Generation: Unifying Personalized Video Generation and Recommendation at Industrial Scale
问答新增：2026-10-27 · Kuaishou / Beihang University
展开答案与例子
答案：需要真实生成模型与版本、条件输入、输出视频、训练或推理命令及质量评估，而非两个码向量和排序指标。接口测试只能说明内容与创作分量可传递，不能把未运行路径算实现。原论文线上收益也不能填补本地缺口。
教学例子：返回一对整数 content/creative 证明编码接口能调用，不等于生成了任何视频；把占位文件名当媒体产物更无法支持视觉效果声明。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
RaG 的跨域 reward 与只优化生成视觉质量，相比评价链路扩展到哪里？
Recommendation as Generation: Unifying Personalized Video Generation and Recommendation at Industrial Scale
问答新增：2026-10-27 · Kuaishou / Beihang University
展开答案与例子
答案：视觉质量只判断作品好不好看，跨域反馈还关注生成内容是否适合推荐用户，并协调候选选择与内容创建。奖励可能冲突或不可验证，不能由一个代理分数证明真实视频质量与个性化同时提升。来源本地只验证 D-SID 接口，未复刻生成器。
教学例子：画面精美的攀岩片对只想学轻松露营的人未必有用；推荐反馈要求主题契合，但仅关键词命中又无法判断视频是否真实可看。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RaG 的检索命中率能否单独评价新生成视频的质量？
Recommendation as Generation: Unifying Personalized Video Generation and Recommendation at Industrial Scale
问答新增：2026-10-27 · Kuaishou / Beihang University
展开答案与例子
答案：不能。检索指标检查既有候选是否符合目标，视频质量还涉及生成结果的视觉、事实与兴趣一致性，两个输出空间不同。D-SID 只提供衔接接口，不把检索正确自动转成制作成功。来源本地未复刻视频生成器，不能用排序数字填补这项证据。
教学例子：系统选对“露营教学”主题，却生成违反物理常识的画面，检索可命中、视频仍失败；反过来画面精美也不代表内容适合用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
TokenMinds 为什么同时输出稠密用户向量和代表未来兴趣的 SID 用户 token？
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：单个稠密向量容易压平多峰兴趣，纯文本画像又难与非文本物品和排序器对接。encoder 保留通用稠密接口，decoder 以物品 SID 空间生成多个未来兴趣前缀，使下游同时获得连续概况与可落到内容空间的离散兴趣。未来窗口采样降低紧邻下一步偏好，但这些目标只用于训练，不能进入在线历史。
教学例子：用户同时喜欢烘焙和摄影，稠密向量给出总体偏好，两个 SID 前缀分别指向相关内容簇。排序器可同时读取两种表示，而不必从一段模糊文本里再猜商品编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
本地TokenMinds是否执行了完整生产multi-context decoding？
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：没有，小GRU加SID heads只保留dual-output中心路径，未复刻Gemini规模、15目标、40beam或KV刷新服务。不能把双输出跑通说成场景共享prefill全部实现。
教学例子：例如同时有dense和码输出，不代表已支持多场景并行生成及百万读缓存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
未来24小时多目标与只预测下一次观看有什么差别？
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：多目标look-ahead降低紧邻偶然行为的支配，粗SID前缀又强调较广语义。训练可看未来目标作标签，但用户encoder输入仍截止当前，不能把未来行为作为历史。
教学例子：例如下一条误点不应完全覆盖当天其余稳定兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
TokenMinds为什么同时输出dense向量与SID用户token？
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：dense兼容既有排序特征，离散token落在内容语义空间表达多峰未来兴趣，两路共同供下游。它不是让LLM写自由文字画像，也不把用户压成单一SID。
教学例子：例如保留整体用户向量，同时生成几个代表不同未来兴趣的内容前缀。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
跨语言探索为什么不能用字符串多数票代替语义聚合，还要计入聚合成本？
Cross-Lingual Exploration for Parametric Knowledge
问答新增：2026-10-27 · The Hebrew University of Jerusalem
展开答案与例子
答案：不同语言路径可能用不同说法表达同一事实，字符串计数会把等义答案拆开，也可能把相似错误误并。原方法由语言模型进行多数与少数感知聚合，语义正确性及跨语言一致性另行判断。所有路径与聚合词元都属预算，本地只有文献记录，未实现语义模块。
教学例子：例如两条路径分别回答同一城市的不同语言名称，应先判断是否指同一实体；不能把拼写不同当分歧，再只计算最短一条路径成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
计算跨语言探索预算时，为什么不能只数各路径的生成 token？
Cross-Lingual Exploration for Parametric Knowledge
问答新增：2026-10-27 · The Hebrew University of Jerusalem
展开答案与例子
答案：文档预算还包含路径输入以及聚合模型token，完整实验也用模型进行语义正确性与一致性判断。漏掉聚合成本会失真；当前没有运行这些API流程，也不提供启发式替代模型。
教学例子：十条探索很短，但一次长上下文聚合仍可能消耗大量输入token。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
语义模型聚合与字符串 counter 多数票，为什么不能互相充当实现？
Cross-Lingual Exploration for Parametric Knowledge
问答新增：2026-10-27 · The Hebrew University of Jerusalem
展开答案与例子
答案：相同意思可有不同字面表达，相同字符串也可能语境不同；原文使用语言模型提示完成majority/minority-aware聚合及语义判定。字符串计数会替换定义性语义模块。
教学例子：“United States”与“USA”可能同义，纯字符串计数却会分成两个候选。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
跨语言探索为什么会对同一个知识问题走多条语言路径？
Cross-Lingual Exploration for Parametric Knowledge
问答新增：2026-10-27 · The Hebrew University of Jerusalem
展开答案与例子
答案：模型参数中的知识在不同语言表达下可能呈现不同可访问性，方法通过多语探索再聚合语义回答。它不是仅把同一个字符串翻译多遍，也不是多数票天然正确。
教学例子：不同语言路径给出不同表述，需要判断它们是否在语义上指向同一实体。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
CoBA-RL为什么同时看pass@1与较大采样预算的pass@k来定位能力边界？
CoBA-RL
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：单次成功率提高可能只是把已有正确轨迹变得常见，不一定获得原先完全采不到的新解法。多次采样用于探测边界，再在边界附近引入教师并用RL巩固。有限预算仍可能漏掉稀有解，本地仅到较小的采样规模，不能宣称复现原文高采样边界增量。
教学例子：例如原来偶尔能解的题变成经常解对，说明利用更好；若想判断是否学会原先从未解出的题，还需更广采样并计入教师成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
CoBA本地pass@8能否证明论文pass@256边界增量？
CoBA-RL
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：不能，教师规模、学生规模与采样预算不同。当前有真实生成、触发与成本曲线，但只支持缩小配置的机制证据，不能把较小k直接换标签当原规模。
教学例子：例如八次未成功不等于二百多次也不会成功，统计覆盖不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
边界课程与按固定题面难度排队有什么区别？
CoBA-RL
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：课程依据当前策略多次采样能力更新，固定题面不随掌握变化。有限k仍可能漏稀有正确路径，所以边界是预算条件估计，不能当绝对不可解证明。
教学例子：例如模型学会新技巧后，一道长题也可能不再位于边界。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
CoBA-RL为什么用pass@k探测边界再注入教师？
CoBA-RL
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：pass@1提高可能只是已有正确路径更常见，高采样覆盖帮助识别尚难达到的题。边界附近教师引导提供新路线，再用RL巩固，目标是兼顾利用与扩展。
教学例子：例如原来偶尔会的题更稳定，与原来反复采样都不会的题学会，是不同变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
G2Rec为什么允许一个item软归属多个兴趣prototype？
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：同一内容可被不同兴趣群体共同消费，硬分到单簇会抹掉跨兴趣联系。G2Rec利用全站共参与图学习软归属，再把由prototype组合成的兴趣token与item交替输入生成器，补充单个ID看不到的分布式上下文。图构造只能使用可见训练行为，否则兴趣结构本身也会泄漏测试关系。
教学例子：一段露营做饭视频同时属于户外与烹饪，两个软归属能影响后续预测；硬塞进单一标签会让模型难以解释另一群用户为什么也会喜欢它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
G2Rec 的 prototype 加权均值和交替序列，哪些边界需要检查？
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：每个 prototype 按物品软归属加权并除总权重，空或近空簇分母需明确处理；item 与 profile 的位置和因果 mask 要对齐，辅助目标不能读未来 item。来源本地是一正加九十九负评估，不能把该结果称为全库排名收益。
教学例子：物品甲后应接甲的 profile，错位接乙会泄漏或误教关系；即使 loss 正常下降，位置对不上也不代表实现了论文序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
G2Rec 的 soft modularity 与按固定品类分桶，相比如何形成兴趣群？
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：固定品类由外部 taxonomy 决定，soft modularity 根据共参与图优化软归属，允许一个物品跨群并扣除度数背景影响。它学习的是图社区结构，未必等同人类品类，也会受曝光图影响。图结构好不自动代表序列推荐提升。
教学例子：相机和旅行背包可能在同群，虽然商品品类不同；一本书又可部分属于另一群，软归属不强迫它只选一个目录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
G2Rec 为什么在 item token 之间插入 interest-profile token？
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：物品身份记忆具体对象，interest profile 将全站共参与图里的软兴趣关系显式接入序列，帮助模型连接分散在不同用户的结构。一个物品可属于多兴趣，交替输入让两类信息共同参与生成。profile 不是额外真实行为，不能把序列加长误读为用户消费了更多物品。
教学例子：一本摄影旅行书同时连接摄影与旅行簇，在书 token 后插入混合兴趣表示，下一步可利用两类关联而非只能记该书编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
JourneyFormer为什么把事件类型与时间编码进guest journey，而不只记录浏览过的房源？
JourneyFormer: Encoding Airbnb Guest Journey with Sequence Modeling
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：相同房源出现在搜索、浏览、收藏或预订阶段，表达的决策进展不同；时间间隔又区分同次旅行与较早计划。统一旅程序列让模型学习阶段之间的关联，兼顾长期偏好和短期出行需求。缓存与稀疏计算只减少成本，不能因此忽略每个请求当时可见的事件边界。
教学例子：用户去年收藏海边房源，今天连续搜索市中心并查看商务公寓；房源ID列表不够区分两次旅行，事件类型和时间能帮助识别当前行程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
JourneyFormer 缓存增量状态时，为什么 listing、event type、time 要同一版本？
JourneyFormer: Encoding Airbnb Guest Journey with Sequence Modeling
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：状态由三类信息共同形成，修改事件类型或时间编码会使旧缓存不再对应新输入。因果序列只可包含当时已发生事件，未来预订不能提前成为当前特征。本地未包含真实住宿库存和完整生产刷新系统，不能据代理延迟推断线上性能。
教学例子：把一次查看后改为已预订，原缓存仍将其当探索，会错误继续推荐；只刷新 listing 向量而不更新事件状态不够。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
统一长短 journey 与只看最近窗口，相比多保留什么又多承担什么？
JourneyFormer: Encoding Airbnb Guest Journey with Sequence Modeling
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：长历史保留稳定目的地与住宿偏好，短窗口反映当前旅行阶段；统一编码可能联系两者，却增加注意力与更新成本，需缓存和稀疏策略。旧旅行也可能过时，更多历史不自动更准，来源本地负结果只能限定代理任务。
教学例子：长期偏好家庭房但当前商务出差，需要同时保留稳定空间需求与新场景；只看最近可能忘长期偏好，全部旧史等权又可能干扰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
JourneyFormer 为什么编码 guest journey，而非只保留已浏览 listing 集合？
JourneyFormer: Encoding Airbnb Guest Journey with Sequence Modeling
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：搜索、查看、收藏和预订等事件代表旅程不同阶段，时间间隔也影响需求是否仍有效。类型与时间嵌入让同一房源在不同路径中有不同含义，长期短期共同建模。事件标注不等于因果解释，历史完成旅程也可能与当前需求不同。
教学例子：三个月前已预订的海边房源与今天刚收藏的城市公寓不该同等当作未满足需求；仅存房源集合会丢掉这种状态差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
STARE为什么同时看token surprisal和整体熵目标，而不一律强化意外token？
STARE
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：高surprisal位置可能对熵变化更敏感，但持续放大它们也可能让策略过度发散。STARE先按batch分位识别关键位置，再依据当前熵与目标熵的差异调节优势权重。意外程度不是正确性，门控旨在控制训练动态，不是把罕见词都标成好动作。
教学例子：同样一个低概率token，在策略过度确定时与已经过度随机时，可能需要不同调节方向；不能永远给它额外正权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
STARE关键位置为什么按batch分位数识别？
STARE
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：分位数按当前批分布定义相对关键性，与固定绝对惊讶度阈值不同。实现需固定有效词元mask和所用策略概率，排除padding；本地只验证重权与闭环核。
教学例子：例如padding的伪低概率若混进统计，会把关键分位数整个移位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
STARE目标熵闭环与固定熵奖励有何机制区别？
STARE
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：固定奖励持续朝同一熵方向推动，闭环依据当前熵与目标差距调节。它仍依赖目标设定与测量，不意味着熵越大越好，也不能由高惊讶度判定词元正确。
教学例子：例如熵已高于目标时，控制方向应与熵不足时不同，而非始终鼓励随机性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
STARE为什么关注surprisal关键词元而非平均强化整条轨迹？
STARE
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：轨迹优势相同地作用所有位置，可能在熵变化上产生不同效果。按惊讶度分位数找关键位置，再结合目标熵闭环调整权重，让更新关注分布状态而非只看终局结果。
教学例子：例如一处不确定分叉与常见标点即使共享优势，也不必承担相同探索作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
RankGraph-2 为什么先校正热门边再离线计算多跳 PPR，而不在线堆更深 GNN？
RankGraph-2: Lifecycle Co-Design for Billion-Node Graph Learning in Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：多跳传播能发现间接关系，但热门节点容易吸走大量概率，在线逐层图计算也昂贵。先按流行度校正转移，再离线求个性化 PageRank，可把去偏多跳关系预先写入表示；残差与聚类索引进一步压缩服务。校正改变传播偏好，并不保证消除全部曝光偏差，离线图也需随数据更新。
教学例子：所有用户都看过一部大片时，它可能把很多无关电影连在一起。降低通向热门节点的传播权重后，再计算多跳邻近，更有机会保留小众但相关的关联。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
流行度校正后为什么必须重新归一转移行再求 PPR？
RankGraph-2: Lifecycle Co-Design for Billion-Node Graph Learning in Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：除以热门度因子改变边权，若不归一为合法转移，概率质量会错误衰减或放大，PPR 方程意义改变。需检查孤立节点与回跳处理，残差/聚类索引再单独验收。校正是设计的去偏路径，不自动证明消除全部曝光偏差。
教学例子：一行原来和一，压热门边后只剩零点四，不归一便让每跳丢六成质量；这不是想要的“重新分配邻居偏好”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
离线 PPR 加压缩索引与在线深 GNN，相比成本与新鲜度如何交换？
RankGraph-2: Lifecycle Co-Design for Billion-Node Graph Learning in Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：离线将多跳计算摊到更新周期，服务查表或索引更轻，但对新增边和近期意图反应可能滞后；在线图模型更及时却每次付传播成本。不能把 PPR 迭代收敛速度直接当端到端吞吐，来源代理比较也非完整生产架构消融。
教学例子：昨天图上热门教程已预算好，今天新发布内容尚无连接；在线模型也许更快利用新边，离线方案则要等刷新，两者预算不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
RankGraph-2 的 PPR 为什么结合回到起点与多跳传播？
RankGraph-2: Lifecycle Co-Design for Billion-Node Graph Learning in Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：回跳保留查询种子个性化，多跳沿校正图扩展间接关系，避免仅一跳覆盖不足。热门边修正减少概率被大节点吸走。传播稳定不等于关系无偏，离线图还会过时，索引压缩也可能丢长尾路径。
教学例子：从一条摄影内容出发，经镜头与技巧节点找到教程，回跳让结果仍围绕原兴趣，而非走很多步后全跑到全站热门视频。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
PIANO 为什么同时提取查询相关历史兴趣，又用整张候选列表反向条件化单品预测？
PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：查询相关兴趣帮助模型从历史中选出当前搜索意图需要的部分；列表聚合节点则让单品 CTR/CVR 预测知道它处于怎样的候选集合中。前者解决用户历史与查询匹配，后者处理候选间的上下文关系。列表一变，条件化得分也可能变化，因此不能把它当作对每件商品独立、可任意跨列表复用的分数。
教学例子：用户平时买跑鞋，当前搜索登山鞋；先聚焦户外相关历史。同一双鞋放在全是高价专业鞋的列表中，与放在入门款列表中，选择概率也可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
PIANO 的列表 aggregation 在训练时如何避免 gold target 位置泄漏？
PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：候选集合可输入，但排序、特殊标识与聚合不能按真实点击把目标提前或标记；标签只进入损失。padding 与候选数量也需 mask，查询取历史只能用既往事件。否则 IAN 可能读目标位置捷径，而非学习真实竞争。
教学例子：每次把正确商品放第一列再算 attention，模型易记首列；测试若也照做会虚高，应保持与真实服务同义的无答案候选布局。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
PIANO 列表条件化与独立 pointwise CTR，相比缓存与评估单位有何变化？
PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：独立模型分数可在相同用户物品条件下复用，列表条件化还依赖整组候选，不能跨列表盲用缓存。更丰富上下文可能帮助竞争建模，也增加计算和候选分布敏感性。来源公开代理负结果不支持普遍优越结论。
教学例子：从十件候选删掉最便宜款后，其余预测可变；若复用删前分数，就没有让 IAN 反映新列表，和模型定义不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
PIANO 的 IAN 为什么读取整张候选列表？
PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：用户选择某项受同页替代与竞争影响，列表聚合为单品 CTR/CVR 提供当前可选环境；查询相关历史则提供用户需求。它把“谁和谁一起出现”纳入评分，和单品静态价值不同，列表变化后分数也可能变化。
教学例子：一双中价鞋在全是高价专业鞋的列表里显得实用，在入门低价列表里又不同；同一用户商品对的条件概率因此未必固定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
OneRank 为什么在统一序列里保留 task-private channel，并隔离其他任务对它的梯度？
OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：任务 token 能让共享主干感知要预测什么，但所有参数仍共享时，冲突目标会争夺同一表示。私有通道为每个任务保留专属容量，梯度隔离保证其他任务损失不会直接改写该部分。统一输入负责共享信息，私有通道负责差异；它控制冲突的路径，而不是假设不同任务的最优表示完全一致。
教学例子：点击任务偏重新颖，购买任务偏重可靠。两者共用商品与用户序列，但点击损失不能直接更新购买私有通道，让购买相关的细分特征不被另一目标覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
OneRank 怎样检查 Lj 不会更新别人的 φk，又不误冻全部共享 θ？
OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：对单一任务 loss 反传时，其他任务私有参数梯度应为零，本任务私有与允许共享参数仍可有梯度。只把整个 backbone detach 会失去共同学习；只断输出头又可能没隔离私有内部路径。参数组与任务身份需一一对应。
教学例子：只训练点击时，购买私有通道不变而共享字段层可更新；若共享层也全零，代码虽然安全隔离，却变成了另一种冻结适配方案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
OneRank 的 task-private channel 与 MMoE 的 task-specific gate，隔离对象有何不同？
OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：gate 决定如何混合共享专家，私有通道直接保留特定任务参数并限制其他任务梯度，保护路径不同。两者都可共享知识但不能互称完全独立。机制比较不支持普遍效果排序，来源公开代理也不能证明工业多任务负迁移已全解决。
教学例子：购买 gate 只调共享专家比例，专家仍受点击更新；购买私有通道则应不被点击 loss 改写，二者保护强度与容量位置不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
OneRank 的 task token 为什么进入统一编码，而不是只控制最后输出头？
OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
问答新增：2026-10-27 · Renmin University of China
展开答案与例子
答案：任务条件在层内参与特征解释，允许同一结构字段为不同目标形成不同上下文，减少 encoder 与 predictor 割裂。私有通道仍保留差异，统一不等于所有参数对全部任务共享。任务 token 存在本身也不保证模型实际使用它。
教学例子：购买任务可在中间层更关注预算，点击任务更关注新鲜感；若只最后换头，两者先前读到的是同一已压缩表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
EvoRec让Skill Evolver进化什么，为什么不只保存最终模型代码？
EvoRec: Self-Evolving Agentic Recommender Systems
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：模型参数和代码记录了本轮结果，却未必保留发现有效改动的条件与方法。Skill Evolver从持久实验记忆中总结可复用优化技能，供下一轮Research与Code Agent调用，使搜索过程本身也能改进。技能仍须经实际执行与验证，不能把事后写出的漂亮经验当成已经证明可泛化的优化规律。
教学例子：一次负采样改动只在长尾切片有效，保存技能时应记住适用条件与失败切片；下轮遇到不同数据时先验证，而不是直接照搬冠军代码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
EvoRec 写入 memory 为什么需要保留数据协议和失败条件？
EvoRec: Self-Evolving Agentic Recommender Systems
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：赢家名称不能解释是否适用，记忆需绑定候选、验证口径、观察指标与约束，失败也帮助避免重复。下一代复用应调用真实算子，注册一个 skill 标签不等于执行集成。本地三代结果只支持其具体候选空间。
教学例子：只写“内容塔更好”会误导所有场景；写清“同预算、稀疏历史验证下更好，长历史未验证”，才能有条件地指导下一轮。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
EvoRec 的技能记忆与固定 grid search，怎样改变后续探索？
EvoRec: Self-Evolving Agentic Recommender Systems
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：固定网格反复比较预列配置，技能记忆可调整优化方法、候选顺序和组合方向，复用过去反馈。若本地只在少数预设技能竞争，结论需限定有界控制流，不能称开放式发明算法。验证负责选择，test 不能参与迭代。
教学例子：网格每次照跑十组，技能库可先尝试前轮已发现有用的表示变换；但只有三个技能的实验不能证明能自动发现任意新网络。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
EvoRec 为什么不仅进化模型，还提炼优化 skill？
EvoRec: Self-Evolving Agentic Recommender Systems
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：最终代码没有保留哪些尝试有效、在哪些条件下有效，后续容易重复失败。Skill Evolver 从持久实验记忆总结方法，指导 Research/Code Agent 下一轮提案。技能是带证据的经验，不能当新数据上免验证的规则，历史成功也有范围。
教学例子：除了保存一套双塔，还记下“短历史时加强内容分支”的验证条件，下一轮据此思考，而不是盲抄所有旧参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
KPop为什么比较token与其余词表的双向binary KL，而不只判断ratio是否过大？
KPop
问答新增：2026-10-27 · Ling / Ring Team
展开答案与例子
答案：相同比率在不同基础概率下含义不同，二元分布同时考虑当前token及其补集，更能反映局部概率变化。正反KL还具有不对称性，因此两边都过关才保留更新。这个掩码检验训推概率一致性，不证明留下的动作正确或整个异步系统无偏。
教学例子：一个罕见词与一个常见词都出现相同比率偏移，仅看ratio会同等处理；加入其余词表概率后，几何差异才显现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
KPop的保留条件是两个KL同时小还是任一小？
KPop
问答新增：2026-10-27 · Ling / Ring Team
展开答案与例子
答案：必须正反两个binary KL均不超过阈值；用或条件会放宽算法。边界概率需稳定处理且不能混淆serving与training来源，本地没有真实训推引擎或MoE集群。
教学例子：例如只有训练到服务方向达标时仍应mask，不能因另一边通过就保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
双向binary KL门控与固定ratio mask有何差别？
KPop
问答新增：2026-10-27 · Ling / Ring Team
展开答案与例子
答案：双向KL根据概率水平自适应评估失配，固定ratio只看相对倍率。两个方向都需达标，因为KL不对称；这仍只是mask规则，不证明真实异步服务已同步。
教学例子：例如一个方向KL较小不代表反向也小，只检一边会放过另一类失配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
KPop为什么把一个token与其余词表看成二元分布？
KPop
问答新增：2026-10-27 · Ling / Ring Team
展开答案与例子
答案：仅比较采样词概率比可能忽视它在整体质量中的地位。二元表示同时约束该词与补集的概率变化，用正反KL衡量训练与服务失配，再决定是否保留更新。
教学例子：例如同样倍数的变化发生在罕见词或高概率词上，补集变化并不相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
MVEB 比较 video-only 与 audio+video 时，为什么必须使用同一组 clip？
MVEB: Massive Video Embedding Benchmark
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：否则性能差可能来自样本难度变化，而非音轨是否提供信息。配对同一视频后才能隔离模态增量；编码器保持冻结，各任务使用规定的探针或检索指标，并按模型声明处理帧数和音频。给不支持音频的模型补一个虚构分数会破坏比较。
教学例子：例如同一段敲门视频分别保留和移除声音；若换成另一段更简单的视频，就无法判断增益究竟来自哪里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地能否用一个余弦聚合函数宣称已接入 MVEB 全部任务？
MVEB: Massive Video Embedding Benchmark
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：不能。各任务使用官方规定的 evaluator，如检索 nDCG@10、聚类 V-measure、每类八样本逻辑回归和候选问答准确率，并有模态及采样约束。当前 README 只有资料与成本核查，没有模型调用或正式指标，通用字段检查不能替代任务接口。
教学例子：例如检索结果必须按相关性标签算 nDCG，不能把平均余弦值改名为 MVEB 分数，也不能声称其等于问答准确率。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
统一把所有视频模型设为 64 帧，是否比遵循各自配置更公平？
MVEB: Massive Video Embedding Benchmark
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：不一定。MVEB 对可变长模型使用 2fps 且最多 64 帧，对固定帧模型遵循其训练配置；强行统一可能偏离模型有效输入范围。公平还要求视频与音视频版本使用同一 clip，不能给不支持音频的模型虚构音视频结果。
教学例子：例如一个固定八帧模型不应被硬塞六十四帧，再把失败解释为表示质量差；音视频对比也必须保持片段相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
MVEB 的视频问答评测为什么仍属于 embedding 评测？
MVEB: Massive Video Embedding Benchmark
问答新增：2026-10-27 · Harvard University
展开答案与例子
答案：其 VCQA 把候选回答放入检索池，用视频与候选表示的匹配选择答案，统计候选池准确率，并非让生成模型自由回答。评测时冻结 embedding 模型，分类等任务也使用指定探针，因此不同任务的输出形式与指标不能混成同一种生成正确率。
教学例子：例如四个候选动作描述都已给定，模型选出最相似的一项；这与自由生成动作名称后再做语言评审是不同协议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
MSA先选block再做精确attention，省掉的是哪一步，保留的又是什么？
MiniMax Sparse Attention
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：轻量索引分支先用较便宜的块级匹配缩小历史范围，主注意力仅对命中块内的token计算精确权重。因此不是把所有token都换成一个块均值；块摘要用于筛选，细粒度交互仍在被选区域发生。若索引漏掉答案所在块，后续精确attention也无法弥补。
教学例子：十页文档先选两页，再逐字寻找日期。省下的是其他八页的主注意力计算；若索引先删掉唯一包含日期的一页，细读剩余页面也找不到答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
MSA 的 attention pair ratio 降低，为什么不能直接报告同幅度的加速？
MiniMax Sparse Attention
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：实际时间还包括索引、块选择、数据搬运以及所用kernel。文档中的未融合PyTorch/MPS路径虽然减少pair，耗时却更高；应分别报告pair比例、PPL与实测时间。
教学例子：理论上少读八成配对，但额外索引和执行方式可能让一次训练反而更慢。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
MSA 的索引分支与直接缩小主 attention 的 KV，承担的是同一种任务吗？
MiniMax Sparse Attention
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：索引分支负责决定哪些历史块值得读取，主分支仍以自身Q/K/V进行精确attention。直接压缩KV会改变被聚合的内容表示；预选与内容压缩是不同的近似位置。
教学例子：选择原文的两段来读，和把全文先压成两段摘要再读，保留的证据可能不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
MSA 中的历史 block 是新的模型层，还是沿 token 轴组织的候选单元？
MiniMax Sparse Attention
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：block用于把历史token组织成索引候选，轻量分支先选block，主分支再读取其中token；它不是额外Transformer层。理解两个粒度才能区分块选择成本与精确attention成本。
教学例子：先在目录选章节，再精读该章句子，章节与句子是不同读取粒度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
把跨域行为先变成原子意图并缓存，为什么不等同于直接缓存一个用户向量？
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：原子意图保留可检索的层级证据，在线还能按目标商品选择相关意图链，而一个固定用户向量往往已把不同需求揉在一起。昂贵推理离线完成，候选条件化检索与聚合在线执行，兼顾复用和针对性。本地代理评分没有验证完整LLM意图生成链路，不能由其指标推断线上推理质量。
教学例子：一次观看可以留下户外、露营、轻便装备等层级意图；推荐帐篷时取露营链，推荐通勤包时取轻便需求，而不必重跑整段LLM历史推理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
实现 Atomic Intent 的时间与频率权重时，为什么要把意图提取和在线聚合分别验收？
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：频次对数与时间衰减只是证据加权，不能替代离线语言模型实际提取层级意图；相似度检索和多头聚合也应使用已缓存链条。若本地只有确定性代理分数，应明确其范围，不能因公式可执行就声称完成原文大模型解析。
教学例子：把十次浏览按时间加权能够生成一个数，却没有自动解释“旅行轻量化”意图；先检查缓存内容，再检查在线如何选择，才能定位两层误差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Atomic Intent 的目标条件检索与一次性生成静态文本画像，有什么更新与使用差别？
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：静态画像将多种需求压进一段固定摘要，每次候选只能读取同一份概况；原子链保留可索引片段，新增行为可增量补充，候选按需取不同证据。代价是离线解析、存储和检索维护，若索引漏取关键意图，下游聚合也无法恢复。
教学例子：鞋候选检索运动需求，相机候选检索旅行拍摄需求；固定画像若只剩“爱户外”，两种候选难以获得各自具体的历史理由。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Atomic Intent 为什么把单次行为拆成层级意图，而不只给它一个宽泛品类标签？
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
问答新增：2026-10-27 · The Hong Kong Polytechnic University
展开答案与例子
答案：宽泛类别保留“看了什么”，层级原子意图还尝试表达用途和需求结构，方便跨域行为在共享意图上连接。离线生成后保留细粒度可缓存单位，在线目标商品再检索相关链条。语义解释仍可能出错，不能把模型推断意图当作用户明确声明。
教学例子：浏览相机既可能为了旅行轻便，也可能为了棚拍画质。都写“摄影”会混在一起，细分意图后才能给轻便背包或专业灯具提供不同证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
ToolRec 为什么同时校准用户偏好与系统工具频率，而不只奖励触发工具？
ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：只奖励工具调用容易让模型对不相关请求也强行调用，单看用户侧偏好又可能忽略工具在系统中的供需失衡。双侧校准分别约束用户相关性与工具频率，动态系统权重调节偏好目标，让适合的查询更易触发工具。频率是治理信号而非质量本身，必须同时检查上下文相关性是否下降。
教学例子：用户问实时航班时适合查工具，问概念定义时未必需要。即使某工具使用率偏低，也不能为了拉高频次让所有问题都调用它，用户侧校准应约束这种倾向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
ToolRec本地MovieLens代理是否真实执行工具？
ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：没有真实工具query或私有session，仅验证校准目标和打分路径。频率统计需来自训练允许窗口并固定版本，不能用测试未来调用率调权重。
教学例子：例如电影类别频率不是实际API成本或工具服务负载。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
工具频率动态权重与固定正负样本比例有什么差别？
ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：动态权重随系统使用统计变化，固定比例不感知当前分布。频率也不是用户效用，不能为多调用工具牺牲上下文相关性后仍只报触发率提升。
教学例子：例如低频工具被增加机会，仍须判断它是否适合这次用户请求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
ToolRec的工具频率信号，表示工具调用越多就越好吗？
ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
问答新增：2026-10-27 · Huazhong University of Science and Technology
展开答案与例子
答案：不是。频率是系统侧校准信息，与用户请求是否适合触发某工具是不同轴。它用于调节供需或使用分布，不能替代上下文相关性，也不是每次调用成功的质量标签。先区分频率与效用，才能读懂双侧目标为什么不能只报触发率。
教学例子：某工具调用很少，增加频率也不能使无关问题适合它；调用率上升应与用户相关性一起检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SSRLive 为什么同时保留主播静态 SID 与直播动态 SID，而不持续覆盖同一份语义码？
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：静态 SID 表达主播长期内容，动态 SID 描述当前直播状态，两者时间尺度不同。分开保留能让模型区分稳定定位与临时变化，再结合用户—主播互动做多任务预测；若只覆盖同一份码，短期话题可能抹去长期信息，旧状态也易误当实况。动态码仍受提取与更新延迟限制，不能保证实时完全准确。
教学例子：主播长期做美妆，今天临时讲旅行收纳。静态码保留美妆受众基础，动态码说明当前主题，让模型决定此刻更适合推给哪类用户，而不是永久改写主播身份。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SSRLive本地MovieLens能支持哪些结论？
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：只验证静动态表示与交互的中心计算，缺少真实直播帧、交易与多任务生产日志。各任务标签和时间快照需隔离，不能用目标结果反推当前动态ID。
教学例子：例如把下一次评分塞进动态特征，会提前泄露待预测行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
动态SID与给静态embedding简单加时间戳有什么差别？
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：动态码旨在表达内容状态变化，时间戳只表示时刻，不必包含具体内容。若没有真实状态生成，不能因多一列时间就声称完成动态语义建模。
教学例子：例如知道晚上八点，不等于知道直播正在演示哪款商品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SSRLive为什么分静态与动态语义ID？
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
问答新增：2026-10-27 · Taobao & Tmall Group, Alibaba
展开答案与例子
答案：主播长期风格与当前直播内容变化速度不同，一套固定码难同时表达。两种码和用户主播交互融合，支持观看交易互动等多任务，仍需实时内容更新可靠。
教学例子：例如主播通常讲数码，但此刻在户外旅行，长期与当前语义应可区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
OPDLM为什么要沿双向学生自己的解码轨迹蒸馏，而不只用随机mask复刻AR教师？
OPDLM
问答新增：2026-10-27 · Texas A&M University
展开答案与例子
答案：随机mask训练状态与confidence decoding实际访问状态不同，直接改注意力还可能遗忘原知识。让学生按自身解码过程产生状态，再由冻结AR教师提供对应目标，可减少这类状态错配。教师仍按自己的因果条件评分，不能把不同可见信息的分布随意逐位等同。
教学例子：学生推理时先填高置信位置，训练却总随机遮词；两种顺序会形成不同上下文，蒸馏需要面对实际解码状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
OPDLM损失应在哪些位置计算，教师是否更新？
OPDLM
问答新增：2026-10-27 · Texas A&M University
展开答案与例子
答案：针对规定mask或待监督位置，冻结AR教师，并按学生实际轨迹对齐target logits。当前本地公共mini-suite并未完整改造并训练真实双向语言模型。
教学例子：例如已确定位置与待填位置混在一起全算，会改变去噪监督定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
AR教师与双向学生在同一位置看到的信息完全一样吗？
OPDLM
问答新增：2026-10-27 · Texas A&M University
展开答案与例子
答案：不一样，AR按因果前缀评分，学生按当前可见非mask内容去噪。蒸馏需明确各自条件和位置对应，不能把条件差当作模型本身质量差。
教学例子：例如学生可能看到右侧已揭示词，教师仍只根据该词左侧因果历史评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
OPDLM为什么在扩散学生自身解码轨迹上蒸馏AR教师？
OPDLM
问答新增：2026-10-27 · Texas A&M University
展开答案与例子
答案：从因果模型改成双向去噪后可能遗忘，随机mask训练也未必覆盖confidence decoding状态。学生实际轨迹让教师指导对应推理时会访问的状态，减少分布偏移。
教学例子：例如模型逐步揭示的顺序不同于随机mask，训练应看到真实揭示状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
TAIJI 为什么动态平衡语义奖励和协同 ID 奖励，而不使用一组固定权重？
Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：语义奖励衡量内容与解释的契合，协同奖励反映行为关系，不同样本可能需要不同取舍。固定加权只搜索有限方向，尤其可能遗漏非凸前沿上的有用方案；动态权重试图适配这些差异。反向偏好推理和拒绝采样先激活推荐推理，再做多目标对齐，但动态权重仍不能保证识别真实用户最优偏好。
教学例子：冷门新品缺乏行为反馈时多借语义，热门商品有充分交互时可更依赖协同信号。若所有样本都用七比三，可能同时不适合这两类物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
Taiji拒绝采样和权重学习需要怎样隔离数据？
Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：只用训练允许的偏好推理与验证信号筛候选，测试反馈不能选择CoT或目标权重。当前MovieLens代理未复刻真实LLM、私有协同码和生产服务。
教学例子：例如看完测试点击再挑一条能解释它的CoT，会泄露目标行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
动态Pareto权重与固定线性加权有什么区别？
Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：固定权重只覆盖一定取舍，非凸前沿可能遗漏；动态权重试图适应样本或阶段。但没有真实多目标对照时，不能声称已找到全局Pareto最优。
教学例子：例如某用户更看重语义新颖，另一用户更依赖稳定行为证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
Taiji为什么同时用语义奖励和协同ID奖励？
Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：语言语义能解释内容，协同ID反映平台行为偏好，两者可能冲突。先激活推荐CoT，再动态平衡目标，避免单一语言偏好脱离真实交互。
教学例子：例如描述相似物品不一定被同类用户共同喜欢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
POLARIS HRI为什么用策略样本计算均值方差，并让参考答案优势逐步加入？
POLARIS: Guiding Small Models to Write Long Stories
问答新增：2026-10-27 · University of Maryland
展开答案与例子
答案：参考故事是额外锚点，若纳入策略组的均值方差，会同时改变所有策略样本的优势尺度。方法只用策略奖励计算统计量，再逐步放大参考样本的相对优势，起始步权重为零。参考与策略使用同一评价准则；本地组件验证不代表完整故事训练已复现。
教学例子：例如五条策略故事决定组内基线，第六条参考故事只据此计算自己的优势；不能先把参考混入均值，再声称只增加一条监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
POLARIS如何避免ratio溢出但仍保持原clipped目标？
POLARIS: Guiding Small Models to Write Long Stories
问答新增：2026-10-27 · University of Maryland
展开答案与例子
答案：先按优势符号在log-ratio域选精确分支，再指数化，padding与零优势先清理；不额外clamp目标。完整实验本地因成本过高未复现，小张量梯度通过不是长故事能力。
教学例子：例如本该走已封顶分支时，不必先计算一个巨大exp再取min。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
参考渐进注入与一开始等权混入有什么差别？
POLARIS: Guiding Small Models to Write Long Stories
问答新增：2026-10-27 · University of Maryland
展开答案与例子
答案：前期参考权重从零升起，避免骤然主导策略；均值方差仍只来自策略故事。等权混入既改变阶段强度，也可能改变全组baseline，两种设定不能互称。
教学例子：例如第零步参考优势必须为零，而不是已有固定大权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
POLARIS为什么在策略故事外加入teacher-forced参考故事？
POLARIS: Guiding Small Models to Write Long Stories
问答新增：2026-10-27 · University of Maryland
展开答案与例子
答案：长故事终局评价稀疏，参考提供高质量锚点，与策略样本使用同一外部rubric。它是训练额外监督，不是把版权故事或答案提供给评测生成模型。
教学例子：例如学生自己写几篇，再学习一篇参考如何展开，但独立测试仍须自主写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
SCALR 为什么把跨域迁移变成合成事件，并随机采样目标物品而不是总取 top-k？
Synthetic Data from Cross-Domain Events for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：迁移逻辑若写进特定网络，换模型就要重做。SCALR 根据重叠用户估计源事件到目标物品的条件分布，再采样合成目标域事件，供不同下游模型像普通数据一样训练。随机采样保留分布中的长尾机会，避免确定性 top-k 反复复制头部；但合成事件仍是统计迁移，不能冒充实际发生的用户行为。
教学例子：源域一次旅行浏览对应多个可能的目标域商品。总取最高概率会反复生成行李箱；按分布采样还可能生成转接头或旅行收纳，使训练数据保留更多可能需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
SCALR估计P(target|source)需要怎样的数据隔离？
Synthetic Data from Cross-Domain Events for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：基于训练重叠用户共现，不用测试目标事件估转换表；零分母及无覆盖需处理。当前genre代理不是Meta跨产品或真实conversion，不能报告线上CVR。
教学例子：例如先读测试购买再估翻译概率，会让合成事件暗含未来答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
SCALR的数据层迁移，与为每个下游模型分别加跨域网络模块有什么不同？
Synthetic Data from Cross-Domain Events for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：数据层方案先把迁移结果写成目标格式事件，下游可沿普通数据接口训练；模型层方案把跨域逻辑绑定到特定结构。前者便于复用，却仍受合成分布质量限制，不能因接口统一就认定对所有排序器效果相同。
教学例子：同一批合成事件可交给不同目标模型；若迁移只存在于某种专用注意力层，换模型就需重新接入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
SCALR翻译出的target事件，表示用户真的在目标域发生过该行为吗？
Synthetic Data from Cross-Domain Events for Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：不表示。它根据源域事件与条件分布采样出合成目标域训练记录，目的是让下游模型获得可使用的迁移数据。必须保留合成身份与权重，不能把这些记录混写成真实曝光、点击或转化日志；统计迁移不等于观测事实。
教学例子：源域看过甲后，系统合成目标域乙的训练事件；这不是在审计日志中声称该用户真的点击过乙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
XLGoBench有确定性算法答案，为什么本地小实例通过仍不能证明跨语言能力差距？
XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：算法评分可排除主观评审差异，任务复杂度与语言变化仍需真实模型在经过验证的翻译上生成结果。局部生成器只覆盖指定结构范围，不能冒充全噪声或全难度矩阵。金标只在评分端计算，预测回调只接收公开题目；本地五任务诊断没有跨语言准确率证据。
教学例子：例如同一图问题可由算法核验最短路，但用中文和另一语言描述是否同义还需审核；只让内部求解器答对一张小图，并未测到语言影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
XLGoBench 的 Pr-DSA top8 评分为什么既忽略顺序又拒绝重复？
XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：目标是完整概率传播得到的top8集合，集合内部顺序不重要，但重复会减少实际覆盖项数，不能以列表长度8掩盖缺项。其它任务也按完整JSON合同评价，不用部分匹配凑通过。
教学例子：[A,A,B,...]虽有八个条目，实际不同状态不足八个，应被拒绝。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
算法 scorer 的正确性，与模型跨语言泛化结果是同一份证据吗？
XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：不是。scorer正确说明给定预测可被按约定评价；泛化比较还需要各语言真实输入、模型输出、复杂度扫描与统计。小实例通过不能替代完整七语矩阵或人工校验翻译。
教学例子：最短路程序能算对12节点题，不说明某语言的LLM也能稳定答对它。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
XLGoBench 为什么用有确定性算法答案的任务测跨语言差距？
XLGoBench: Detecting cross-lingual skill gaps with algorithmic tasks
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：受控算法问题可明确难度结构和正确答案，减少开放生成judge的歧义，再在不同语言表达下比较模型表现。它仍需真正运行模型和验证语言版本，不能只凭scorer存在就报告能力。
教学例子：同一状态转移题换语言表达后，答案仍可由同一确定算法计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Rec-Distill 为什么先校正 teacher 的采样概率空间，还把蒸馏放在 aux tower 而非线上 main tower？
Rec-Distill: An Industrial Distillation Pipeline for Large-Scale Recommendation Models
问答新增：2026-10-27 · ByteDance / Douyin / TikTok
展开答案与例子
答案：teacher 与 student 的采样方式不同，原始 logit 对应的概率含义可能不一致，直接拟合会把采样偏差也传过去。先按 student 口径校正，再让辅助塔接收任务与蒸馏损失，共享主干迁移知识；主塔只接真实标签并负责服务。这样控制蒸馏对输出校准的干扰，但教师质量与时效仍限制迁移收益。
教学例子：教师训练时更强地下采样负例，其分数不能直接当学生的真实点击概率。校正后让辅助头学习软信号，线上主头继续由真实标签约束，避免照搬错误的概率尺度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
Rec-Distill 的 transferability 分母很小时，为什么应连 raw student 与 teacher 一起报告？
Rec-Distill: An Industrial Distillation Pipeline for Large-Scale Recommendation Models
问答新增：2026-10-27 · ByteDance / Douyin / TikTok
展开答案与例子
答案：η 比较学生蒸馏增量占教师可提供增益比例，分母接近零时极不稳定，单比率会夸大波动。teacher 不是线上基线，所有臂训练日程与候选需匹配。来源负 transferability 应如实保留，不能用较低 head share 改称有效迁移。
教学例子：教师只比学生高极小量，学生微小变化就给很大比率；同时展示三个原始指标，才能看清这不是大量知识成功传递。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
main/aux 双塔蒸馏与直接让线上 main 拟合教师，相比保护哪类输出？
Rec-Distill: An Industrial Distillation Pipeline for Large-Scale Recommendation Models
问答新增：2026-10-27 · ByteDance / Douyin / TikTok
展开答案与例子
答案：main 只受真实标签约束保持服务目标，aux 同时接任务与蒸馏，两者经共享 backbone 间接迁知识，减少教师采样偏差直接改输出校准。共享仍有间接影响，不是彻底隔离。来源 teacher 强而 student 迁移为负，不能以大教师存在保证成功。
教学例子：教师因采样分数偏高，aux 可学相对知识，main 继续看真实点击；直接让 main 硬拟合未校正概率更可能复制错误基准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
Rec-Distill 为什么让 teacher 写黑盒 logits 异步服务多个 student？
Rec-Distill: An Industrial Distillation Pipeline for Large-Scale Recommendation Models
问答新增：2026-10-27 · ByteDance / Douyin / TikTok
展开答案与例子
答案：大教师不适合每个学生请求实时运行，训练前向顺带产出信号可复用，学生按自己时间表消费。数据采样与时效不同仍会造成概率错位，需校正而非直接拷贝。黑盒接口减少耦合，也限制学生取得教师中间表示。
教学例子：教师一次给一批候选输出分数，两种小模型可各自训练；它们无需同进程跑大教师，但必须知道这些分数来自什么样本与版本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么数学形式化工作者要独立 worktree，并经合并队列后再核对全局目标？
Formalizing Mathematics at Scale
问答新增：2026-10-27 · FAIR at Meta / CERMICS, ENPC, Institut Polytechnique de Paris
展开答案与例子
答案：独立工作区减少并发文件冲突，依赖 DAG 指定可先形式化哪些声明，合并审查维护共享库一致性。局部 Lean 通过不保证所有教材目标都已覆盖，监督者还要对照全局进度重规划；失败经验可沉淀技能，但不能因分支存在就认定证明已合入。
教学例子：例如两个工作者各证明一个引理，分别通过后仍需检查名称冲突及主定理依赖；不能把两个孤立文件当成完整教材已形式化。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地是否运行了教材级 Lean 多 Agent 或只保留协议？
Formalizing Mathematics at Scale
问答新增：2026-10-27 · FAIR at Meta / CERMICS, ENPC, Institut Polytechnique de Paris
展开答案与例子
答案：本地仅收录原文方法、依赖和成本，未启动 Lean 任务、付费调用、训练或 GPU 验证。原文每书多天及巨量 token 不能用简单 DAG 状态机替代后宣传完整复现，四万多声明也是作者结果且各书并非全部完成。
教学例子：例如一个任务队列显示四十目标已调度，不意味着四十个 Lean 证明已经编译和忠实性审查通过。
依据：本地复现与成本决策；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
机械编译与独立忠实性审查为什么不能只留前者？
Formalizing Mathematics at Scale
问答新增：2026-10-27 · FAIR at Meta / CERMICS, ENPC, Institut Polytechnique de Paris
展开答案与例子
答案：Lean 核检查的是形式命题证明，非法新 axiom、sorry、削弱命题或隐藏依赖可绕过原任务。编译必要但不充分，还需核对自然语言声明、依赖和独立评审；不能用调度任务全部完成替代数学忠实性。
教学例子：例如把“所有自然数”改成“零”后很容易证明，代码可编译却不再形式化原定理，审查必须发现这种削弱。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
把整本教材的数学声明形式化，为什么不等于逐条独立翻译成 Lean？
Formalizing Mathematics at Scale
问答新增：2026-10-27 · FAIR at Meta / CERMICS, ENPC, Institut Polytechnique de Paris
展开答案与例子
答案：后续定理依赖先前定义和引理，翻译时还要维护共享仓库、编译状态和原意一致性。AutoFormBot 研究多个工作者如何在这种依赖网络中持续推进，并让局部产物能合并成全局目标。编译通过只说明形式系统接受，仍需检查是否忠实表达教材命题。
教学例子：教学例：一个工作者改了基础定义，其他人的证明可能全部失效；即使各自分支曾编译通过，也必须合并后重新核对。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
Pinterest Ads LLM 为什么只预测辅助 advertiser 与兴趣，而不接管实时广告排序？
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：大模型汇总画像与跨来源行为后，离线预测高转化意图的 advertiser 和兴趣，再作为补充召回通道及转化率特征输入现有链路。SFT 学下一 advertiser，GRPO 用命中位置和输出长度奖励调整列表。每日批推理把成本移出请求路径，因此它改善的是现有系统的辅助信息，不等于端到端替代召回和排序。
教学例子：模型夜间预测某用户可能关注露营品牌，次日广告链路多一条相关召回和兴趣特征；是否展示某条广告，仍由实时转化模型和竞价规则共同决定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
严格输出长度 reward 与命中位置 reward，为什么需要同时验收？
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：命中位置鼓励正确 advertiser 靠前，长度罚防止模型通过输出过多名称增加碰中机会。解析去重、advertiser 与兴趣分别计数，缩比五项规则也需明确。验证选择 SFT 或 quota 零应保留，不能看 test mean rank 再改选。
教学例子：要求五个品牌却输出五十个，即使包含真目标也违规；只看命中会奖励这种投机，长度项使输出预算成为训练目标的一部分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
SFT+GRPO 对 SFT 的比较与 LLM feature 对 two-tower 的比较，为什么应分开？
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：前者检验 advertiser 生成后训练增量，后者检验将预测接入下游的价值，两者基线和指标不同。来源 GRPO 没提高 Recall，特征 AUC 有小改善，补充召回 quota 又选零，不能拼成“LLM 所有阶段都有效”。
教学例子：生成器没变准，但一个 log-prob 特征可能帮助点击判断；这不意味着更多品牌候选值得加入，也不能把 AUC 增量说成生成 Recall 增量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
Pinterest Ads LLM 同时输出 advertiser 与兴趣，这两个粒度是不是一一对应？
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：不是。advertiser 指向具体广告主，兴趣概括用户可能关心的主题，多个广告主可服务同一兴趣，一个广告主也可覆盖多种主题。两类输出能提供不同召回与特征线索，不能将兴趣名称直接当广告主 ID，更不能把任一预测当成已经发生的转化。
教学例子：露营兴趣可关联多个户外广告主，同一百货广告主又覆盖露营与家居；把“露营”替换成某一家品牌，会无端缩小可用候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
原始—对偶解码为什么要随剩余约束动态调整乘子，而不是固定加一个多样性分？
Stochastic Primal-Dual Decoding for Multiobjective Generative Recommender Systems
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：固定权重无法根据已经生成的内容判断约束是否快要违约。原始—对偶解码在每个位置组合模型分数与辅助目标贡献，并按当前约束松弛量更新乘子，使后续选择补偿前面决策。不需要重训生成器，但只能在可选候选与局部解码范围内权衡，也可能牺牲相关性；并非所有硬约束都能自动满足。
教学例子：一张五条列表希望至少两条来自新作者。前四条只选到一条时，最后一步应提高新作者贡献权重；若早已满足，则无需继续用同样强度挤压相关性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
镜像下降更新为什么要求乘子非负，并注意指数数值范围？
Stochastic Primal-Dual Decoding for Multiobjective Generative Recommender Systems
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：非负乘子对应约束惩罚方向，乘法指数更新在正初始化下保持符号，但过大步长可能溢出或迅速极端化。辅助贡献、目标 R/K 与分数单位也需一致。来源公式简写概率与 logit 时要遵循真实实现口径，不能任意互换。
教学例子：把观看秒数直接与概率混加可能让辅助项完全支配；指数连续放大后即使程序没报错，也可能只追配额而忽略用户相关性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
原始—对偶解码的软目标与硬合法性约束，能否互相替代？
Stochastic Primal-Dual Decoding for Multiobjective Generative Recommender Systems
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：不能。乘子调整使某类贡献更受偏好，但非法库存或目录外对象需要明确排除；若可行候选本来不足，增大乘子也无法创造合法结果。软优化负责取舍，硬约束定义能选什么。来源未提供任意约束必达保证，不能把较高加权分写成严格满足。
教学例子：希望多推荐新作者可用软目标；已经下架的物品则应屏蔽，不能仅给它扣分后仍允许胜出，声称对偶更新已保证合法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
原始—对偶解码为什么可以不重训生成器？
Stochastic Primal-Dual Decoding for Multiobjective Generative Recommender Systems
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：它在服务搜索时将原相关性分和辅助目标贡献结合，再动态调整乘子，改变每步选项而不更新模型权重。收益依赖候选与分数质量，不创造生成器未提供的知识；运行策略变了，成本、相关性损失和约束达成仍需分别测。
教学例子：原模型分数不动，解码逐步提高缺少新作者时的奖励权重；这是一种搜索控制，不是模型经过新数据学会偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
MuChaToR 为什么在音乐领域预训练和指令学习之外，还要优化意图、探索与对话奖励？
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：领域预训练主要补音乐知识，指令学习教模型按示例回答，却未必让它处理即时偏好和探索之间的取舍。强化学习把意图满足、新发现与对话质量转成行为反馈，并用参考策略约束更新。模型因此有机会学会何时沿用熟悉风格、何时主动探索；本地代理排序结果不能当作真实音乐对话效果。
教学例子：用户说“通勤想听轻松点，但别总是老歌”。只模仿历史可能继续推熟悉艺人，奖励设计则让模型同时顾及轻松氛围和适度的新艺人发现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MuChaToR 本地 MovieLens 排序结果为什么不能验证音乐继续预训与对话 RL？
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：公开代理没有真实音乐知识语料、轮次对话和对应奖励环境，固定候选 NDCG 只反映实际核心评分路径。要声称对话训练需展示参数更新与合法任务日志，不能借论文术语补齐缺失。来源负结果应保留而非替换成原文业务值。
教学例子：把电影 genre 当音乐兴趣可以做接口示意，却不能证明模型懂和声、能澄清歌单需求；即使命中变好也不等于对话发现能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MuChaToR 的 discovery reward 与只奖励意图匹配，有何可能冲突？
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：完全贴近历史意图可能不给新体验，发现奖励鼓励扩展，但过强又可能推不相关内容；对话质量也可能偏向好听解释。多目标与 KL 尝试平衡，不能把其中任一奖励升高当总体满意提升。电影代理不包含真实音乐对话反应。
教学例子：推荐全新实验音乐很新颖却不适合轻松通勤，熟悉流行歌很契合却没有发现；两者取舍需要反馈，不是简单越新越好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MuChaToR 为什么把音乐推荐放进对话而非只做历史下一首？
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：用户即时表达包含心情、场景和探索意愿，可能与长期播放记录不同，对话可澄清这些需求并组织发现。领域预训提供音乐知识，SFT 与 RL 再连接交互。模型能聊音乐不意味着推荐实际合口味，仍需专门评价与合法曲库映射。
教学例子：用户说“通勤轻松一点但别全是老歌”，下一首历史模型可能重复熟悉艺人，对话目标则要同时满足氛围与适度探索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
L2Rec为什么为语义视图和行为视图分别配置用户路由的LoRA专家？
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：语义与协同行为可能互补也可能冲突，共用一套适配参数容易让强信号覆盖另一种。双视图低秩专家分别学习各自更新方向，用户路由再选择合适组合，跨视图gate决定最终融合。参数高效不代表无需足够监督；若路由总选同一专家，仍可能退化成没有分工的共享适配器。
教学例子：新用户主要靠内容语义，老用户可借丰富共同行为；两个视图分别保留能力后按用户组合，比一套LoRA强行同时解释所有场景更有弹性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
L2Rec 的 BA 低秩增量与 Top-K gate，哪些轴和参数需要分开？
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：每个视图每个专家有独立 A、B，先形成与原权重同形增量，再按用户 gate 加权；路由只在专家维选择，跨视图融合另行处理。语义与行为状态错配不能由形状检查发现。本地代理分数不代表完整 LLM 专家路径都被训练。
教学例子：语义专家的 A 不能误配行为专家的 B，虽然尺寸一样也会形成另一映射；Top-K 在用户轴选人更是不同算法。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
按用户路由 LoRA-MoE 与一份全局 LoRA，相比参数共享发生什么变化？
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：全局 LoRA 对所有用户使用同一低秩增量，MoE 从共享专家池按用户挑不同组合，增加条件容量而不为每个人存全量模型。路由会带来稀疏训练与专家饥饿问题，不能只按总参数量判断有效容量或推荐效果。
教学例子：摄影用户和烘焙用户可使用不同专家比例，但仍共享其中通用部分；若路由总选同一个专家，表面多专家也退化近似全局 LoRA。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
L2Rec 为什么在共享 LLM 内区分语义视图与行为视图的 LoRA 专家？
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：文本含义与协同消费关系不完全一致，单一适配可能让一侧占主导。双视图专家分别更新低秩路径，再按用户路由和跨视图 gate 组合，保留共用主干与不同任务几何。多专家不是每用户独立模型，个性化程度受路由与数据支持限制。
教学例子：用户既喜欢题材语义又有特定共同消费习惯，语义专家理解“悬疑”，行为专家利用该用户群偏好；两者不必输出同一方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
去掉所有与曝光策略相关的信息，为什么不一定能得到好的因果推荐表征？
Causal Representation Learning for Generalisable Recommendation
问答新增：2026-10-27 · University of Warwick
展开答案与例子
答案：有些信息同时关联曝光与真实结果，完全删除可能连有用信号一起丢掉。方法以信息论目标平衡给定混杂条件后的结果信息和对曝光机制的依赖，争取保留可迁移成分。这里的因果解释依赖混杂变量与识别假设；只看到分布迁移下指标变化，并不足以证明所有非因果成分已被清除。
教学例子：地域既影响内容曝光，也影响配送可达性，不能因为它关联曝光就一刀切删除；要区分仅反映投放偏好的部分和确实影响结果的部分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
实现 I(g(T);Y|Z)−λI(g(T);Z) 时，怎样避免把目标标签当成上线输入？
Causal Representation Learning for Generalisable Recommendation
问答新增：2026-10-27 · University of Warwick
展开答案与例子
答案：Y 与 Z 可参与训练目标和估计器，部署表示仍须只由预测时可用的 T 计算。条件信息用于约束学习，不意味着推理需要读取结果。来源称训练后不增加服务开销，本地公开代理也不能据此证明真实因果成分已分离。
教学例子：训练用点击标签教表示保留相关信息，上线未发生点击时仍能计算 g(T)；若把该次真实点击拼进输入，就变成答案泄漏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
因果表示约束与直接使用 IPS 权重，主要作用点有何不同？
Causal Representation Learning for Generalisable Recommendation
问答新增：2026-10-27 · University of Warwick
展开答案与例子
答案：表示约束改变模型编码哪些信息，IPS 改变已有样本对损失的贡献，两者并非同一操作。前者依赖混杂表示与信息估计，后者依赖倾向概率与支持条件。机制对比只能说明偏差处理位置不同，不能从来源代理结果推断哪种方案普遍更优。
教学例子：给罕见曝光样本加权没有禁止网络读取热门度；相反，约束表示少记热门度也没有自动补上未曝光样本，两种方法解决不同层面。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Causal Representation 为什么同时要求保留结果信息与抑制混杂信息？
Causal Representation Learning for Generalisable Recommendation
问答新增：2026-10-27 · University of Warwick
展开答案与例子
答案：只抑制曝光策略相关信息可能连有用偏好一起删掉，表示便失去预测能力；只保留结果信息又可能走曝光捷径。条件结果信息与混杂惩罚形成双重目标，意在保留可泛化成分。信息论约束本身不建立因果识别，变量选择与数据假设仍决定解释。
教学例子：热门度既影响曝光也与点击相关，全部删掉可能损失需求信号，全部保留又会复制旧策略；训练需要在两者之间明确约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
QGS 为什么将 query 与 item 共同序列化，还要用特征交互模块补充历史编码？
From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
问答新增：2026-10-27 · University of Science and Technology of China / Alibaba
展开答案与例子
答案：共同序列化使生成概率直接以当前查询和历史为条件，模型在生成物品路径时就处理搜索意图，而非先给出通用用户向量。历史编码控制长上下文开销，HFG-Attention 再融合稀疏字段交叉，补足仅靠序列表示难覆盖的异构关系。这里的效率设计属于该具体结构，不能推广成所有 HSTU 注意力都线性。
教学例子：同一用户搜索“旅行相机”和“室内灯具”应走不同生成路径。查询进入序列后，历史被按当前意图解释；设备、地区等稀疏字段再通过交互模块影响候选选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
QGS 本地 +0.73% NDCG 为什么不足以验证全文生成链路与线性 kernel？
From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
问答新增：2026-10-27 · University of Science and Technology of China / Alibaba
展开答案与例子
答案：本地共享 scorer 上核心代理改变分数，没有真实工业 query 日志和完整 kernel 吞吐测量。需要分别核验联合输入、合法生成、字段交互及注意力实现，不能用最终排名标量证明所有组件存在；Hit 下降也需一起保留。
教学例子：给电影转移分加一项交叉可改变 NDCG，却没有产生任何 SID 解码轨迹，不能因此声称生成式搜索和线性注意力都已跑通。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
QGS 的 Linear HSTU 与普通 HSTU，为什么不能只凭同名算同复杂度？
From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
问答新增：2026-10-27 · University of Science and Technology of China / Alibaba
展开答案与例子
答案：线性版本需要特定核近似或重排条件，普通 SiLU(QKᵀ)V 仍含两两矩阵。HFG 特征融合又是另一项成本，不能只写长度线性就忽略维度和字段。来源简要正文不提供所有实现细节时，应限定结论而非猜核公式。
教学例子：去掉 softmax 并没有自动消除 N×N 关系矩阵；只有真实改写或稀疏结构执行后，才可讨论对应长序列成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
QGS 的条件概率连乘，为什么描述一条完整生成路径而不是每一步各选最高分就够了？
From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
问答新增：2026-10-27 · University of Science and Technology of China / Alibaba
展开答案与例子
答案：p(y|q,h) 将各步在已有前缀下的条件概率相乘，后一步依赖前面已选输出。局部最高不必构成最高联合概率路径，比较时通常累加 log 概率并遵循目录合法性。这个基础关系不等于 QGS 全套搜索已被本地代理实现。
教学例子：首步甲概率稍高，但其合法后继都很弱；首步乙略低却有强后继，完整路径乙可能更可信，逐步贪心会漏掉它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DeGRe离线做beam前瞻，为什么上线却只保留greedy generator？
DeGRe: Listwise Generative Reranking with Offline Lookahead Distillation
问答新增：2026-10-27 · Alibaba Group / Zhejiang University
展开答案与例子
答案：前瞻evaluator能比较不同前缀及其后续列表价值，但在线逐步搜索成本高。DeGRe离线探索高价值列表，再把每个前缀下剩余候选的价值分布蒸馏为软标签，让生成器在单步选择中近似吸收未来影响。蒸馏的是估计价值而非真实最优策略，evaluator偏差也可能被一起固化。
教学例子：第一项点分最高的候选可能使后面只能选重复内容；离线搜索发现另一开头能组成更好整页，再教greedy模型优先选它，而非上线每次重搜所有排列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
DeGRe 构造 qt 时，为什么要屏蔽已选物品并对同一前缀的剩余集归一？
DeGRe: Listwise Generative Reranking with Offline Lookahead Distillation
问答新增：2026-10-27 · Alibaba Group / Zhejiang University
展开答案与例子
答案：目标定义是下一位置的合法延续，已选物品重复进入会训练出重复列表。所有候选价值应对应同一前缀，softmax 范围和学生输出 mask 一致；不同前缀的价值不能直接混用。线上 greedy 仍需逐步更新已选状态，即使不再运行 beam。
教学例子：前缀已含电影甲，第二步的标签只在其他电影间分配；若甲仍在分母并高分，会诱导学生重复推荐它，偏离列表任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DeGRe 的 dense soft label 与只蒸馏 beam 最佳列表，有什么反馈密度区别？
DeGRe: Listwise Generative Reranking with Offline Lookahead Distillation
问答新增：2026-10-27 · Alibaba Group / Zhejiang University
展开答案与例子
答案：最佳列表只为每个位置给一个目标，dense 标签则对该前缀下所有剩余候选按前瞻价值分配概率，传递“接近好答案”的关系。列表权重再强调更高价值轨迹。分布更密不意味着更准确，错误 evaluator 会给更多候选传播偏差。
教学例子：两本书都适合作为下一项，软标签可分别给较高概率，单赢家只奖励其中一本；若估值把热门度当价值，两者也都会被带偏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DeGRe 为什么用离线累计回报 evaluator，而不只把下一位置真实物品当标签？
DeGRe: Listwise Generative Reranking with Offline Lookahead Distillation
问答新增：2026-10-27 · Alibaba Group / Zhejiang University
展开答案与例子
答案：单点标签只说明日志路径，不能评价不同候选加入后整张列表的未来价值。evaluator 为多种前缀提供前瞻估计，离线 beam 探索后将这些价值传给生成器。目标因而从模仿单一路径扩展到列表结果，但 evaluator 的误差也会被蒸馏继承。
教学例子：先放一条基础教程可能引出后续进阶内容，单看当前点击未必高；累计评价尝试理解整段组合，再教生成器一次选得更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
来源和日志都存在，为什么还要核对 metric、stage、unit 与 direction？
ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：同一日志可能同时含训练、消融和正式评测，多种数值不能互相替代。主张需连到身份和口径一致的证据，再检查可复算性与方法代码一致性；没有定量主张时溯源率应为空而非满分，来源存在本身也不证明它支持文本结论。
教学例子：例如日志记录的是训练 loss 下降，报告却写测试准确率提高，即使数字可追溯也不算主张获得对应证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
五次复算零均值、无定量主张和投票平局该怎样处理？
ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：零均值且确定时要求报告精确零，不加宽松 ε；没有定量主张 CPR 为 null，不是满分；无多数或弃权保留 unverified。I1 用总体标准差容差，可信 evaluator 和日志来源仍由上层保障，本地 fixture 未验证整篇研究。
教学例子：例如一篇没有任何数字的稿件不能因分母为零得到 CPR=1，两个审查者意见相反也不能默认多数通过。
依据：核心公式、本地复现、结果与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
数值 CPR 与学术引用真实性为什么是不同问题？
ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：CPR 检查定量主张能否追溯到数值匹配的执行日志，还要求 metric、stage、unit 和方向一致；引用核验另需检索与语义消歧。数值对应可能正确但引用虚构，真实论文也可能不支持当前断言，两个检查不能互相代替。
教学例子：例如日志中的训练 loss 不能拿来支持 test accuracy，即使数值恰好相同；存在一篇同名论文也不证明它说过该结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Scientist-One 为什么要让研究主张能被独立追溯和重新核查？
ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：自动研究可生成许多代码、图表和结论，但报告中的数字可能缺少真实执行或与来源口径不一致。Scientist-One 研究把主张、证据与执行记录连接起来，使读者能检查结论从何而来。证据链存在只是审计入口，仍需核对内容、单位和实验阶段，不能用哈希代替真实性。
教学例子：教学例：报告写准确率提升，应能追到对应数据划分与运行结果；找到一个有哈希的文件，并不能证明里面记录的是准确率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TubiFM 为什么用统一 user story 描述跨页面旅程，再以任务提示区分 item、carousel 与 search？
TubiFM: Unified Item, Carousel, and Search Ranking for Streaming Discovery
问答新增：2026-10-27 · Tubi
展开答案与例子
答案：分散页面模型容易各自截取局部行为，难以连接用户旅程。统一序列把不同页面事件放入同一上下文，任务提示再告诉生成式模型当前评分对象和目标，让共享知识服务不同入口。统一输入格式并不意味着所有页面目标相同，也不自动解决不同候选类型的校准，本地核心代理只验证接口层面的机制。
教学例子：用户先搜索悬疑片，再在专题轮播中浏览，最后点进具体电影。用同一旅程序列建模后，任务提示决定此刻排序的是电影、专题栏还是搜索结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
TubiFM本地任务serialize与生产foundation model怎样区分？
TubiFM: Unified Item, Carousel, and Search Ranking for Streaming Discovery
问答新增：2026-10-27 · Tubi
展开答案与例子
答案：公开固定候选只验证独立模型状态与任务条件打分，缺少私有特征、生产规模和线上流量。任务token、历史边界与item标签需对齐，不能把同一公式换名当独立实现。
教学例子：例如三个任务提示必须真正影响执行路径，而非只改日志里的名称。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
统一任务提示模型与各页面独立模型有什么取舍？
TubiFM: Unified Item, Carousel, and Search Ranking for Streaming Discovery
问答新增：2026-10-27 · Tubi
展开答案与例子
答案：共享可迁移跨页面信号并减少重复维护，也可能出现任务干扰。必须按任务评测和预算比较，不能只因一个模型替三模型就认定各任务都提升。
教学例子：例如搜索意图很明确，不一定应被首页长期兴趣完全覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TubiFM为什么把跨页面旅程序列化为user story？
TubiFM: Unified Item, Carousel, and Search Ranking for Streaming Discovery
问答新增：2026-10-27 · Tubi
展开答案与例子
答案：用户在item、carousel与search间行为相关，统一历史和任务提示让单模型共享信息，又能按任务输出排序。不同任务目标仍需明确，不是所有页面一套无条件分。
教学例子：例如先搜索后浏览栏目，这段旅程可帮助解释当前选片需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Memento的Representation路径和Data replay路径分别在挽救哪种遗忘？
Memento: Personalized RAG-Style Long-Retention Data Scaling for Online Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：历史截断让推理时缺少远期兴趣，Representation路径检索相关且不冗余的事件并条件化融入模型。训练样本只用一次则可能被参数更新遗忘，Data路径回放与当前batch有关的旧样本。一个补输入证据，一个补训练经验，不能把只实现历史检索的本地结果说成两种记忆都已验证。
教学例子：一年前的摄影兴趣从输入窗口消失，可检索回来；模型曾学过但后来淡化的冷门类别，则需要训练回放。把旧向量塞进当前输入并不等于重新学过旧样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Memento 本地指标为什么不能验证 Ember 条件变换与 Data replay？
Memento: Personalized RAG-Style Long-Retention Data Scaling for Online Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：来源只执行 Representation Memento 的 MMR，未复现 Ember affine/quadratic、生产检索及历史样本重放。需要分别看到条件参数学习、实际 replay 更新和对应对照才可扩展声明。λ 由验证选，不能用 test 最佳检索权重补齐证据。
教学例子：成功检回旧摄影事件并提高 NDCG，说明输入证据有用；没有重放训练样本的优化步，就不能说已解决 SGD 后的遗忘。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
Memento 的 query-conditioned MMR 与 LastN，相比相关和冗余如何取舍？
Memento: Personalized RAG-Style Long-Retention Data Scaling for Online Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：LastN 按时间取固定近邻，MMR 选择与当前 query 相关且与已选记录不过度重复的历史，可召回远期不同证据。它也可能受 query 表示错误影响，λ 决定相关性与覆盖。来源本地只验证该检索策略，不含 Ember 或 Data replay。
教学例子：最近十条都在看同一镜头，MMR 可保留一条镜头并找更早相机用途记录；但若候选 query 不准，也可能选错远期内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Representation Memento 与 Data Memento 为什么是两种不同记忆库？
Memento: Personalized RAG-Style Long-Retention Data Scaling for Online Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：前者检索用户长期行为证据供当前预测读取，后者找模型已遗忘且与当前 batch 相关的旧训练样本再次更新参数。一个补输入覆盖，一个补训练记忆，存储、更新和评估位置都不同，不能实现其一就声称两路闭环都完成。
教学例子：找回一年前摄影浏览用于今天推荐是表征记忆；重放旧训练样本防止模型忘某类用户，则是参数学习层面的数据记忆。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
HARNESS-LM精修时为什么冻结强文档塔，只训练小query encoder？
HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval
问答新增：2026-10-27 · Microsoft AI / Bing Ads
展开答案与例子
答案：文档向量可以提前离线计算，在线请求侧却需要轻量且低延迟。小查询塔先对齐teacher查询空间，再在固定文档空间里用对比监督精修，避免一边训练一边让索引坐标漂移、反复重建全库。冻结减少部署变化，也限制目标域适应能力，不能默认小模型必然达到teacher质量。
教学例子：已有百万广告向量由强文档塔建好，小查询塔只需学会在这套坐标里找对象；若同时更新文档塔，旧索引可能失效，部署成本远不止查询模型变小。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
HARNESS-LM 精修为什么必须确认 teacher document 参数没有梯度？
HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval
问答新增：2026-10-27 · Microsoft AI / Bing Ads
展开答案与例子
答案：冻结文档塔让既有索引保持一致，只有学生 query 改变以适应该空间；若文档也更新，原无需重建索引的部署条件就失效。可检查参数摘要或梯度范围，不能只看优化器名。小模型对齐成功也不能由此推断线上索引已更新。
教学例子：训练一步后 query 参数变化而文档不变符合契约；若文档向量也移动，继续用旧索引就会和新评分空间错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
HARNESS-LM 的 L2 对齐与后续 InfoNCE 精修，为什么不是重复目标？
HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval
问答新增：2026-10-27 · Microsoft AI / Bing Ads
展开答案与例子
答案：L2 让学生坐标接近教师 query，提供空间初始化；InfoNCE 再直接优化对固定文档的区分，关注检索关系而非逐维误差。对齐误差下降不保证排名提升，来源本地损失收敛但检索退化正说明这两类证据不同。
教学例子：向量更接近教师平均位置仍可能在两个相似广告间排错；对比精修专门比较正确广告与竞争广告，需要另外检验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
HARNESS-LM 为什么容许离线 document encoder 很大、在线 query encoder 很小？
HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval
问答新增：2026-10-27 · Microsoft AI / Bing Ads
展开答案与例子
答案：文档可提前编码并重复使用，查询到来才产生、延迟敏感，因此非对称计算预算更符合服务成本。小 query 先对齐强空间，再在冻结文档塔下对比精修。两侧规模不同不保证质量无损，学生仍可能无法表达教师复杂意图。
教学例子：百万广告向量夜间预算好，用户一句查询需几毫秒处理；把重模型放文档侧能摊销成本，而非每个请求都运行两份大网络。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
AKT-Rec为什么让长尾更多地向头部学习，并阻断teacher一侧梯度？
From Head to Tail: Asymmetric Knowledge Transfer in Long-tail Recommendation with Generative Semantic IDs
问答新增：2026-10-27 · Alibaba Group / Peking University
展开答案与例子
答案：头部交互更丰富，通常可为同语义簇的长尾提供较稳定知识。非对称迁移加强尾部向头部对齐，并用stop-gradient避免尾部噪声反向拖动teacher；cluster与individual两视图及活动度门控又保留个体差异。若完全共享或双向同权，就可能既污染头部，又把不同长尾物品揉成一团。
教学例子：一款新品鞋可借同簇热销鞋的共同知识，但保留自己的尺码与用途；新品少量偶然点击不应立即改写整个热销簇的表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
AKT-Rec 两级活动度 gate 分别放在什么信息融合位置？
From Head to Tail: Asymmetric Knowledge Transfer in Long-tail Recommendation with Generative Semantic IDs
问答新增：2026-10-27 · Alibaba Group / Peking University
展开答案与例子
答案：第一层 gate 在 cluster 与 individual embedding 之间分配权重；第二层 gate 在簇级历史与实例级历史之间融合，条件包含用户、物品及交叉活动度。两者作用于不同表示层，不能合并成一个固定 blend。对比目标的 stop-gradient 也应只阻断指定教师侧。
教学例子：新商品先在物品表示上多借簇知识；同一请求再因用户历史稀疏而提高簇级历史权重。只调第一个系数，不能替代后一个历史层选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
AKT-Rec 的非对称迁移与普通对称 InfoNCE，区别仅是正负例更多吗？
From Head to Tail: Asymmetric Knowledge Transfer in Long-tail Recommendation with Generative Semantic IDs
问答新增：2026-10-27 · Alibaba Group / Peking University
展开答案与例子
答案：不是。它对 tail 向 head 学习赋更大权重，并在教师侧停止梯度，控制知识迁移方向，避免稀疏噪声同等反向改写可靠表示。对称对比则让双方共同调整。这个假设依赖头部确实更可靠，不保证所有语义簇都适合如此迁移。
教学例子：冷门新片向已有丰富反馈的同簇老片学习较合理；若同时让老片被少量噪声新片强烈拉动，就可能破坏稳定表征，增加样本数本身解决不了方向问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
AKT-Rec 的 cluster view 与 individual view 为什么都保留，而不只给长尾物品一个语义簇向量？
From Head to Tail: Asymmetric Knowledge Transfer in Long-tail Recommendation with Generative Semantic IDs
问答新增：2026-10-27 · Alibaba Group / Peking University
展开答案与例子
答案：簇表示共享同类物品知识，缓解长尾反馈不足；个体表示保留已有行为差异，避免同簇物品完全同质化。活动度门控决定共享比例，软正交又鼓励两视图互补。尾部需要借力并不意味着放弃身份信息，头部也可能从簇结构受益。
教学例子：两部同题材电影共享科幻簇，但一部偏动作、一部偏哲思，个体分支保留受众差别。新片可多借簇知识，老片则利用充分反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
LLM广告召回为什么增加A/A′可预测性检查，而不只看Recall？
LLM Retrieval for Stable and Predictable Ad Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：语义几乎不变的创意轻微改动可能因ID与稀疏信号导致投放剧烈变化，Recall却未必暴露这种不稳定。primary与shadow对照衡量扰动后的转换和曝光差异；层级语义属性与广告图提供较可迁移的召回关系。稳定性评价仍需控制统计噪声，不能把任何小样本差异都判为模型失效。
教学例子：广告只换了不改变产品含义的措辞，却几乎失去曝光，普通命中率可能仍很好；复制对照能专门检查系统是否对这种语义等价变化过度敏感。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
本地 LLM 广告召回为什么不能把三次 tie-breaking seed 的相同结果写成训练方差为零？
LLM Retrieval for Stable and Predictable Ad Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：训练链路本身并未在三种子下独立重训，且实际没有分数 tie，改变 tie-breaking 不会改变候选。它只能说明该后处理确定性，不能估计模型训练不确定度。A/A′ 属性和分数漂移、Recall 与 NDCG 也要分别报告。
教学例子：同一 checkpoint 对同分不存在的列表改随机排序种子，输出三次一致很自然；不能据此声称模型三次训练都得到稳定同样收益。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
LLM 语义图与协同 item graph，相比为新品与稳定性提供什么不同来源？
LLM Retrieval for Stable and Predictable Ad Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：协同图来自历史共同消费，语义图从创意属性连接广告，可在行为少时补边并减少无义改写造成的漂移。语义提取也会幻觉，图扩展需置信度与预算控制。来源本地是固定预算路由增量，不是端到端广告效果或强随机训练方差证明。
教学例子：新广告没有共点边，品牌与用途属性仍可连到用户种子广告；若模型错认品牌，也会扩到错误候选，不能只看边数量更多。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
A/A′ shadow ad 为什么要求扰动不改变广告语义？
LLM Retrieval for Stable and Predictable Ad Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：目标检验检索对无关输入变化的稳定性，若内容意图本就改变，分发差异可能合理。primary 与 shadow 只改格式或等义表达，才更接近测模型是否过度依赖 ID 与稀疏外观。稳定不等于相关，始终输出同样错误候选也可稳定。
教学例子：只改标点和年份表达应大体保持受众；把“儿童鞋”改成“登山鞋”却期待一样分发，是把真实语义变化误当噪声。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
PEARL 为什么用多次行为对比估计 percentile，而不直接回归原始行为值？
PEARL: Unbiased Percentile Estimation via Contrastive Learning for Industrial-Scale Livestream Recommendation
问答新增：2026-10-27 · TikTok
展开答案与例子
答案：原始行为值受尺度和偏置影响，不同目标或样本未必可直接比较。把一个行为与多次参考行为比较，可估计它在参考分布中的相对位置；比较次数增加时估计方差下降。价值加权与长期共训练再连接业务目标，但 percentile 仍依赖参考分布，不能把相对排名误当作去除了所有因果偏差的价值。
教学例子：同样观看三十秒，对十五秒视频和十分钟视频含义不同。与合适参考行为反复比较后，可分别得到在各自分布中的位置；参考群体选错，相对位置仍会误导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
PEARL 用 p(1−p)/N 解释方差时，为什么要检查比较样本相关性？
PEARL: Unbiased Percentile Estimation via Contrastive Learning for Industrial-Scale Livestream Recommendation
问答新增：2026-10-27 · TikTok
展开答案与例子
答案：该形式依赖相应伯努利比较和采样条件，重复同一参考或强相关样本不会提供 N 份独立信息。权重、bootstrap 与长期共训的来源也应记录，不能把理论采样方差当模型训练方差。测试参考数据不得反向用于选目标。
教学例子：把同一视频重复比较一百次，不能当作一百个独立参考使不确定性缩小十倍；数据条数增加但信息并未同量增加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
多次成对比较与一次原始标签回归，对尺度与方差的取舍是什么？
PEARL: Unbiased Percentile Estimation via Contrastive Learning for Industrial-Scale Livestream Recommendation
问答新增：2026-10-27 · TikTok
展开答案与例子
答案：原始回归保留量纲但受极值影响，比较估计相对位置更容易跨尺度组织，却会丢绝对差距并增加采样误差。N 增加时方差在相应独立假设下下降，bootstrap 也不修复系统偏差。机制对比不能证明分位必然胜过原标签。
教学例子：观看一百秒与一百零一秒可能排名不同但价值差很小，分位不直接表达这一秒幅度；反过来巨大异常时长也不再线性支配目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
PEARL 的 percentile 为什么必须说明相对于哪份参考分布？
PEARL: Unbiased Percentile Estimation via Contrastive Learning for Industrial-Scale Livestream Recommendation
问答新增：2026-10-27 · TikTok
展开答案与例子
答案：percentile 是行为超过参考样本的比例，换参考用户、场景或窗口会改变其含义，不能当固定绝对价值。多比较可降低采样波动，价值权重再连接目标。相对排名不自动消除日志偏差，也不能凭分位高就解释为因果增量。
教学例子：三十秒观看在短视频群体很高、长教程群体很低；若参考集合混错，给同一个行为的分位会产生相反解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
FLUID为何同时保留slice和room两种LUCID，并逐步退出item ID？
FLUID: From Ephemeral IDs to Multimodal Semantic Codes for Industrial-Scale Livestreaming Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：短命直播间来不及积累稳定ID信号，slice码表达当前切片内容，room码从历史切片聚合较稳定语义。两者分开并晚融合，避免把瞬时内容与长期房间特征混成一个标签；分阶段加入切片、退ID、加房间，则降低特征切换对训练的冲击。退掉ID并不意味着内容码没有碰撞或新鲜度问题。
教学例子：同一房间平时卖运动服，此刻切片却在展示鞋；room码保留长期定位，slice码响应当前商品，不能只用一个已经过时的房间身份解释两种信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
LUCID 每层 embedding 为什么索引完整前缀，而不是单独的 codeword？
FLUID: From Ephemeral IDs to Multimodal Semantic Codes for Industrial-Scale Livestreaming Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：同一后层码字在不同上层残差条件下含义不同，前缀累积索引保留路径身份。直接查孤立码字会错误合并不同语义分支。最终候选 token 只包含 room 与 slice，若仍混入候选 item ID，就没完成论文定义的退出过程。
教学例子：粗码“美妆”后细码三与粗码“旅行”后细码三不是同一语义，应占不同表项；只用整数三查同一向量会混淆两条路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
FLUID 移除瞬时 item ID 与给新房间随机初始化 ID，相比借用了什么共享信息？
FLUID: From Ephemeral IDs to Multimodal Semantic Codes for Industrial-Scale Livestreaming Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：随机 ID 需等待互动才能学会，语义前缀可从跨域内容编码中借用已见模式，适合短寿命直播间。代价是失去独立身份记忆，内容不足时会退化；来源本地去 ID 的整体质量下降，不能只报 fresh 指标提高。
教学例子：新直播间上线十分钟就结束，随机 ID 很难积累；内容码可立即连接同类主题，但若两个房间风格差异未进内容，移除 ID 也会丢区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
FLUID 为什么把直播切片与房间历史摘要当作两个独立 token？
FLUID: From Ephemeral IDs to Multimodal Semantic Codes for Industrial-Scale Livestreaming Recommendation
问答新增：2026-10-27 · TikTok / ByteDance
展开答案与例子
答案：直播当前内容变化快，slice LUCID 捕捉此刻状态，room LUCID 汇总过去切片的稳定语义。晚融合让模型同时看到当前与长期定位，避免多数历史盖过新主题。room 多数投票仍会丢少数变化，不能替代当前切片。
教学例子：主播长期讲美妆，今天切到旅行收纳；room 仍表示长期定位，slice 表示当前主题，模型需要两者而非把今天内容平均抹掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Memory Grafting为什么先离线编码常见短语，查不到时又要回退到hash Engram？
Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory
问答新增：2026-10-27 · Tsinghua University / Microsoft Research Asia
展开答案与例子
答案：离线grafting model把常见n-gram编码成冻结记忆，recipient在线进行最长后缀精确查询，避免每次重新运行该模型。精确表只覆盖预先准备的短语，未命中时由可训练hash记忆补充；命中结果也需经过独立投影与上下文门控。离线知识来源与线上使用成本因此被分开。
教学例子：一个高频三元短语可以直接命中离线向量，生僻的新组合则进入hash回退路径；无论哪路，都还要判断它对当前上下文是否有帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
离线构建 grafting bank 时，应取短语的哪个位置和状态？
Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory
问答新增：2026-10-27 · Tsinghua University / Microsoft Research Asia
展开答案与例子
答案：文档取grafting model指定中间层中短语最后token的hidden并冻结。recipient命中值再经独立投影、上下文gate与短卷积进入残差；若重新端到端训练bank，就改变了所记录的冻结记忆方案。
教学例子：编码一个四词短语时，保存该层第4词的状态，而不是随手平均四个词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Memory Grafting 相对从零训练的 Engram，初始化和查询回退有什么差别？
Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory
问答新增：2026-10-27 · Tsinghua University / Microsoft Research Asia
展开答案与例子
答案：grafting bank由预训练模型编码后冻结，在线优先做最长后缀精确匹配；未命中才回退到可训练hash Engram。差异并非只换表大小，本地结果也未证明它超过同参数Engram。
教学例子：精确表里没有某短语时，不是凭空生成其向量，而走明确的hash回退路径。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Memory Grafting 中，grafting model 与 recipient 分别扮演什么角色？
Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory
问答新增：2026-10-27 · Tsinghua University / Microsoft Research Asia
展开答案与例子
答案：grafting model离线提供常见短语的中间hidden表示，recipient是在线使用这份冻结记忆的接收模型。两者职责不同，在线查表不等于每次又运行一次grafting model。
教学例子：离线教师先整理短语表，在线接收模型查表取值，不必为同一短语重复请教师编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
MDCNS为什么同时看Self与Peer分歧，而不是永远选择Self分最高的负例？
Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation
问答新增：2026-10-27 · 论文作者团队（原文未标注公司）
展开答案与例子
答案：单模型高分可能只是自身偏置或潜在正例，始终追它会降低多样性。异构Peer提供另一视角，分歧帮助识别值得学习的候选，Teacher再把完整候选池关系蒸馏回Self，避免只利用一个负例。分歧不等于标签为负的证据，采样仍需控制假负例风险与训练稳定性。
教学例子：Self把某类热门商品都打高，Peer并不认同；只按Self挖负例会重复其偏见，多视角可暴露这种不确定性，但不能断言所有分歧商品都不相关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
MDCNS 的 Teacher KL 为什么在完整候选池计算，而非仅选中的一个负例？
Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation
问答新增：2026-10-27 · 论文作者团队（原文未标注公司）
展开答案与例子
答案：单负例只有局部比较，Teacher 分布覆盖全部候选，传递其他难易关系；Self 与 Peer 分数及列身份须对齐，温度和 τ² 保持定义尺度。未交互集合也只能按训练截止构造，不能用测试答案决定哪些负例可保留。
教学例子：三十个候选只抽一个训练 pair，KL 仍能告诉 Self 其余哪些更接近；若只对单个标量归一为一，就没有这份分布知识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MDCNS 的 Top-M 随机选与 DNS 固定选最高分，相比为何保留随机性？
Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation
问答新增：2026-10-27 · 论文作者团队（原文未标注公司）
展开答案与例子
答案：永远最难容易反复追同一异常或假负例，Top-M 内随机选择扩大困难区域的覆盖。分歧重排和多源损失再减少单模型主导，仍受候选池质量影响。来源轻 Markov backbone 的增益只支持采样路径，不等于复现大型序列模型水平。
教学例子：最高分总是同一热门电影，固定 DNS 每步都选它；在前五困难项中随机抽，可避免所有更新围绕一个疑似假负例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MDCNS 为什么用 Self、Peer 和 Teacher 三个视角看负例？
Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation
问答新增：2026-10-27 · 论文作者团队（原文未标注公司）
展开答案与例子
答案：单模型高分可能是偏置或真实未标正例，异构 Peer 提供另一判断，Teacher 聚合两者，再利用分歧找困难且可能有信息的候选。分歧并不天然等于正确困难度，假负例仍可能存在；完整候选池蒸馏补充单次选负例丢掉的信息。
教学例子：Self 很确信一件相机是负例而 Peer 认为相近，这份分歧值得学习；但用户也许真喜欢它，不能将未交互直接视作确定不喜欢。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GrowthGR为什么用ItemLTV增量价值和多目标后训练，而不是只提高新品的即时曝光？
Towards Sustainable Growth: A Multi-Value-Aware Retrieval Framework for E-Commerce Search
问答新增：2026-10-27 · Alibaba Group / Taobao & Tmall
展开答案与例子
答案：给新品曝光本身不是最终目标，重要的是这次机会能否带来未来订单或其他长期价值。ItemLTV尝试区分原本会发生的结果与干预增量，多目标优化再协调点击、购买和覆盖；对稀有高价值动作的强化需要截断以防权重失控。反事实估计与奖励设计都需验证，不能把新品量增加直接当增长。
教学例子：两件新品同样少曝光，一件能打开持续消费场景，另一件只得到一次误触；均匀加流量无法区分，长期价值估计试图把机会分给更有增量的一件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GrowthGR 为什么裁剪 −log πold 对应的稀有性权重，并固定参考策略口径？
Towards Sustainable Growth: A Multi-Value-Aware Retrieval Framework for E-Commerce Search
问答新增：2026-10-27 · Alibaba Group / Taobao & Tmall
展开答案与例子
答案：很小旧概率会产生巨大权重，裁剪限制方差与单样本支配；πold 必须对应生成该样本的策略与上下文，不能拿当前更新后概率替换。policy ratio 与奖励权重作用不同，ItemLTV 代理和真实订单标签也需分开。
教学例子：某商品旧概率极低，未经裁剪可让一次噪声反馈压过整批；固定最大权重能限影响，却不能把不可靠价值估计变成可靠事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GrowthGR 的稀有高价值加权与统一新品曝光奖励，有何选择差别？
Towards Sustainable Growth: A Multi-Value-Aware Retrieval Framework for E-Commerce Search
问答新增：2026-10-27 · Alibaba Group / Taobao & Tmall
展开答案与例子
答案：统一奖励只依据新旧身份，稀有价值权重还考虑旧策略概率与多目标价值，让缺机会但可能有益的物品获得更强学习。低概率不等于高质量，加权过强会放大噪声，所以使用裁剪。两者都不能无条件证明新品增长。
教学例子：两件新品曝光都少，一件预估长期价值高、一件相关性弱，不应只因都新就同等抬升；但高价值估错也会被加权放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GrowthGR 为什么用 ItemLTV 而不是只看新品即时成交？
Towards Sustainable Growth: A Multi-Value-Aware Retrieval Framework for E-Commerce Search
问答新增：2026-10-27 · Alibaba Group / Taobao & Tmall
展开答案与例子
答案：新品初始曝光少，单看即时成交会继续压低分发，难看到一次点击带来的长期订单变化。ItemLTV 分开基准与增量分量，MoPO 再将多种行为目标接到生成策略。长期代理需有可信反事实假设，模型输出增量并不自动成立因果解释。
教学例子：一次新品点击当天没买，却可能后续带来系列购买；仅看当天成交会错过这类潜力，但预测长期潜力也必须接受真实反馈检验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
DADF为什么冻结成熟第一阶段模型，只学习乘性校正因子？
DADF: A Distribution-Aware Debiasing Framework for Watch-Time Regression in Recommender Systems
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：已有模型包含稳定预测能力，全部重训既可能损坏旧知识，又会改变线上接口。DADF用条件分布信息学习残差比例，让校正随输入及初始预测变化，而仍输出同一种标量。乘性修正适合相对误差，但极小初始预测会使比例不稳定，因此分母保护与条件分布校正不可忽略。
教学例子：两类用户都被预测看10秒，一类长期被低估、另一类高估；校正器可分别乘上不同系数，而不是给所有用户统一加五秒或重建整套模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
DADF 学 y/max(y0,ε) 时，为什么冻结 y0 仍要检查小分母？
DADF: A Distribution-Aware Debiasing Framework for Watch-Time Regression in Recommender Systems
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：冻结基准可稳定训练目标，但基准很小时比值仍可能巨大并放大噪声，epsilon 改变边界行为需明确记录。校正器输入、比值监督与输出乘法要使用同一基准版本；不能在训练中偷偷更新基础模型，再声称只学第二阶段。
教学例子：基准只预测零点零一秒而观察十秒，比值会非常大；应检查这类样本与数值设定，而不是把异常大因子理解为可靠学习到的偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
DADF 的乘性残差与加性残差，对预测尺度的作用有何不同？
DADF: A Distribution-Aware Debiasing Framework for Watch-Time Regression in Recommender Systems
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：乘性校正表达相对比例误差，大预测可得到较大绝对调整，小预测调整较小；加性表达固定单位差。两者适合的误差形态不同，分布条件决定是否应使用比例。来源本地排序零变化，也说明数值校正不一定改变候选次序，不能自动写成推荐提升。
教学例子：十秒和一百秒预测都低估百分之十，乘性更自然；若都少了五秒则加性更贴切。只是整体乘同一常数时，排序可能完全不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
DADF 为什么把成熟预测器看作基准，再学习相对校正？
DADF: A Distribution-Aware Debiasing Framework for Watch-Time Regression in Recommender Systems
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：成熟模型已经包含大量稳定关系，直接重训整套网络风险与成本更高。乘性校正让新模块专注基准在不同条件下的系统误差，并继续输出相同标量接口。它依赖基准可提供有用结构，若基础预测接近零或严重失效，校正也更困难。
教学例子：原模型对某类长视频总低估一成，可学条件因子修正；无需先推倒它已学好的所有用户与内容关系，但不能假设一个因子能补回缺失信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GPRL为什么逐偏好维度算组内优势，再按上下文聚合？
GPRL
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：直接相加原始奖励会让量纲大或方差大的维度支配训练，掩盖帮助性、格式与简洁性的冲突。逐维标准化先获得可比信号，再用上下文权重表达任务取舍，并监测漂移。标准化不决定价值优先级，也不能把单一答案准确率当作多维偏好的完整评估。
教学例子：一个评分维度取百分制，另一个只取少数档位，直接求和容易由前者主导；需先区分尺度与用户真正想要的权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GPRL本地exact-answer负结果能否否定论文开放式多维结论？
GPRL
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不能。当前未接入真实人类多维偏好或开放生成judge，本地准确率更低是应保留的负结果，但评测目标与原文不同。实现需逐维维护均值方差和有效权重。
教学例子：例如简洁性改善与最终答案命中可能冲突，单看答案分数不能概括全部维度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GPRL与先把多维reward加总再做GRPO有什么区别？
GPRL
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：先加总会在归一化前混合尺度与冲突，逐维标准化再聚合保留每维相对关系。两者通常不交换；上下文权重及漂移控制还需独立验证，不能只报单一准确率。
教学例子：例如一维波动很大时，先总分标准化仍可能让其他维度几乎失去作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GPRL为什么先逐偏好维度算组内优势？
GPRL
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不同维度量纲与波动不同，先在每个维度标准化，避免大数值维度自动主导；再按任务上下文聚合，表达不同质量取舍。标准化不表示各维度同样重要。
教学例子：例如格式分以百分制、正确性以零一制，直接相加会让格式数值压倒正确性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么 sharding 提案必须结合 profiler，而不能只检索一套常见最佳配置？
PROMPTS: Performance Optimization via Multi-Agent Planning for LLM Training and Serving
问答新增：2026-10-27 · University of Maryland / Google
展开答案与例子
答案：最优并行方式取决于计算、通信和内存的实际瓶颈，知识库只提供候选经验。Analyzer 读测量定位约束，Proposal Agent 再提出可解释分片方案，Coordinator 组织验证；生成配置或公式自检不等于运行了训练系统，也不能把预计加速冒充实测。
教学例子：例如模型卡说某配置快，但当前设备是通信受限；profiler 若显示 all-reduce 占主导，就需要针对通信重新比较方案。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 profiler 排序与受限配置提案包含 TPU/GSPMD 实测吗？
PROMPTS: Performance Optimization via Multi-Agent Planning for LLM Training and Serving
问答新增：2026-10-27 · University of Maryland / Google
展开答案与例子
答案：没有。本地只验证证据排序和提案边界 reference，未接入 Google TPU profiler 或 GSPMD，也没有真实生产工作负载性能矩阵。原文 top-3 命中与最高性能提升属于作者测量，不能把本地候选顺序直接写成同样吞吐收益。
教学例子：例如预设 profile 指标可让选择器建议减少通信，但若未编译运行配置，就没有实际训练速度可报告。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
Coordinator、Analyzer、Proposal 分工与直接搜索配置表有什么区别？
PROMPTS: Performance Optimization via Multi-Agent Planning for LLM Training and Serving
问答新增：2026-10-27 · University of Maryland / Google
展开答案与例子
答案：分工把任务协调、瓶颈解释和具体候选提议拆开，可根据证据缩小搜索并说明原因；配置表搜索主要枚举预设空间。多 Agent 本身也有成本，真正收益需看候选在真实训练或 serving 上的结果，不是解释长度或模型投票数。
教学例子：例如 Analyzer 指出通信占主导，Proposal 才据此调整 sharding，而不是给每个维度随机试一遍再编理由。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
PROMPTS 为什么把大模型的并行切分配置当成需要反复观测的优化任务？
PROMPTS: Performance Optimization via Multi-Agent Planning for LLM Training and Serving
问答新增：2026-10-27 · University of Maryland / Google
展开答案与例子
答案：模型训练的瓶颈可能来自计算、内存或通信，并随硬件和配置改变。PROMPTS 让 Agent 利用实际 profiler 证据提出并行切分方案，再观察效果，而非只套用常见配置。配置建议不等于已经加速，必须在目标训练系统测量时间、资源和可行性。
教学例子：教学例：增加切分本想减内存，却让跨设备通信变慢；只有真实 profile 才能辨别当前受内存还是通信限制。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Policy Facet 为什么先维护受产品策略约束的分类，再用小模型召回和单 token 评分？
Policy-Grounded Dynamic Facet Suggestions for Job Search
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：受维护的 facet 集合先限定可推荐的主题边界，避免生成器随意提出不符合策略的选项。嵌入模型在集合内低成本召回，生成式小模型再根据用户与查询输出“Okay”等单 token 的概率评分。它把开放生成转为受控候选判断，并用缓存和批处理降延迟；概率高仍不等于策略已经自动完备。
教学例子：搜索亲子旅行时，系统只从经过维护的目的地与活动主题里选候选，再判断哪些最适合当前查询。模型不需要现场编造新的分类名称，也更便于检查推荐范围。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
Policy Facet 读取 Okay 的分数时，为什么要核验 tokenizer 与完整条件前缀？
Policy-Grounded Dynamic Facet Suggestions for Job Search
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：目标词可能不是任意模型的一枚同义 token，分数需对应约定输出与同一用户、查询、候选条件。只读某个固定词表索引会在模型更换后错位；候选前缀缓存也不能混入另一分面。来源本地代理不证明完整小模型服务延迟。
教学例子：换模型后 Okay 拆成两片，仍取旧单 token 索引就测了别的词；分数有限也不能说明点式判断正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
单 token Okay 概率与生成完整评语，为什么更适合低延迟候选打分？
Policy-Grounded Dynamic Facet Suggestions for Job Search
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：固定输出将评价转成受控点式概率，避免每个候选长解码，前缀缓存和批处理可进一步复用。它丢掉在线详细理由，概率也需校准；不是输出单词就天然更准确。候选召回遗漏无法靠评分弥补。
教学例子：十个分面各问一次是否适合并读 Okay 概率，比让模型逐项写百字分析便宜；但遗漏的合适分面从未被评，就仍选不到。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Policy Facet 的 facet 与最终商品或文档结果，是同一种候选吗？
Policy-Grounded Dynamic Facet Suggestions for Job Search
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：不是。facet 是帮助用户细化搜索的主题或属性选项，选中后可改变接下来的查询或浏览范围；item 是实际检索对象。分面先要符合 taxonomy 和当前需求，再判断它是否提供有用细化。不能因某商品得分高，就直接把商品标题当作合适分面。
教学例子：旅行搜索里的“亲子活动”是细化方向，具体博物馆门票是结果；前者帮助选择需求，后者满足需求，两者不应共用无说明的标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
企业代码适配为什么还混入通用数据回放，而不是只训练内部高价值样本？
Customizing an LLM for Enterprise Software Engineering
问答新增：2026-10-27 · Google
展开答案与例子
答案：企业样本使模型熟悉内部代码、工具和交互方式，但单独优化这部分可能遗忘通用能力。通用回放给训练提供另一组约束；去重、质量和污染控制则保护数据及评测口径。混合比例表达适配与保留的权衡，不能由内部任务提升直接推出通用能力也保持不变。
教学例子：模型学会内部构建命令后仍要完成一般代码推理；若训练全被内部模式占满，通用任务可能退化，所以应同时验证企业收益与通用回放的保留效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
混合 replay 目标里的 λ 两个极端，能帮助检查什么实现错误？
Customizing an LLM for Enterprise Software Engineering
问答新增：2026-10-27 · Google
展开答案与例子
答案：λ=0应只剩企业适配loss，λ=1只剩通用replay loss，可核对混合方向与系数。本地仅执行该目标与不变量，没有Google私有数据、Gemini权重或内部A/B能力。
教学例子：把λ设为1后仍主要计算企业loss，说明权重方向或数据分支可能写反。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
企业中训练数据准备，与普通通用语料继续训练有什么额外约束？
Customizing an LLM for Enterprise Software Engineering
问答新增：2026-10-27 · Google
展开答案与例子
答案：企业任务包含内部代码、交互和工具使用分布，还需要控制重复与评测污染，并兼顾通用能力保留。通用训练loss下降不能自动替代内部开发工作流的部署评测。
教学例子：背下历史修复补丁可能降低训练loss，却不代表对新的内部问题更有效。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
企业软件工程适配，为什么不是把内部代码直接全部继续训练？
Customizing an LLM for Enterprise Software Engineering
问答新增：2026-10-27 · Google
展开答案与例子
答案：文档强调从开发历史提取高价值代码与交互信号，再做去重、质量过滤和污染控制，之后中训练与内部工具后训练。数据选择与评测环境同样是方法链路的一部分。
教学例子：重复生成文件与高价值修复历史，不应未经筛选就按同样权重混在一起。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
CQ-SID把商品类目固定在首级码，会给生成式召回带来什么好处与代价？
Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL
问答新增：2026-10-27 · Alibaba Taobao & Tmall Group
展开答案与例子
答案：首级类目为生成路径提供明确的粗层组织，使后续残差码只需表达类内差异，也方便加入业务与语义约束。代价是类目错误会在很早阶段限制可达候选，跨类替代关系也不能被默认当成同一路径。专家引导奖励用于协调点击、购买和约束，不能只靠类目结构保证相关性。
教学例子：先选鞋类再生成鞋款细码，搜索更有组织；若多功能商品被错误归为箱包，首层约束可能阻止模型在鞋类请求中找到它，需要单独处理分类和跨类需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
CQ-SID 的组内 advantage 应按什么范围计算，不能跨请求混用？
Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL
问答新增：2026-10-27 · Alibaba Taobao & Tmall Group
展开答案与例子
答案：对同一上下文的一组 rollout 奖励计算均值和标准差，再标准化得到每条轨迹优势。不同请求奖励难度不同，混成一组会改变相对比较；标准差接近零需用定义的 epsilon。类目码与残差码也必须映到相同合法词表接口。
教学例子：简单请求的五个高奖励结果不应拿来压低另一个困难请求的全组优势；各请求内部比较，才能表达哪条生成对该请求更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
CQ-SID 与完全自由学习的 RQ 首码相比，约束影响在哪个阶段？
Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL
问答新增：2026-10-27 · Alibaba Taobao & Tmall Group
展开答案与例子
答案：自由量化首先按表示距离组织粗码，CQ-SID 预先把首层对齐类目，训练和解码都在这个结构中学习。它减少粗码语义漂移，却依赖 taxonomy 质量，不能由分类清晰推断召回必然更高。Expert-Guided RL 另负责反馈对齐，不替代编码约束。
教学例子：内容相近的摄影书与相机教程视频，在自由码中可共享前缀；类目固定后可能分开，换来更明确的商品目录控制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
CQ-SID 为什么让首级码对应商品类目，而后续码表达类目内残差？
Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL
问答新增：2026-10-27 · Alibaba Taobao & Tmall Group
展开答案与例子
答案：首级类目为生成建立可控语义边界，后续残差再区分同类商品的细节。这样容易对齐类目要求与检索路径，但错误类目会限制后续搜索，跨类相似也可能被切开。层级可解释性与灵活共享之间存在取舍。
教学例子：先选“相机”再区分微单与运动相机，便于按类目控制；若新品被错分成手机配件，细码再精确也会沿错误目录生成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ConSPO为什么用长度归一化序列分数做组内InfoNCE，而不直接累计token奖励？
ConSPO
问答新增：2026-10-27 · Beijing Institute of Technology
展开答案与例子
答案：累积对数概率会随长度改变分数尺度，可能把长短差异误当优劣。ConSPO先用平均token分数表示整条响应，再在同题组内做对比，使优选响应相对其他候选得到更高概率。归一化与温度仍影响梯度，组内相对好不保证答案绝对正确。
教学例子：同题一份短回答和一份长解释都正确，直接求和可能惩罚后者；先归一化，再比较组内相对质量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ConSPO实现中温度与长度归一化分别作用在哪里？
ConSPO
问答新增：2026-10-27 · Beijing Institute of Technology
展开答案与例子
答案：先对有效响应logp按长度平均，再除温度送入组softmax，计算稳定log-sum-exp。padding与提示不得计入响应长度；本地核没有复刻论文规模训练。
教学例子：例如先对每个词元任意温度处理后再改长度分母，会偏离规定序列分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
ConSPO组对比与逐个独立正负二分类有何区别？
ConSPO
问答新增：2026-10-27 · Beijing Institute of Technology
展开答案与例子
答案：InfoNCE的分母把全组耦合，一个候选变化会影响共同归一；独立成对损失分别计算关系。组大小和负例组成也会改变目标，不能把两者简单视为完全等价。
教学例子：例如新增一条竞争回答会进入共同分母，原来的每对损失则没有同样耦合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ConSPO为什么用组内InfoNCE表达序列优劣？
ConSPO
问答新增：2026-10-27 · Beijing Institute of Technology
展开答案与例子
答案：同提示多个序列作为相互竞争的候选，以优选序列对整组的相对分数形成目标。长度平均的logp减少序列长度尺度干扰，组内温度控制分离强度。
教学例子：例如一个好解法需相对多条其他解法提高，而不仅评价它自身概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
稀疏到稠密奖励原则为什么不仅是把GRPO与KL算子按顺序调用？
Beyond GRPO and On-Policy Distillation: An Empirical Sparse-to-Dense Reward Principle for Language-Model Post-Training
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：论文核心是四阶段流程及相同标签预算下的经验对照，还区分教师访问状态上的正向KL与学生访问状态上的逆向KL。散度方向和状态来源共同决定训练信号，只有几个通用算子或阶段标签不能构成复现。本地目前文献收录，未执行完整训练流程。
教学例子：例如同样写着KL损失，在教师标准解的前缀计算与在学生错误前缀计算，监督对象不同；不能仅因公式名字相同就合并成一个阶段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
库里已有GRPO和OPD算子是否算完整四阶段复现？
Beyond GRPO and On-Policy Distillation: An Empirical Sparse-to-Dense Reward Principle for Language-Model Post-Training
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：不算，当前仅文献收录，没有完整阶段调度、真实冻结教师及等预算实验。共享tokenizer等前提也需满足，四个状态标签不代表实际训练链路。
教学例子：例如把配置阶段写齐但未运行数据流，不能报告流程已验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
相同KL方向在teacher occupancy与student occupancy上等价吗？
Beyond GRPO and On-Policy Distillation: An Empirical Sparse-to-Dense Reward Principle for Language-Model Post-Training
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：不等价，状态访问决定监督覆盖；教师理想前缀与学生实际前缀包含不同错误。方向与occupancy必须一起说明，不能只列KL符号便判同一训练。
教学例子：例如同一损失在正确证明与错误中间式上，教会的修复行为不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
稀疏到稠密原则论文为何重视等标签预算的阶段实验？
Beyond GRPO and On-Policy Distillation: An Empirical Sparse-to-Dense Reward Principle for Language-Model Post-Training
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：稠密教师信号通常花费不同监督成本，只有把标签预算与阶段流程对齐，才能理解哪些顺序有效。论文贡献不是另一个通用KL函数，而是四阶段经验比较。
教学例子：例如额外调用更多教师得到提高，不能都归因于目标从稀疏变稠密。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
丢掉历史训练侧logits后，为什么无法分清训推失配与策略陈旧？
Missing Old Logits
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：当前训练概率到旧推理概率的总比率可拆成历史训推差异和后续策略变化，两者需要历史训练侧概率作中间量。缺失它时，只看总比率无法判断偏移来自引擎还是权重更新。快照或old-logit模型是在恢复这个参照，不是给缺失值随便补零。
教学例子：同一旧样本现在概率变了，可能是推理引擎当时就有差，也可能训练后模型改变；没有旧训练快照，两种原因会混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
缺失旧训练logits时能直接用当前logits回填吗？
Missing Old Logits
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：不能假装它仍是历史值。快照、old-logit模型、中断同步或EWMA等是明确修复方案，各有假设与成本；本地只验证分解及状态路径，未部署真实异步训练集群。
教学例子：例如当前模型已更新，拿它重算旧样本会改写历史参照而非恢复原记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
训推校正与staleness校正为何需要不同分母？
Missing Old Logits
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：前者比较同一旧策略的训练和推理实现，后者比较当前与旧训练策略。连乘可得到整体比率，但两者不能互相替代，否则会把系统差异当作学习漂移。
教学例子：例如更换推理实现但权重未变，仍可能有第一种差异，却没有同样的训练陈旧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Missing Old Logits为什么不只是缺少一份日志？
Missing Old Logits
问答新增：2026-10-27 · Tianjin University
展开答案与例子
答案：历史训练侧概率是区分训推失配与策略陈旧所需的参照。只留下服务概率后，两种变化混在一个比率里，难以确定优化器到底在校正什么。
教学例子：例如同一词概率变化可能来自推理引擎差异，也可能来自策略已训练多步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
MM-LLM 为什么把视觉内容先转成规范化语义 token，而不在每次排序时直接调用大模型？
A General Framework for Multimodal LLM-Based Multimedia Understanding in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：视觉向量包含丰富信息，却不容易让排序器稳定利用细粒度语义。论文离线用视觉编码器、Q-Former 与语言模型生成描述，再规范化为可复用的类别 token；排序器融合这些语义与 ID、视觉特征。大模型负责提炼内容，在线小模型负责结合行为打分，两阶段把语义成本摊到多次请求。
教学例子：一张视频封面可离线得到“雨天、露营、装备教学”等 token。用户请求时排序器只读取这些特征和历史偏好，无须重新让语言模型看图解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MM-LLM 本地四 caption token 为什么不能冒充完整视觉—LLaMA2 训练？
A General Framework for Multimodal LLM-Based Multimedia Understanding in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：公开 content vector 代替私有图片，轻量 query cross-attention 生成少量代理 token，验证的是缩比融合，不含原视觉 encoder、Q-Former 和大模型全链路。应分别报告内部 ID+content 对照与 DIN 参照，不能把两种比较混成同一正收益。
教学例子：电影类型向量上产生四个 token，并不能证明模型看懂图片细节；即使融合 loss 下降，也不等同于实际生成高质量视觉描述。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MM-LLM 的 caption token 与直接使用视觉 embedding，相比补充哪类信息？
A General Framework for Multimodal LLM-Based Multimedia Understanding in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：视觉向量保留连续感知结构，caption 尝试提炼语言可用的细粒度概念，可能补用途与属性。二者也可能重复或互相矛盾，融合需要门控而非盲目相加。来源内部 caption 消融近乎持平且 Hit 下降，不支持把语义可读性直接当推荐收益。
教学例子：封面向量知道颜色布局，caption 可指出防水演示主题；若标题式概念没有超出视觉信息，加入它也可能只增加噪声与参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MM-LLM 为什么把 caption 规范化成 categorical token IDs？
A General Framework for Multimodal LLM-Based Multimedia Understanding in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：自由描述表达丰富但长度和措辞变化大，规范化标签提供较稳定可缓存接口，便于与 ID、视觉特征和用户历史 profile 融合。规范化也会损失细节、继承 caption 错误，不能因变成离散 ID 就当作真实标注。
教学例子：同一画面被描述成“户外雨天露营”和“下雨时搭帐篷”，可归到相近属性 token，排序更易复用；若描述错了天气，标签也会错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
UxSID 为什么按目标第一层 SID 共享记忆，而不逐候选检索或完全候选无关地压缩历史？
UxSID: Semantic-Aware User Interests Modeling for Ultra-Long Sequence
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：逐候选读全历史重复昂贵，完全公共摘要又容易丢掉目标相关细节。UxSID 让语义同组候选共享用户兴趣，第一层 SID 先响应原历史并门控后续语义探针，再读取可学习锚点；独立 PFFN 与正交约束减少兴趣坍缩。共享粒度介于用户与单物品之间，但同组候选仍可能存在被压平的差异。
教学例子：多件露营商品共享一份用户露营记忆，而相机组读取另一份。这样不用每顶帐篷都遍历全历史，又比所有商品只用一个通用用户向量更有针对性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
IAIC每锚PFFN与正交项有哪些不可替换细节？
UxSID: Semantic-Aware User Interests Modeling for Ultra-Long Sequence
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：PFFN参数各锚独立；正交分母是整矩阵平方L2而非逐行余弦归一。当前量化也明确用本地两级k-means加残差代理，不能冒称原LETTER码本。
教学例子：例如把所有锚共用一个FFN，虽维度一致，却削弱原本的槽位专长。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
全局与局部两级probe为什么不是重复attention？
UxSID: Semantic-Aware User Interests Modeling for Ultra-Long Sequence
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：目标先查完整历史获得全局响应，门控SID后再查压缩锚点获取局部兴趣，两级输入不同。只保留锚点查询会失去全局响应调节，不能当完整原机制。
教学例子：例如先知道这类兴趣在历史强不强，再决定到哪些锚点细查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
UxSID为什么按用户与目标SID共享记忆？
UxSID: Semantic-Aware User Interests Modeling for Ultra-Long Sequence
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：逐候选检索贵，完全候选无关压缩又粗；同第一层SID的相近目标共享兴趣状态，居中折中精度与缓存。语义同组不保证具体商品偏好完全一样。
教学例子：例如同类鞋可复用部分兴趣记忆，但最终商品仍有不同特征。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
PRL-PUTS 为什么用双头 Q 值和 Pareto sweeping 预选权重，而不线上随意调单一奖励？
A Production-Ready RL Framework for Personalized Utility Tuning with Pareto Sweeping in Pinterest Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：两个 Q 头分别估计不同业务效用，权重组合对应不同策略取舍。离线扫描权重并筛掉被其他策略同时支配的选择，可形成可治理的候选前沿；线上切换权重即可改变目标平衡，无须替换整套模型。但 Q 值误差和分布变化仍影响前沿可靠性，离线不劣不能直接推出线上更优。
教学例子：一组权重带来更多收藏，另一组带来更多后续互动。若某组两项都更差就先淘汰；保留下来的取舍点再供业务选择，而不是在真实流量里盲目搜索所有权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
PRL-PUTS 线上切换权重时，为什么仍要固定 Q 模型与动作空间版本？
A Production-Ready RL Framework for Personalized Utility Tuning with Pareto Sweeping in Pinterest Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：权重只在同一组可比较 Q 值上改变取舍，若同时换模型或候选动作，便无法把变化归给策略。α 应在合法范围，两个头的量纲与收益定义也需记录。本地固定 scorer 代理不能自动证明完整长期 Q 学习和线上策略治理完成。
教学例子：从七三切五五同时重训一个 Q 头，指标改变不能全归配比；要检验权重策略，应先保持其余估计和动作一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
Pareto sweeping 与只选单一加权最高点，相比保留了什么业务选择？
A Production-Ready RL Framework for Personalized Utility Tuning with Pareto Sweeping in Pinterest Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：单权重仅给一个折中，扫描不同权重并剔除被同时支配者，保留多种不劣策略供目标变化时选择。前沿依据离线估计，不是已测线上保证；同样值的误差也可能造成虚假不劣，需不确定性与实验验证。
教学例子：甲收藏更强、乙深度互动更强，两者都可留；丙两项都差应排除，而不是因为某个随意权重让它偶然得分高就上线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
PRL-PUTS 中的 Pareto“不劣”，是否要求一项策略同时改善所有目标？
A Production-Ready RL Framework for Personalized Utility Tuning with Pareto Sweeping in Pinterest Recommender Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：不要求。若没有其他策略在所有目标都不差且至少一项更好，这个策略就可能留在不劣集合；它可在 Repin 与 P2P 间作不同取舍。前沿内各点不代表同样适合业务，更不表示相对旧系统全部提升，还要看估计误差与实际约束。
教学例子：示意性地，甲两项目标为八和三，乙为六和五，两者互有取舍；丙为五和二则被甲支配，可剔除，但不能只凭前沿宣布甲乙都比线上好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
UniVA 为什么同时需要 Commercial SID、生成价值头和请求级个性化 trie？
Unified Value Alignment for Generative Recommendation in Industrial Advertising
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：商业码把出价等属性带入输出路径，生成与价值 logit 相加让解码同时考虑相关性和商业价值，eCPM 奖励再调整策略。请求级 trie 则解决另一件事：只有当前可投放广告才可沿路径生成。价值高不意味着合法可投放，合法也不意味着用户相关，三类信号缺一不可；本地价值是公开数据代理。
教学例子：某广告出价高，但当前地区无库存，必须由请求 trie 禁止生成；另一条合法广告再由相关性和价值联合评分，不能只凭商业码就绕过投放约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
UniVA本地proxy与真实eCPM、个性trie需要怎样区分？
Unified Value Alignment for Generative Recommendation in Industrial Advertising
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：本地有核心网络RL与trie链路，但bid和商业标签是确定代理，非真实广告收益。请求trie只允许当前库存前缀，累计融合logp；不能用全局trie放过不可投放广告。
教学例子：例如某广告全局有效但当前地域不可投，仍应在本次beam被屏蔽。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
Generation-as-Ranking双logit与生成后独立精排有什么不同？
Unified Value Alignment for Generative Recommendation in Industrial Advertising
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：生成头与价值头逐元素相加再归一，价值影响每步路径概率；独立精排只能在既有候选后调整。两者可达空间与成本不同，不能把最终线性打分称双头生成。
教学例子：例如高价值路径可能更早进入beam，而不是等召回完才被看见。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
UniVA的商业SID最后一级，是再细分商品内容语义吗？
Unified Value Alignment for Generative Recommendation in Industrial Advertising
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：不只是内容语义细化。它保留前两级语义码，末级引入商业属性组合与类内bid分桶，把广告目标和出价信息接到生成路径。末级的目录含义应由商业映射解释，不能直接按普通内容聚类标签读，也不能将代理bid视作真实收入。
教学例子：两条内容相近的广告可因商业属性或bid档不同落入不同末级码；差别不必来自画面或文本主题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
PA-Bridge 为什么先把被动浏览对齐到主动查询空间，再做语义离散化和重加权？
Bridging Passive and Active: Enhancing Conversation Starter Recommendation via Active Expression Modeling
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：被动浏览反映“看过什么”，主动查询更接近“此刻想问什么”，直接复用浏览表示可能推荐熟悉却不适合发起对话的话题。分布对齐连接两种意图空间，离散语义单元和重加权再降低热门曝光反复主导训练的程度。目标是让起始问题更可探索，而不是把高曝光浏览内容原样改写成问题。
教学例子：用户常被动看到健身短视频，但真正想问的是“膝盖不适怎样调整训练”。对齐到查询空间后，再平衡热门话题权重，有机会提出更贴近行动需求的对话起点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
PA-Bridge 拟合 hpassive 到 hactive 对齐时，训练 pair 应有怎样的时间约束？
Bridging Passive and Active: Enhancing Conversation Starter Recommendation via Active Expression Modeling
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：主动查询可作为训练监督，预测当时的被动上下文必须截止查询前，不能包含查询后的点击来反推。离散码与样本权重也应来自允许历史。来源公开代理缺真实主动提问日志，不能仅凭一个 Align 函数就宣称完成跨行为迁移。
教学例子：用户提交膝盖保护问题后看的康复视频不能提前进入要预测该问题的浏览历史；否则对齐看似准确，其实使用了后续答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
PA-Bridge 重加权与直接取最高浏览频次话题，偏好覆盖如何不同？
Bridging Passive and Active: Enhancing Conversation Starter Recommendation via Active Expression Modeling
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：频次强受旧曝光影响，直接选最高会不断推荐已被系统推多的话题；重加权尝试减少热门语义单元支配，让主动入口更有覆盖。权重过强也会偏向无关冷门，不能将多样性自动当满意度或因果去偏。
教学例子：平台总曝光减脂内容，频次法继续只提减脂；权重可让同样相关但较少出现的力量训练进入，但不应随意推完全无关主题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
PA-Bridge 的被动到主动迁移为什么不是简单将浏览标题改成问句？
Bridging Passive and Active: Enhancing Conversation Starter Recommendation via Active Expression Modeling
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：浏览反映看过的内容，主动 query 还包含行动与求解意图，两种分布不相同。对齐器先连接空间，再用离散语义和权重减弱曝光反馈回路。文字问号不能创造真正查询需求，模型推断也不等于用户明确表达。
教学例子：反复看健身视频可能只是娱乐，主动想问却是膝盖保护；把标题改成“如何健身？”不一定找到用户当前要解决的具体问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
EKTM为什么按任务相似度迁移CTR表示，而不是让所有转化任务平等共享？
Effective Knowledge Transfer for Multi-Task Recommendation Models
问答新增：2026-10-27 · Huawei Technologies
展开答案与例子
答案：点击监督较丰富，但不同转化目标与点击的关系不相同，平均共享可能把无关模式灌入稀疏任务。EKTM依据任务关系选择迁移强度，再关注难例以抑制负迁移；共性可被借用，各转化塔仍保留专门目标。相似度是需要学习和验证的信号，不能只因数据量大就把CTR当所有任务的可靠teacher。
教学例子：加购与点击关系较近，长期续费可能更依赖其他因素；同一份点击表示向两者迁移的力度不应相同，否则容易提高前者却损伤后者。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
EKTM 汇聚 fctr 与加权 CVR 表示时，为什么要检查任务身份而非仅形状？
Effective Knowledge Transfer for Multi-Task Recommendation Models
问答新增：2026-10-27 · Huawei Technologies
展开答案与例子
答案：每个相似度权重对应特定源目标任务，向量须在可组合空间对齐后使用；任务顺序改变时映射也要一致。难例 mask 需要真实有效标签，不得从测试结果生成。本地公开代理不能把缺失的工业转化标签凭名义补全。
教学例子：表示“CTR 到购买”的权重若乘到收藏塔，张量仍能相加，学习语义却已错误；验收需核对每列具体代表哪个任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
EKTM 的相似度加权迁移与统一 shared-bottom，冲突控制发生在哪里？
Effective Knowledge Transfer for Multi-Task Recommendation Models
问答新增：2026-10-27 · Huawei Technologies
展开答案与例子
答案：shared-bottom 直接共享底座，EKTM 在转移表示时选择不同任务贡献，再用困难样本约束不合适共享。它增加有条件的分工，也依赖相似度估计和额外塔开销。机制差别并不保证普遍更优，电影代理排名也不能当真实转化率证明。
教学例子：购买塔可多吸收加购相关知识，另一个意图不同的塔少吸收；统一底座可能让它们都争同一表示，权重迁移则显式调节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
EKTM 为什么从 CTR 向多个 CVR 任务迁移，而不让它们从零学习？
Effective Knowledge Transfer for Multi-Task Recommendation Models
问答新增：2026-10-27 · Huawei Technologies
展开答案与例子
答案：点击信号相对丰富，可为稀疏转化提供基本兴趣与相关性，但不同转化任务并不完全相同。任务相似度控制迁移量，难例感知损失限制负迁移。稠密数据是资源而非可靠教师的充分条件，仍需检查各目标是否受益。
教学例子：加购与购买可共享部分点击兴趣，退货目标则含不同含义；所有转化塔从零可能太稀疏，无差别接受 CTR 也可能带偏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
生成的扩展词为什么还要用倒排索引里的文档频率过滤？
Superintelligent Retrieval Agent: The Next Frontier of Agentic Retrieval
问答新增：2026-10-27 · Meta Superintelligence Labs / Rice University（工作完成于 Meta）
展开答案与例子
答案：LLM 可能提出语义合理却不在语料里的词，也可能加入到处都出现、没有区分力的词。文档频率约束先验证这些扩展确实可检索且不过泛，再与原查询做一次加权 BM25；它保留词法检索路径，不是让模型想象词存在就当成已找到证据。
教学例子：例如查询稀有疾病时，扩展出语料没有的缩写不会带来召回；扩展成“研究”又太泛，过滤后才有有效词项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
DF 条件的零值、上界和原查询权重应怎样处理？
Superintelligent Retrieval Agent: The Next Frontier of Agentic Retrieval
问答新增：2026-10-27 · Meta Superintelligence Labs / Rice University（工作完成于 Meta）
展开答案与例子
答案：扩展词必须满足 0<DF(t)≤τ|C|，零频词与超过上界的词都排除；最终分数保留原查询 BM25，再加 w 倍扩展部分。不能用扩展替换原查询或悄悄改变为多轮检索，本地只实现该 gate 和组合，没有论文规模索引与 LLM。
教学例子：例如过滤后扩展为空，系统仍应由原查询产生结果，而不是因没有新词就把整个查询丢掉。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
单次加权 BM25 扩展与多轮 agent 搜索在控制流上有何不同？
Superintelligent Retrieval Agent: The Next Frontier of Agentic Retrieval
问答新增：2026-10-27 · Meta Superintelligence Labs / Rice University（工作完成于 Meta）
展开答案与例子
答案：SIRA 先生成并过滤缺失词，再将原查询与扩展共同用于一次加权检索，没有每轮看结果后再规划搜索的长闭环。它减少交互结构复杂度，也限制了对初次失败的适应性；不能因名称含 agent 就假定存在多轮自纠错。
教学例子：例如一次扩展得到三个术语后直接返回排名，不会自动阅读首轮网页再提出另一组问题，除非另加外层流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
SIRA 为什么关注“用户问法与证据用词不同”的检索困难？
Superintelligent Retrieval Agent: The Next Frontier of Agentic Retrieval
问答新增：2026-10-27 · Meta Superintelligence Labs / Rice University（工作完成于 Meta）
展开答案与例子
答案：倒排检索依赖词项重合，用户可能描述一个现象，文档却使用专业术语或另一种表达，相关证据因此排不到前面。SIRA 利用冻结 LLM 补充可能的证据词汇，再以当前语料约束扩展，目标是改善查询与文档之间的词汇桥接，而非训练新的答案生成器。
教学例子：例如用户问“程序越跑越占内存”，技术文档可能写 memory leak；补上该术语有机会召回原问句未命中的材料。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
RecGPT-Mobile 为什么只在联合漂移信号越过阈值时重新生成 query，而不是每次行为都触发？
RecGPT-Mobile: On-Device Large Language Models for User Intent Understanding in Taobao Feed Recommendation
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：端侧推理虽减少行为上传，仍消耗电量和延迟。熵变化、集合重叠与分布散度共同判断意图是否实质变化，再按预算选择 prompt 组件，避免重复生成几乎相同的查询。生成结果交给服务端检索，所以端侧承担的是行为到意图的转换；漂移门控仍可能漏掉小幅但关键的新需求。
教学例子：连续浏览同类跑鞋不必每点一次都重跑模型；突然转向婴儿用品时，多种漂移指标共同变化才触发新查询。端侧给出意图后，服务器继续执行商品检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
RecGPT-Mobile 的 prompt 组件预算与漂移触发应如何分别检查？
RecGPT-Mobile: On-Device Large Language Models for User Intent Understanding in Taobao Feed Recommendation
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：组件按边际收益和 token 上限加入，触发则由熵、Jaccard、JS 组合比较前后意图，两者控制单次成本和调用频率。不能用测试下一 query 来决定何时触发或加组件。本地小样本 semantic accuracy 不等于真实端侧交互成功率。
教学例子：某次需要重算意图，不代表可以无限长 prompt；即使 prompt 很短，意图未变化也应复用旧结果，两个门槛不能合并成一个开关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
INT8 存储量下降与 INT8 推理加速，为什么是不同证据？
RecGPT-Mobile: On-Device Large Language Models for User Intent Understanding in Taobao Feed Recommendation
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：权重以八位保存可减少文件体积，但若运行时先反量化回浮点并用普通 kernel，延迟可能不降反升。真实量化计算需支持硬件和算子。来源 Mac 未启 INT8 linear，不能把序列化省一半写成手机速度提升一半。
教学例子：压缩文件更小但每次解压再计算，传输省了、计算没省；端侧用户感到的延迟还包含解量化和生成步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
RecGPT-Mobile 为什么把行为到 query 放到端侧，而检索仍留服务端？
RecGPT-Mobile: On-Device Large Language Models for User Intent Understanding in Taobao Feed Recommendation
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：端侧可少传原始行为并利用即时上下文，小量化模型生成意图，服务端继续维护大目录与检索。任务边界减少全量端侧系统压力，却仍有算力、电量和模型更新成本。隐私取决于实际传输内容，不是只因端侧二字就自动保证。
教学例子：手机本地把最近浏览转成露营灯查询，服务器只查商品；若同时把完整行为日志上传，实际隐私路径就不再符合预期分工。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Semantic-Native LongSeq 为什么同时压缩 SID 词表和时间序列，而不是只扩大历史窗口？
Beyond Item IDs: Scaling Short-Form-Video Recommendation via Semantic-Native Long Sequence Modeling
问答新增：2026-10-27 · Google
展开答案与例子
答案：原子 ID 表随内容增长，长序列全注意力又随长度平方增加。层级 SID 截断为有界词表处理表示规模，相邻事件折叠为 super-token 处理时间长度，全局 query 再收集跨窗口兴趣。两种压缩针对不同瓶颈，都会牺牲分辨率；本地用均值与近期组合代理折叠，不能当作原文通道重排的等价实现。
教学例子：四十八条历史每四条折成一个 token，只需处理十二个局部位置；同时用粗细语义码共享内容知识。被折在同一窗口的事件顺序仍可能损失，不能说完整细节都保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地折叠是否逐字实现原论文channel重组？
Beyond Item IDs: Scaling Short-Form-Video Recommendation via Semantic-Native Long Sequence Modeling
问答新增：2026-10-27 · Google
展开答案与例子
答案：不是，本地mean/recent组合只保留时间分辨率换表达的原则，未训练Google RQ-VAE或生产模块。池化mask包含始终有效global query，不能漏计它们或把padding当历史。
教学例子：例如均值代理能验粗压缩，但不能冒称原折叠张量布局。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
temporal folding与只截最近历史有什么区别？
Beyond Item IDs: Scaling Short-Form-Video Recommendation via Semantic-Native Long Sequence Modeling
问答新增：2026-10-27 · Google
展开答案与例子
答案：折叠把邻近事件沿特征重组保留粗粒度旧信息，截断直接丢远期。压缩损失时间分辨率，global queries也不保证细节无损，不能当完整历史等价。
教学例子：例如四次连续行为压成一super-token，顺序细节可能弱化但不全部删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Semantic-Native的层级SID前缀相同，是否代表两条视频就是同一物品？
Beyond Item IDs: Scaling Short-Form-Video Recommendation via Semantic-Native Long Sequence Modeling
问答新增：2026-10-27 · Google
展开答案与例子
答案：不必然。层级语义码共享前缀表示粗粒度语义相近，具体物品身份仍需完整路径与目录映射。它与为每个视频分配互不相关的原子ID不同，目的在于共享表示；不能把粗粒度语义相同当成交互日志中的同一条视频。
教学例子：两条不同露营视频可共享粗级语义前缀，却有各自内容与行为记录；合并前缀不等于合并物品身份。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
两份回答语义几乎一样时，SA-DPO为什么要求更小的偏好间隔？
Mind the Gap: Structure-Aware Consistency in Preference Learning
问答新增：2026-10-27 · Google Research / Courant Institute of Mathematical Sciences
展开答案与例子
答案：固定大间隔会强迫模型区分几乎同义的表达，消耗容量并放大标注噪声。SA-DPO让额外margin随冻结表示中的语义距离变化，零距离时不额外要求分离。它仍优化相对参考策略的偏好差，语义距离的质量和平均约束强度都需要单独控制。
教学例子：“答案为三”和“结果是3”表达接近，应避免像区分正确与错误答案那样强拉开它们；距离估计也可能受表述影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SA-DPO在回答距离为零时应保留怎样的目标？
Mind the Gap: Structure-Aware Consistency in Preference Learning
问答新增：2026-10-27 · Google Research / Courant Institute of Mathematical Sciences
展开答案与例子
答案：额外距离margin应为零，但策略与参考的对数概率比差仍参与偏好损失。距离来自冻结表示，不可用固定常数替换后仍沿用方法名，也不应把测试标签用于校准距离系数。
教学例子：例如完全相同表达的额外分离项消失，不表示整个偏好损失都直接返回零。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SA-DPO与固定margin方法比较时，为什么要对齐平均margin？
Mind the Gap: Structure-Aware Consistency in Preference Learning
问答新增：2026-10-27 · Google Research / Courant Institute of Mathematical Sciences
展开答案与例子
答案：若平均约束强度不同，效果差可能只是整体训练压力变化。对齐平均margin后，才更接近检验按语义距离分配约束这一机制；这仍不是证明语义编码器永远判断正确。
教学例子：例如一种方法平均间隔更小，训练更容易，不能把全部改善归因于它懂语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
SA-DPO中的语义距离量的是两条回答，还是两个提示之间的差异？
Mind the Gap: Structure-Aware Consistency in Preference Learning
问答新增：2026-10-27 · Google Research / Courant Institute of Mathematical Sciences
展开答案与例子
答案：距离作用于同一提示下的优选与非优选回答，描述两种候选内容有多接近。它不是按题目难度或提示长度分配margin。原文实验用冻结语义表示计算回答距离，因此距离编码器的判断与偏好标签是两种来源，不能把距离直接当正确性分数。
教学例子：同题的两条同义答复可距离很小；换了两个题目，即使提示文字很像，也不是这条margin的比较对象。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
mild在专家不均衡时，为何调整各专家的margin，而不只给少数专家加类别权重？
Optimized Deferral for Imbalanced Settings
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：不同margin改变损失中专家分数差的尺度，影响怎样形成分离边界；类别权重主要改变某类损失的总体分量，并不等价。mild保留训练时各专家的成本或奖励信息，避免先用最小成本压成一个硬标签。margin依据训练数据估计，推理router不能读取当前样本未知的全专家真成本。
教学例子：一个专家擅长少数但重要的样本；把所有样本先标成“成本最小专家”可能丢掉接近的备选关系，而保留完整成本并调margin可表达这些差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
mild 推理 router 能否接收每个候选专家的真实 cost 来选答案？
Optimized Deferral for Imbalanced Settings
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：不能用此替代无标签推理。文档route只接收推理特征，不接cost或label；margin统计和参数选择也仅用训练/validation。稳定log-sum-exp与并列取最高专家索引需按约定实现。
教学例子：训练时知道各专家答题代价，不代表新题推理时已提前知道谁答得对。
依据：核心公式、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
保留所有专家的训练 cost/reward，与给每题一个 argmin 硬标签有何不同？
Optimized Deferral for Imbalanced Settings
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：硬标签只留下赢家身份，丢掉其他专家之间的代价差异；mild目标按成本形成完整surrogate，并通过专家margin控制相对分数约束。两份监督包含的信息不同。
教学例子：第一和第二名几乎相同，与第二名代价高很多，不应在训练目标里完全无法区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
mild 面对的专家不均衡，为什么可能伤害少数专用专家？
Optimized Deferral for Imbalanced Settings
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：多数覆盖专家容易主导路由学习，少数覆盖但擅长特定输入的专家可能被淹没。mild为专家设置不同margin约束，保留训练奖励结构，而非只学一个最小成本硬标签。
教学例子：少量特殊问题只有专用专家擅长，整体多数票式训练可能忽略它。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
GloRank把局部候选编号换成全局SID后，为什么任务已超出普通重排？
From Local Indices to Global Identifiers: Generative Reranking via Global Action Space
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou / UC San Diego
展开答案与例子
答案：局部编号只能指向上游给定的候选，生成这些编号仍受候选池上限限制。全局SID让模型在更大目录中表达选择，训练因而同时承担物品定位与列表效用对齐，不只是给既有项目换顺序。扩大动作空间也增加搜索与合法性难度，不能沿用封闭候选重排的简单评测口径。
教学例子：局部列表里只有十件商品，输出编号十一没有含义；全局码可指向原列表外的物品，但必须验证它在目录中可服务，而不是把新增搜索空间免费当成收益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
GloRank 实现 listwise SFT 与组奖励时，为什么全局 SID 不能只用请求内下标代替？
From Local Indices to Global Identifiers: Generative Reranking via Global Action Space
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou / UC San Diego
展开答案与例子
答案：请求内下标随候选排序变化，无法稳定表示全库物品，训练与解码必须使用可映射目录的全局路径。列表奖励也应针对实际生成身份，而非借测试答案修补非法码。本地代理不包含完整全局语言生成训练时，应按实际范围描述。
教学例子：本请求编号三是相机，下次编号三是帐篷；把三当全局 token 会让模型学到冲突含义，无法稳定生成池外物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
全局动作空间与局部重排，公平比较为什么需要说明候选权限？
From Local Indices to Global Identifiers: Generative Reranking via Global Action Space
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou / UC San Diego
展开答案与例子
答案：若一方只能重排给定列表，另一方能全库生成，收益包含候选覆盖变化而非纯排序改进。需要明确全库或局部评估、合法映射和奖励口径。机制对比不允许把两种权限下的数值直接当同一组件消融，来源本地负向也应保留。
教学例子：生成器找到池外正确书而局部模型没权限选，不能把差异全归给重排网络更强；候选权本身就是重要变量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
GloRank 使用全局 SID 后，为什么可以选出局部候选池之外的物品？
From Local Indices to Global Identifiers: Generative Reranking via Global Action Space
问答新增：2026-10-27 · City University of Hong Kong / Kuaishou / UC San Diego
展开答案与例子
答案：局部索引只指向当前集合，生成全局标识则在整个物品空间定义动作，任务从重排扩展到重新提名。它可突破局部召回限制，也带来更大搜索空间、合法映射与列表目标难度，不能继续按固定候选重排的假设解释全部结果。
教学例子：局部列表只有五本热门书，编号排序永远选不到冷门专业书；全局 SID 可提名它，但必须确保目录合法且相关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
为什么AdaSID不把所有共享语义ID的物品都施加同样的碰撞惩罚？
Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：同码重叠有时表示有用的语义共享，有时才是无法区分的拥塞。AdaSID依据碰撞负载、物品语义相容性和训练阶段改变约束强度，在保留相关物品共性与区分不相关物品之间取得平衡。统一强惩罚可能把本来应靠近的内容硬拉开，统一放松则会掩盖高负载冲突。
教学例子：两款相近跑鞋共享粗层码可能合理，跑鞋与烤箱共享热门码却可能是拥塞；训练早期和码本趋稳后也未必该用相同惩罚强度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
AdaSID 的碰撞系数应作为单一标量还是逐物品对、逐阶段的量？
Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：来源写成 λij(t)，意味着系数由碰撞负载、两物品语义关系与训练阶段共同决定，应用到对应重叠项后再求和。若实现退化成一个常数，只保留了固定碰撞正则，丢掉定义性自适应条件；评估也要记录调度口径。
教学例子：高负载的鞋码碰撞和低负载的书码碰撞可以使用不同系数；进入后期后再更新，不能给整个批次统一乘一个固定常数就称为自适应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
AdaSID 与固定系数的碰撞损失相比，多出的自适应项改变了什么？
Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：固定损失把所有碰撞在整个训练期视为同样严重。自适应系数将碰撞对和训练时点作为条件，允许早期学习语义结构、后期再强化需要区分的关系。它增加调度灵活性，也增加校准复杂度；机制上的优势不能代替相同预算的实际验证。
教学例子：训练早期两本同主题书共码可先保留，码本成形后再对高负载且需区分的那一对加重惩罚，而不是全程使用同一个排斥强度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
AdaSID 所说的 SID 重叠为什么不一定都是坏事？
Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：语义相近物品共享部分编码可以迁移知识，完全排斥会破坏有用邻近；真正有害的是服务区分或学习负载受影响的碰撞。方法依据负载、语义相容性和训练阶段调节惩罚，让码空间在共享与可辨识之间取舍，而不是追求所有物品都远离。
教学例子：两件同款不同颜色可共享粗码，但库存不同仍需在细码区分；把连粗码都强行推开，反而会丢掉它们共同的服装语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
ProEval为什么必须先选题再读取目标模型分数，历史矩阵还要排除目标模型？
ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：历史模型相关性提供目标表现的先验，只有被主动选中的题才能返回真实目标分数并更新后验。若完整目标列预先参与协方差或选题，便把昂贵评估答案偷渡到替身中。方差缩减衡量估计收益，不保证目标超出历史分布时仍可靠，本地组件也不是全量评审替代证明。
教学例子：例如先依据旧模型记录选择一道最有信息的题，再调用新模型评分；不能把新模型整列成绩先读入，随后声称只查询少量题就估准总分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
ProEval 为什么拒绝重复目标观察和历史矩阵里的目标模型 ID？
ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：重复观测会破坏声明的查询预算与后验更新口径，把目标完整历史放入先验更会泄漏未查询分数。接口只接所选题反馈；至少三份历史记录也只是本地门槛，不自动验证理论条件。
教学例子：目标模型完整一列已经藏在历史矩阵中，就不能再把省下的查询称为有效迁移。
依据：核心公式、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
BQ 的总体方差减少采集，与直接选择当前均值最低的题有什么不同？
ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：BQ按候选观测对wᵀKw的预期下降选择，关注总体评分不确定性；均值最低关注困难程度。文档失败采集也有自己的候选条件，不能把所有策略都叫“挑最难题”。
教学例子：某题均值不低，但与许多未问题强相关，查询它可能更能减少总分方差。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
ProEval 为什么复用历史逐题评分来减少新模型评价调用？
ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：历史模型之间的题目相关性可形成新目标模型的概率评分替身，有限查询逐步更新后验，再估计总体分数及不确定性。它节省实际评分，但估计并不等于已问过全部题。
教学例子：只查询几题后，用历史相关结构预测其它题，但仍需报告剩余方差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
CS3想增强双塔交互，为什么不能直接把候选向量写回所有共享用户表示？
CS3: Efficient Online Capability Synergy for Two-Tower Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：双塔高效检索依赖用户与物品表征可分别计算，一旦用户表示依赖具体候选，就不能直接用同一向量检索全库。CS3以可部署的循环修正和知识协同增强交互，需要明确哪些更新可离线物化、哪些仍随候选变化。不能把训练时可用的强交互路径直接当成免费ANN服务能力。
教学例子：给用户向量加入商品A的细节后，它可能更擅长评A，却不再是检索商品B、C的同一查询；修正必须有清楚的缓存和在线执行边界。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
CS3 实现循环修正时，如何区分可离线物品状态与在线候选相关状态？
CS3: Efficient Online Capability Synergy for Two-Tower Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：应跟踪每步更新是否读取当前用户或候选，读取之后的张量不能再冒充全局缓存。gate 与残差维度要一致，循环也需明确使用上一轮还是当前轮状态，防止原地更新改变算法。来源只支持其实际 cycle、cross-sync 和损失路径，不是任意相互写回。
教学例子：物品 i 经过用户甲修正后不能覆盖索引里的通用 i，再给用户乙读取；应另存配对状态，并保留原可缓存表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
CS3 的门控残差修正与用 cross-encoder 直接替代双塔，区别是什么？
CS3: Efficient Online Capability Synergy for Two-Tower Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：残差沿原双塔表示作受控更新，并结合协同损失保持部署接口；cross-encoder 通常对每对输入完整联合编码。两者计算依赖与索引条件不同，交互更强也可能更贵。来源本地 matched 对照为负，不能把设计目标写成已证实效果无损。
教学例子：先有可检索基础向量，再对候选做有限修正，像在初稿上补充；把每件商品与用户从头联合编码，则是另一种成本更高的评分过程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
CS3 为什么称双塔交互是召回效率与表达力之间的冲突？
CS3: Efficient Online Capability Synergy for Two-Tower Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：独立塔让物品向量可预计算、用户向量可一次计算，适合近邻检索；深度用户—物品交互则通常依赖具体配对，难直接缓存。循环修正与知识协同尝试在可部署边界内增加联系，不能简单把全交叉模型原封不动当成 ANN 双塔。
教学例子：商品向量若每换用户都改变，就不能只存一份通用索引；双塔高效正来自这种解耦，增强交互时必须保留清晰的服务路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Actor提出了更高分的配置，为什么还需要Critic、SkillHub和真实实验反馈？
AgenticRecTune: Multi-Agent with Self-Evolving Skillhub for Recommendation System Optimization
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：提案只是待执行假设，Critic负责检查候选可行性与风险，真实实验才提供效果证据；Insight与Skill模块把可复用的成功条件和失败原因写回记忆。这样后续搜索能避免重复踩坑，而不是把语言模型的自评分当研究结果。本地配置搜索只支持缩小闭环，晋级必须遵守验证与测试隔离。
教学例子：Actor建议增加多样性权重，Critic发现延迟预算可能超标；真实运行失败后把失败条件存成技能，下轮便不再无条件复用同一方案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
本地 AgenticRecTune 怎样避免让测试集成为三轮配置搜索的调参工具？
AgenticRecTune: Multi-Agent with Self-Evolving Skillhub for Recommendation System Optimization
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：每轮 Actor 产生有限 genome，Critic 仅使用 validation 比较与选择，再把已选结果写入技能或状态。test 留到最终选择完成后评估，不能反复查看再决定下一轮配方。本地只执行有界公开数据搜索，不具备真实实验平台的线上权限。
教学例子：三轮分别试不同融合权重，都只看验证分；最后确定冠军后才揭开测试结果，即使测试较差，也不能回头用它再挑另一个冠军。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
AgenticRecTune 的 SkillHub 与每轮从零调用同一提示词相比，有什么持续学习差别？
AgenticRecTune: Multi-Agent with Self-Evolving Skillhub for Recommendation System Optimization
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：每轮从零容易重复无效尝试，SkillHub 将经过反馈的策略与约束保留为可复用知识，使后续提案基于已有实验。它保存的是可审计经验，并非把任何一次高分都当真；经验能否迁移仍取决于数据与场景相容性。
教学例子：前轮发现某多样性配置损害新用户相关性，后轮提案可带上这个条件限制；若只是重复旧提示词，agent 可能再次提出同一已失败配置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
AgenticRecTune 为什么把配置搜索视为跨召回、融合、重排的配方，而非只调一个模型学习率？
AgenticRecTune: Multi-Agent with Self-Evolving Skillhub for Recommendation System Optimization
问答新增：2026-10-27 · Google / Discover
展开答案与例子
答案：最终推荐由多环节共同决定，一个环节改动可能改变下游候选分布。把配方作为搜索对象才能联合考虑质量、多样性与风险，再由不同职责的 agent 提案、审查和沉淀经验。单个指标上升仍需要对应环节与完整链路的证据。
教学例子：提高多样性权重会改变最终列表，也可能需要召回补充更多品类；只调精排学习率无法解决候选池根本缺少这些品类的问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
RankUp 为什么不仅增加 embedding 或层数，还用随机置换分组和全局 token 对抗低秩坍缩？
RankUp: Towards High-rank Representations for Large Scale Advertising Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：参数增加并不保证表示包含更多独立方向，深层交互可能反复使用相同子空间。不同置换与多套 embedding 改变特征组合路径，全局 token 提供跨组交流，外部表征与任务解耦再补充不同信息。目标是让新增容量转成更丰富的表示秩；这些结构只是缓解手段，不能把参数变多等同于有效秩必然提高。
教学例子：四组特征若始终按同一种方式分组，层数再多也可能重复同样交叉。换不同分组并保留全局交流通道，可让原先从未同组的特征形成新的组合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
RankUp 的置换矩阵与字段 identity 为什么需要同步追踪？
RankUp: Towards High-rank Representations for Large Scale Advertising Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：XP 改变输入顺序，后续对应 embedding 与分组参数必须遵循同一映射，不然语义错位。多套表与全局 token 的残差维也要一致；测试不能用目标反馈挑最有利置换。本地 proxy 不提供完整生产 scaling law 验证。
教学例子：交换价格和年龄后仍按原语义查表，会把十八当价格编码；即使网络能拟合训练，不能称执行了同义随机分组方案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
RankUp 的随机置换分组与全共享输入，相比怎样改变交叉机会？
RankUp: Towards High-rank Representations for Large Scale Advertising Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：不同分组让原来未同组的特征有机会相遇，独立 embedding 提供多视角，全局 token 维持组间通信。全共享可能被强字段支配，分组则可能漏关系或重复。来源多项联合变化不支持把任何一个部件单独认定为全部收益来源。
教学例子：年龄与品类原被分开，另一置换让它们同组组合；若置换每次只打乱输出却不对齐参数，也可能破坏而非增加有效交互。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
RankUp 所追求的较高表示秩，为什么不能单独证明学到了更有用的兴趣？
RankUp: Towards High-rank Representations for Large Scale Advertising Recommender Systems
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：秩描述向量变化包含多少独立方向，不衡量这些方向是否对应目标信息。随机噪声也可增加秩，甚至分散原本有用结构。因此要把谱与任务指标、真实信号分组一起检查，不能只因深层 token 不再相同就宣布推荐质量或泛化已改善。
教学例子：给每位用户加随机正交噪声可让矩阵更满秩，却没有增加任何偏好知识；只有新方向携带能预测行为的线索，才可能帮助推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
MARC为什么把表征压缩与推荐适配拆开，并可能选择LLM中间层？
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：末层偏向原语言任务，中间层有时包含更适合压缩的通用特征；但压缩保留的信息与推荐所需信息并不完全相同。分开两个模块并施加信息约束，能分别管理维度成本与任务选择，减少代理任务牵着推荐目标走。中间层优势属于需要检验的经验现象，不能默认对所有模型和数据成立。
教学例子：末层很擅长预测接下来的词，中间层却更容易保留商品用途；若只追重建原向量，可把与购买偏好无关的语言信息一起昂贵地保存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MARC 的中层选择与 nuisance 投影，怎样防止验证和测试混用？
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：层号、维度及被去除方向都是模型选择，应由训练估计和验证确定后冻结，测试只报告。投影应匹配所选 hidden state 空间，不能用末层矩阵套中层而无说明。本地固定打分代理若未训练完整信息目标，结论需按实际范围限定。
教学例子：测试看哪层 NDCG 最高再宣布该层最佳，会把 test 变成调参；应先选层，再用独立目标检验压缩是否真有迁移价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MARC 的压缩与适配分离，相比一个线性降维器承担全部任务，有何好处与风险？
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：单一投影同时丢信息与学推荐易混淆目标，分开可检查压缩损失和任务适配各自作用。模块增加也带来目标耦合与选择空间，错误剔除所谓 nuisance 仍可能删有用信号。来源公开代理为负，不支持仅凭信息约束宣称泛化更好。
教学例子：先减少与内容预训特有风格相关的方向，再学用户匹配；若风格恰是用户偏好，去干扰步骤也可能错删，因此需要两阶段消融。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MARC 为什么可能选择 LLM 中间层，而不是默认最后层表示最好？
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
问答新增：2026-10-27 · Shanghai Jiao Tong University
展开答案与例子
答案：末层更贴近预训输出目标，未必最适合推荐压缩，中间层可能保留更可迁移结构。MRA 的观察促使压缩与适配分别设计，去除代理任务干扰同时保留推荐相关信息。层选择仍应依验证，不是中间层普遍优于末层的定理。
教学例子：语言末层擅长预测下个词，却可能忽略区分两类用户的细节；某中间层更适合小推荐向量，但需实际任务验证而非凭层号猜。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
FUSE不用标准答案估计验证器质量，为什么仍不能保证相关验证器越多越可靠？
FUSE: Ensembling Verifiers with Zero Labeled Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：无标签矩估计依赖多数优于随机、三元条件独立等可识别假设，并用分数变换缓解相关性后形成估计后验。多个验证器若共享错误，增加数量仍可能重复同一偏差；后验不是金标。真实标签只用于独立评估，直接平均或读答案调权重都不等于实现该方法。
教学例子：例如三位验证器复制同一错误规则，分数一致不代表答案正确；估计器需要检查信号条件，不能把一致票数直接解释为独立证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
无标签 FUSE 拟合中，标准答案能参与选择分数变换或集成参数吗？
FUSE: Ensembling Verifiers with Zero Labeled Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：按文档流程，拟合只读取验证器分数矩阵，真实标签留给独立评估。把Gold用于挑变换再在同一题集报告效果，会破坏无标签学习及独立评价的边界。
教学例子：先试很多变换并用答案选最好的一个，不能仍宣称选择过程未读取标准答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
FUSE 的矩估计后验，与独立标准答案标签提供的保证相同吗？
FUSE: Ensembling Verifiers with Zero Labeled Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：不是。后验依赖多数优于随机、三元条件独立等识别假设，高相关或常量分数可能使估计失效。它是无标签估计，不能把高后验当作真实正确性或安全保证。
教学例子：所有验证器复制同一种错误规则时，一致性很高也未必能识别真实答案。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
FUSE 为什么不满足于把多个验证器分数直接平均？
FUSE: Ensembling Verifiers with Zero Labeled Data
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：相关验证器可能一起犯错，平均会重复计算同一类证据。FUSE从候选分数矩阵估计查询条件质量，选择变换缓解相关性，再构造估计后验训练集成器。
教学例子：三个几乎一样的验证器一致，不一定比一位独立验证器提供三倍可靠证据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 StepPO 先聚合一步内的 token ratio，再对 step ratio 裁剪？
StepPO
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：环境执行的是一整个动作，逐 token 独立裁剪与动作级概率变化并不相同。先把一步中 log ratio 平均并指数化，再在 step 边界估值与 GAE，使信用单位更接近环境转移；这不允许把工具观察算成动作 token，长度归一化也须保持一致。
教学例子：例如一条 shell 命令拆成多个 token，环境只在命令完成后执行一次；应以这一步整体变化评价，而非让每个子词各自承担状态奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
StepPO 如何避免把 observation token 也混进动作 ratio 聚合？
StepPO
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：需要显式step和响应token边界，只聚合该动作的策略ratio，环境observation属于条件而非Agent生成动作。文档本地确定性工具计划只验证step状态机，不含真实LLM token rollout。
教学例子：工具返回一千字网页，不应被当成该次动作一千个策略token参与ratio均值。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
先裁剪各 token ratio 再平均，与先聚合 step ratio 再裁剪等价吗？
StepPO
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不等价。clip是非线性操作，顺序会改变哪些整体动作受约束；文档先对log ratio取平均再exp得到几何平均step ratio，不是ratio的算术均值。
教学例子：动作里一项ratio很大、另一项很小，几何聚合与逐项clip可能给出不同更新。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
StepPO 为什么把观察—动作作为自然决策单位？
StepPO
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：一次工具动作往往由多个token共同表达，逐token估值可能与环境反馈边界错位。StepPO在step边界估值、计算GAE，并把动作内token ratio聚合为step ratio再裁剪。
教学例子：一个完整工具调用包含名称和参数，但环境只在调用完成后返回反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
GroupDPO逐响应反传，为什么不能在每个微批次重新计算局部组系数？
GroupDPO: Memory-Efficient Group-Wise Direct Preference Optimization
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：系数必须由同一参数点上的完整组目标导数得到，并在逐响应反传时冻结，才能恢复全组一阶梯度。只用局部响应重算会改变正负集合和归一化，得到另一个目标。参数更新后还要重新预计算；等价仅指一阶梯度，不包括损失值或Hessian。
教学例子：一题有多个正负回答，为省显存轮流送入模型；每个回答携带全组计算的固定信用，而非在自己的小批次里重新排名。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
GroupDPO的预计算系数能在下一次optimizer更新后继续复用吗？
GroupDPO: Memory-Efficient Group-Wise Direct Preference Optimization
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：不能。参数变化后全组导数也变，必须重新计算。逐响应反传不再额外除以微批次数或局部组数；额外正样本NLL也应按全批次组定义归一，避免隐性缩放。
教学例子：例如为省一次前向沿用上步系数，会变成陈旧近似，不能再声称当前梯度精确等价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
GroupDPO支持Margin、MPO、Softmax、All-Pairs，意味着这四种组目标彼此等价吗？
GroupDPO: Memory-Efficient Group-Wise Direct Preference Optimization
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：不意味着。它们定义不同的正负集合比较方式；共享的是从选定全组目标提取导数，再分开反传的内存处理办法。更换组目标会改变优化问题，而改变响应计算批次可在规定条件下保留该目标的一阶梯度，两种改动不能混称等价。
教学例子：比较所有正负配对与先汇总正集合再比较，可能给同一响应不同系数；省显存方法可分别服务二者。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
GroupDPO的一组正负响应是多条独立候选，还是要拼成一条长回答？
GroupDPO: Memory-Efficient Group-Wise Direct Preference Optimization
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：一组属于同一提示，内部是非空的正响应集合与负响应集合，各响应保留独立概率和身份。集合关系进入组目标，不需要把文本接成长序列。理解这个单位后，才能区分“整组目标”与“同时把整组激活放进显存”这两个问题。
教学例子：同一问题有甲乙两条正例、丙丁两条负例；四条回答各自编码，目标比较两个集合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
为什么语音到语音翻译不能用参考文本的 exact match 直接评价？
NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speech Translation in Low-Resource Nigerian Languages
问答新增：2026-10-27 · Mila - Quebec AI Institute
展开答案与例子
答案：模型输出的是音频，需要先通过真实 ASR 得到转写，再以规定的语义翻译指标比较；转写误差与翻译误差都影响结果。文本完全一致会忽略合理同义表达，也绕过声音输出链路。few-shot 示例应取开发集，不能把测试参考作为提示。
教学例子：例如两段不同措辞的语音都正确表达“请明天来”，字面不一致并不必然是翻译错误，应保留语义和音频链路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
five-shot 示例和代理语言 token 分别有哪些使用边界？
NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speech Translation in Low-Resource Nigerian Languages
问答新增：2026-10-27 · Mila - Quebec AI Institute
展开答案与例子
答案：五个示例应取自 DEV，不能从正式 test 选最有帮助的示例。部分 Seamless 微调扩展将 Hausa 映到 Arabic、Naijá 映到 French token，仅是适配约定，不能声称原模型原生支持；当前本地未下载音频或执行完整训练评测。
教学例子：例如为 Hausa 微调使用 Arabic 标记，不代表输入真被翻译成阿拉伯语，也不构成无需训练就支持 Hausa 的证据。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
NaijaS2ST的文本翻译评测中，SSA-COMET与ChrF++关注的是同一种一致性吗？
NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speech Translation in Low-Resource Nigerian Languages
问答新增：2026-10-27 · Mila - Quebec AI Institute
展开答案与例子
答案：两者都比较译文，但SSA-COMET依赖多语言语义模型，ChrF++主要利用字符及词片段重叠，不能把两个分数当成同尺度的正确率。不同措辞可能保留语义却改变表面重叠；这是文本输出的互补指标，语音输出仍需经过规定的ASR链路。
教学例子：同一意思用两种合理措辞表达，字符重叠可能不同；不能因一个指标数值更大，就说它对应更多百分比的正确翻译。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
NaijaS2ST 的多口音设置对翻译评测提出什么额外要求？
NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speech Translation in Low-Resource Nigerian Languages
问答新增：2026-10-27 · Mila - Quebec AI Institute
展开答案与例子
答案：同一语言的发音差异会影响语音理解和输出评估，所以数据覆盖多位说话人与口音，并按翻译方向分别报告。语音到文本和语音到语音也要区分，不能把一个方向或少数说话人的结果概括为所有尼日利亚语言与口音的能力。
教学例子：例如英语到 Hausa 的结果不能替代 Hausa 到英语；某口音识别顺利也不能证明另一口音的语音合成同样可靠。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
LWGR为什么学习个性化soft instruction，还要约束相对冻结reference的退化？
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
问答新增：2026-10-27 · Alibaba International / CAS
展开答案与例子
答案：固定prompt难以适应不同用户，分子空间codebook生成可训练soft tokens，让外部知识提取随偏好变化。但LLM知识也可能与行为模型冲突，冻结reference提供比较锚点，用置信度退化约束限制有害融合；nearline预计算控制服务成本。学到prompt并不保证知识真实或比行为信号更可靠。
教学例子：同样喜欢旅行，有人关注低价、有人关注摄影，soft instruction可引出不同知识；若新知识使既有可靠候选明显降分，约束应阻止无条件覆盖旧模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
LWGR 的 straight-through code 选择与 dual update，分别应怎样检查？
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
问答新增：2026-10-27 · Alibaba International / CAS
展开答案与例子
答案：前向用硬码而反向保留软分布梯度，需验证 soft-instruction 参数实际更新；λ 则按 C−ε 更新并投到非负。乘子变大只说明违反约束产生响应，不证明已满足。冻结 reference、BOS 融合和 nearline 缓存是不同接口，不能互相替代。
教学例子：C 仍高于容限而 λ 稍升，应报告约束未达成；若硬索引彻底切断梯度，模型也没真正学习个性化指令，即使代码能选码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
LWGR 的 reference 置信度退化约束与普通 KL，相比保护什么量？
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
问答新增：2026-10-27 · Alibaba International / CAS
展开答案与例子
答案：来源约束正目标平均 token log-prob 相对参考的下降超容忍部分，关注有害融合导致的置信损失；KL 则衡量整个分布偏离，两者不等价。约束需要实际满足而非只更新乘子，本地 λ 变化但退化未改善，不能宣称保护有效。
教学例子：模型可把概率移给另一合理候选使 KL 增大，却未严重损害原目标；反过来原目标下降很大时，单边退化约束才明确施压。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
LWGR 的 soft instruction 为什么能表达用户差异，而不只是另一段人工提示？
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
问答新增：2026-10-27 · Alibaba International / CAS
展开答案与例子
答案：用户上下文分子空间，在独立码本选择 codeword，形成可端到端优化的软 token，和历史文本共同产生用户知识。提示参数可随推荐监督改变，不只依人工措辞。软指令仍受码本容量与训练支持限制，不保证对应可读语言意图。
教学例子：摄影初学者与专业用户可选择不同软 token 组合，即使人工提示都写“分析兴趣”，模型仍有可学习的个性化接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GenRec为什么把下一页作为序列目标，并在GRPO旁保留NLL约束？
GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：单item监督只告诉模型下一件是什么，不能直接学同页顺序与互补。页面序列目标表达组合关系，组内reward优势推动整页效果；NLL继续约束日志支持的行为，减少只追奖励造成的策略漂移。若页面奖励遗漏相关性或可行性，生成整页也可能放大偏差，不能把reward上升直接当用户满意。
教学例子：三件内容分别高分却高度重复，页面目标可以学到替换其中一件；但若只奖励新颖，可能生成不相关内容，NLL帮助限制这种偏离。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GenRec 的组内 advantage 为什么只能比较同一上下文生成的页面？
GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：同组页面共享用户历史与候选难度，均值扣除才表达相对好坏；跨用户混组会把请求难度误当动作优势。页前缀与重复 mask 也需同步更新，NLL 正则针对合法目标。Token Merger 压缩不允许把测试未来页写回输入。
教学例子：摄影用户本来易命中、冷用户较难，混组会让后者全负；分别比较各自几页生成，才能评价模型在该请求下哪种组合更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GenRec 保留 NLL 与仅追逐 GRPO-SR reward，相比约束了哪类漂移？
GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：组相对奖励让策略比较整页效用，NLL 继续约束日志行为拟合，防止稀疏或有偏奖励把生成分布拉得太远。两者权重是模仿与探索的取舍，不保证奖励增大即真实满意提升。来源本地大相对增幅也受代理标签与基线影响。
教学例子：多样性 reward 偏高可能鼓励不相关新奇列表，NLL 保留基础兴趣；若完全删掉它，模型更容易为单一代理目标走捷径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GenRec 为什么把连续多个正反馈组织成下一页目标？
GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：用户同页消费存在互补与顺序关系，逐点预测只拟合某个下一项，难直接考虑页面组合。页序列让后续选择依赖前缀，组内奖励评价整页；公开数据按连续行为构造页面只是替代定义，未必等于真实曝光页。
教学例子：露营需求可能同时需要帐篷、睡袋和防潮垫，整页目标可学习它们配合；三个连续看过电影也能组成代理页，但不代表真实曾同时展示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
UniRec-CoA 为什么在 SID 前生成属性链，并对量化容量加约束？
UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute
问答新增：2026-10-27 · Authors did not disclose affiliation / large-scale e-commerce platform
展开答案与例子
答案：属性链先把品类、卖家、品牌等结构化条件显式带入生成，使后续 SID 依赖更具体的上下文；容量约束限制热门 token 挤占码空间，任务上下文再区分不同场景需求。链式分解提高条件组织能力，也会传播早期属性错误，不能把可解释链条的存在等同于最终生成必然正确。
教学例子：先确定运动鞋、目标品牌和卖家范围，再生成具体商品码。若第一步把品类选成皮鞋，后续再精细也容易偏离；容量约束则防止所有商品都挤向热门品牌路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
COA的属性标签可以用目标未来行为反推后输入吗？
UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute
问答新增：2026-10-27 · Authors did not disclose affiliation / large-scale e-commerce platform
展开答案与例子
答案：不能，属性来自训练允许商品信息，目标商品属性可作生成监督而非已知答案提示。当前固定MovieLens候选机制没有私有目录与生产多场景链路。
教学例子：例如预测下一物品时先输入该物品真实品牌，会让任务过于容易。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
容量受限量化与只最大化热门码似然有什么差别？
UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute
问答新增：2026-10-27 · Authors did not disclose affiliation / large-scale e-commerce platform
展开答案与例子
答案：容量约束抑制热点token挤占，使码使用更分散；单似然易跟随频率。均衡仍需与相关性联合评估，不能只报码利用率就宣称推荐更好。
教学例子：例如不让所有常见商品挤进同一桶，但也不能为了均匀随机分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
Chain-of-Attribute UniRec为什么在SID前生成属性链？
UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute
问答新增：2026-10-27 · Authors did not disclose affiliation / large-scale e-commerce platform
展开答案与例子
答案：品类、卖家和品牌等属性可给纯语义码增加显式商品条件，缓解生成与判别表达差距。属性链是内容引导，不等于自然语言CoT已经具备独立推理能力。
教学例子：例如先决定品牌与品类，再生成具体语义路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
HILL为什么学习索引节点时也让用户与交互塔参与，而不只对item向量聚类？
Efficient Retrieval Scaling with Hierarchical Indexing for Large Scale Recommendation
问答新增：2026-10-27 · Meta / Facebook and Instagram Ads
展开答案与例子
答案：普通索引主要保持item几何近邻，未必与复杂交互模型的选择目标一致。HILL让节点作为可训练替代表示进入用户—物品交互，再用下一层残差补足上层未表达信息，使粗细索引共同服务检索。层级beam仍可能漏掉路径，少量test-time样本也不能用隔离测试答案来挑选或更新。
教学例子：两个商品内容向量很近，却被不同人群偏好；只按item距离可能分到同桶，交互驱动的节点学习可让索引更贴近实际用户选择，再逐层缩小候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
HILL 的 soft assignment 与层级 beam，为什么需要分别验收？
Efficient Retrieval Scaling with Hierarchical Indexing for Large Scale Recommendation
问答新增：2026-10-27 · Meta / Facebook and Instagram Ads
展开答案与例子
答案：训练用连续分配构造伪 item 并传梯度，服务沿离散层级搜索有限分支，两条路径可能有差距。应检查归一、残差更新、父子映射与实际候选预算，不能用 soft 重构好证明 beam 覆盖好；小目录结构波动也需记录。
教学例子：目标商品在软分配中获若干节点少量质量，硬 beam 却可能一个都不保留；因此训练 loss 好看仍可能服务漏召。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
HILL 的残差子层与重复对原向量聚类，相比为何能提供互补层次？
Efficient Retrieval Scaling with Hierarchical Indexing for Large Scale Recommendation
问答新增：2026-10-27 · Meta / Facebook and Instagram Ads
展开答案与例子
答案：下一层量化前层未解释的残差，专注补充已有节点不足；反复聚原向量容易重复最强方向。互补只是设计目标，树搜索预算与路由误差仍会漏候选。来源本地压缩有效但质量负向，不能将候选比例下降直接当系统更好。
教学例子：首层已表达电子产品主题，残差再区分用途与价格；若每层都主要重学主题，增加树深却没有增加有用区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
HILL 为什么让 user 和交互信号参与索引节点学习？
Efficient Retrieval Scaling with Hierarchical Indexing for Large Scale Recommendation
问答新增：2026-10-27 · Meta / Facebook and Instagram Ads
展开答案与例子
答案：普通 ANN 只组织 item 几何近邻，可能与复杂交互塔的相关性不一致。节点伪 item 与用户一起经模型评分，把检索决策需要的关系纳入索引，再按层缩小候选。索引不再只是静态聚类，训练、树结构与服务路径需共同维护。
教学例子：两个向量近的商品对不同用户价值不同，交互监督可让树按推荐需求组织，而不只按内容距离把它们放在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
Lightning OPD缓存的是学生轨迹上的教师评分，为什么不能等同持续更新的在线教师蒸馏？
Lightning OPD
问答新增：2026-10-27 · MIT HAN Lab
展开答案与例子
答案：先由学生采样、再用一致教师配置打分，可一次付出教师成本，后续训练读取缓存。标签最初位于学生分布，但学生更新后访问状态会变化，旧缓存不会自动覆盖新状态。因而成本收益与缓存覆盖、教师一致性有关，本地只验证数据流，没有真实词表蒸馏成绩。
教学例子：例如学生初期常犯某类错误，缓存能教这些前缀；当学生后来走出新解法，旧缓存不会自动补上新前缀，需要另行定义刷新协议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
Lightning缓存应核对哪些身份以避免teacher mismatch？
Lightning OPD
问答新增：2026-10-27 · MIT HAN Lab
展开答案与例子
答案：教师检查点、提示、tokenizer、响应内容与位置mask需一致，修改文本或教师配置后不能沿用旧标签。当前本地只有缓存数据流，未跑真实Qwen词表蒸馏和AIME。
教学例子：例如分词器升级后旧位置logp可能错位，不能仅因文件名相同继续读。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
离线教师缓存与每步刷新学生轨迹的OPD有何覆盖差？
Lightning OPD
问答新增：2026-10-27 · MIT HAN Lab
展开答案与例子
答案：缓存保留初始学生访问状态，当前学生更新后可能走新状态，在线刷新能覆盖这些变化但更贵。两者是覆盖和成本取舍，不可称缓存永远保持当前on-policy。
教学例子：例如学生新学到另一解法，旧缓存并没有自动获得其前缀标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
Lightning OPD为什么把教师打分移到训练前缓存？
Lightning OPD
问答新增：2026-10-27 · MIT HAN Lab
展开答案与例子
答案：教师在线推理可能成为瓶颈，先对学生生成轨迹一次评分，训练反复读标签，减少持续教师调用。成本被前置，不代表初次打分或学生生成免费。
教学例子：例如先备好每个前缀的教师分数，再在多次更新时重复使用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
SOLARIS 为什么预测未来 user-item pair 后预计算 latent，而不只缓存一个通用用户向量？
SOLARIS: Speculative Offloading of Latent-bAsed Representation for Inference Scaling
问答新增：2026-10-27 · Meta
展开答案与例子
答案：强模型的交互 latent 依赖具体用户与物品，单一用户向量未必保留这种深度配对信息。预测器提前挑可能访问的 pair，异步计算并缓存，再在请求命中时消费，未命中走 fallback。收益取决于覆盖率、时效和预算；未来交互可用于训练预测器，但在线缓存选择不能偷读真实未来答案。
教学例子：后台预测用户近期可能看到十件商品，先计算这十组深交互。请求出现其中一件时直接用缓存；出现意外商品就走常规路径，而不是假设所有未来候选都已准确知道。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
SOLARIS cache key需要包含哪些更新语义？
SOLARIS: Speculative Offloading of Latent-bAsed Representation for Inference Scaling
问答新增：2026-10-27 · Meta
展开答案与例子
答案：至少能识别用户物品对、模型与特征版本及有效时间，命中读取与未命中fallback明确。当前抽象路径不证明真实异步服务延迟，不能仅用命中率推断收益。
教学例子：例如同一pair模型升级后旧latent不应无标记继续当新结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
latent cache与缓存最终排序列表有什么不同？
SOLARIS: Speculative Offloading of Latent-bAsed Representation for Inference Scaling
问答新增：2026-10-27 · Meta
展开答案与例子
答案：latent是可供轻量ranker使用的中间特征，可结合当前信息重评分；最终列表缓存固定排序更直接。中间缓存仍有陈旧与版本一致性问题，不是永远有效。
教学例子：例如同一缓存latent加上当前价格，可得到与昨天不同的最终顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
SOLARIS为什么预测未来user-item pair再算latent？
SOLARIS: Speculative Offloading of Latent-bAsed Representation for Inference Scaling
问答新增：2026-10-27 · Meta
展开答案与例子
答案：请求时全配对大模型计算太贵，先预测可能访问的pair，异步预计算，使在线命中只需轻量消费。预测不准会浪费预算，未命中仍需fallback。
教学例子：例如提前准备用户可能看的几条内容表示，而不对全目录每项都算大模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SID-Coord 为什么让 HID 与多层 SID 的融合 gate 依赖目标，而不是固定比例相加？
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：头部物品的哈希 ID 有充分行为记忆，长尾物品更需要语义码共享知识，固定比例无法兼顾每个样本。目标感知 gate 决定两类信号的使用程度，多层融合保留粗细语义，历史对齐再连接用户兴趣。门控是在两种信息来源间协调，不代表 SID 能替代所有记忆，也不能保证每个长尾样本都会受益。
教学例子：热门电影已有大量点击，评分可多用 ID 记忆；刚上线电影行为少，更多依赖主题与风格 SID。即使同一用户，两种候选也可使用不同融合比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SID-Coord的分层α和样本gate需怎样对齐？
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：层权重对应同一物品各级SID，gate对应当前用户目标对，不能混广播成全批常数。当前MovieLens代理未复刻生产语义码和线上流量，公开变化不等同原文业务增益。
教学例子：例如把候选A的细码分配给B，形状相同仍会造成语义错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
SID-Coord的层级权重α与HID–SID样本gate，是同一个混合轴吗？
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不是。α在同一物品的多级SID之间分配贡献，gate在该样本的HID记忆与SID语义分支之间协调。把两者折成一个常数会同时抹掉层级与样本差异；它们虽都叫权重，却作用于不同信息来源和张量维度。
教学例子：先决定粗细两级语义怎样组合，再决定这份语义与HID记忆如何取舍，是两次不同的加权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SID-Coord为什么同时保留HID与SID？
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：HID擅长头部记忆，分层SID帮助语义共享和长尾泛化；按目标门控及历史对齐逐样本协调，而非一律换成语义表示。两者贡献随数据密度变化。
教学例子：例如热门物品可依ID经验，新物品更多依赖相近语义码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
图记忆与 policy 为什么都要随新 rollout 更新，而不能只固定一张工具关系图？
SEARL
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：新执行会揭示哪些工具转移可用、哪些失败，图边权应反映这些证据；策略同时学习怎样利用更新后的关系。固定图只能复用旧经验，可能限制后续探索，单更新图又不保证策略会读；两侧闭环仍需真实奖励，不能用预设成功边制造进步。
教学例子：例如新任务发现某工具返回可直接喂给另一工具，图中新增转移后，策略也要学会选这条路线，而不是永远沿旧流程行动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
SEARL 怎样证明图更新被后续决策实际消费，而非只写了日志？
SEARL
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：应对照rollout前后边权、后续检索命中与policy输入，验证更新确实改变可用经验。非零telemetry只说明操作发生，当前mini-suite不能因此升级为真实网页或多卡RL能力。
教学例子：边权文件改了，但后续策略始终读旧缓存，就没有形成所声明的经验闭环。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
SEARL 的联合图/策略更新，与只改记忆库不改 policy 有什么差别？
SEARL
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：只改图主要改变外部检索信息，联合更新还改变策略如何使用这些信息并行动。反过来只训policy但固定图，也遗漏经验结构演化；两条状态轨迹需分别记录。
教学例子：图里新增一条成功边，不代表策略参数已学会在相关状态使用它。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
SEARL 为什么把工具经验存成带成功转移的图？
SEARL
问答新增：2026-10-27 · Shanghai AI Laboratory
展开答案与例子
答案：图能表达工具与有效转移的关系，供后续检索和策略决策；新rollout再更新边权与policy，使经验不是静态说明书，而能随实际结果改变。
教学例子：某工具调用顺序多次成功后，其关联可在新任务里被更容易取回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
动作已在共享日志 commit，崩溃后为什么仍不能无条件再次执行？
LogAct: Enabling Agentic Reliability via Shared Logs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：日志提交说明批准意图，不一定能确定外部副作用是否已经发生；崩溃可能出现在调用成功但回执未写入之间。恢复需幂等键或事务契约区分未执行与已执行，独立投票也只控制批准过程，不能凭对话记录保证外部 exactly-once。
教学例子：例如付款调用成功后进程崩溃，日志没有结果；直接重放可能重复扣款，应依赖幂等或事务查询，而非只看 commit 状态。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
本地LogAct的quorum和崩溃恢复怎样处理？
LogAct: Enabling Agentic Reliability via Shared Logs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：固定N命名voter至少k同意，同voter去重且不可改票；started无Result默认不重试。仅明确幂等并显式recover、排除仍活跃执行器后才用稳定key恢复，不支持任意动态策略语言。
教学例子：例如两次同人投票不能当两票，已提交也不意味着未知副作用可随意再做。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
LogAct的k-of-N批准，与必须等所有投票返回后才能决定有什么区别？
LogAct: Enabling Agentic Reliability via Shared Logs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：本地固定批准条件允许达到k票即提交；若已批准数加未投票数仍不足k，则可提前拒绝。它不必等待无力改变结果的剩余票，且同一Voter不能重复计票。这是固定阈值下的决策性质，不代表已实现所有动态审批策略。
教学例子：三位Voter要求两票，前两票都批准即可提交；前两票都拒绝时，最后一票也无法凑足两票。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
LogAct为什么把投票提交与执行分开？
LogAct: Enabling Agentic Reliability via Shared Logs
问答新增：2026-10-27 · Meta
展开答案与例子
答案：意图、审查与commit持久记录后才允许执行，让授权判断与外部副作用解耦，并可审计崩溃状态。对话里说同意不等于已有可信持久commit。
教学例子：例如先写入批准结果，再让执行器调用支付接口。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
Dual-Rerank的非自回归学生并行输出，怎样吸收自回归教师的顺序依赖？
Dual-Rerank: Fusing Sequential Dependencies and Utility for Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：教师逐项条件化已有前缀，能学习列表中物品之间的作用，但服务成本随生成步骤增加。学生通过排序分布与utility蒸馏，把教师的顺序偏好压入可并行的名次估计，减少上线逐步调用。蒸馏只能近似教师依赖，并不使并行学生天然等价于每个前缀都重新计算的自回归模型。
教学例子：教师知道先展示教程会改变后面器材的价值，学生学习这种整体名次模式后一次给出列表；遇到新组合时仍可能无法完全复现教师的逐步判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
AR 与 NAR 做 KL 时，为什么候选、位置与 mask 需要同义对齐？
Dual-Rerank: Fusing Sequential Dependencies and Utility for Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：教师每步受已选前缀约束，学生位置头可能并行看全部候选；蒸馏应明确比较同一事件空间，padding 和已选项处理一致。不能把最终教师分数复制给每个位置就声称学到顺序。候选列顺序错位时形状相同也不构成有效监督。
教学例子：教师第二位已排除第一位电影，学生若仍在全库归一，概率分母不同；必须定义映射，而非直接相减两个同长度数组。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
效用蒸馏与只拟合 AR 概率，相比允许怎样的学生取舍？
Dual-Rerank: Fusing Sequential Dependencies and Utility for Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：KL 关注分布接近，效用项让质量与服务约束共同参与学生目标，容许有限偏离教师以满足实际成本。效用代理若错误也会教坏学生，不能据目标里有延迟一词就认定真实服务更快；两种贡献应分别检验。
教学例子：学生可优先保留影响列表价值的关系，而不精确拟合所有尾部概率；若效用只奖励速度，也可能变成很快但无关的输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
Dual-Rerank 为什么分别使用 AR 教师与 NAR 学生？
Dual-Rerank: Fusing Sequential Dependencies and Utility for Generative Reranking
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：教师逐项条件化，适合学习前缀与顺序依赖；学生并行估计名次，减轻实时解码成本。训练把教师分布与效用迁给学生，服务不重复运行完整教师。并行输出仍需检查去重与位置一致性，也不能假定蒸馏保存全部教师能力。
教学例子：教师先选基础教程再选进阶内容，学生学习这种偏好后一次给多个位置评分；它不需要在线再逐项复制教师搜索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
长推理轨迹达到参考门槛，为什么摘要还要单独预测并再次过门？
TFRBench: A Reasoning Benchmark for Evaluating Forecasting Systems
问答新增：2026-10-27 · Google Cloud AI Research / University of Kentucky
展开答案与例子
答案：摘要可能省掉决定预测的关键证据或条件，不能继承原轨迹的正确性。数值误差与推理一致性共同约束参考，且标签参与筛选只说明构建质量，不是留出能力成绩；历史尺度为零时指标未定义，应拒绝而非加任意 epsilon 制造良好结果。
教学例子：例如长轨迹解释季节变化并预测正确，摘要只剩“趋势向上”后重新预测可能失准，需要独立验证压缩是否保留了依据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
TFRBench历史季节尺度为零时能加epsilon给高分吗？
TFRBench: A Reasoning Benchmark for Evaluating Forecasting Systems
问答新增：2026-10-27 · Google Cloud AI Research / University of Kentucky
展开答案与例子
答案：不能，MASE未定义应拒绝该样本；参考准入严格MASE小于一且S至少四。复合排序权重需显式，本地策略不是作者唯一指定公式，未来真值只给评分器。
教学例子：例如常量历史无差分尺度，不能人为造一个分母再声称正常误差可比。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
TFRBench的MASE与直接比较不同序列的MAE，尺度解释有什么区别？
TFRBench: A Reasoning Benchmark for Evaluating Forecasting Systems
问答新增：2026-10-27 · Google Cloud AI Research / University of Kentucky
展开答案与例子
答案：MASE用历史季节差分的平均绝对变化归一化预测误差，使门槛相对于该序列的历史尺度定义。原始MAE仍带各序列单位，不能直接跨量纲比较。MASE小于一是数值准入条件，还需独立的一致性门槛；历史尺度为零时公式未定义。
教学例子：同样差10，在高波动销量和近乎恒定温度里含义不同；先按各自历史季节变化归一，才有规定尺度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
TFRBench为什么同时验数值误差与推理一致性？
TFRBench: A Reasoning Benchmark for Evaluating Forecasting Systems
问答新增：2026-10-27 · Google Cloud AI Research / University of Kentucky
展开答案与例子
答案：预测接近可能靠偶然，解释流畅也可能预测错，参考轨迹需两条都合格。构建时用标签筛选与反馈，因此参考制作过程不能直接算留出能力成绩。
教学例子：例如碰巧猜中趋势却无证据，与有根据但数值偏差大，均不完整合格。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么引用核验与修订接纳不能替代真实实验和论文论证？
PaperOrchestra: A Multi-Agent Framework for Automated AI Research Paper Writing
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：引用实体、摘要和截止时间检查只保证来源身份及时间资格，修订分数只约束既有内容的改写方向。五类写作 Agent 应基于真实想法与日志组织稿件，不负责凭空创造结果；机械 BibTeX 校验或判定器也不能被包装为完整文献综合与研究能力。
教学例子：例如图表 Agent 可根据已有实验日志画曲线，却不能为让稿件完整而填一组想象指标；引用真实也不会使虚构结果变真。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
引用核验和修订回退有哪些具体条件，本地完成到哪一步？
PaperOrchestra: A Multi-Agent Framework for Automated AI Research Paper Writing
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：引用须匹配实际实体、有摘要、严格早于截止并按 paper ID 去重；修订分数下降，或平分但子轴净退步时回退，最多三轮。本地仅资料与成本审查，无五 Agent、写作模型或 metrics，不能用 BibTeX 检查器冒充完整文献综合能力。
教学例子：例如同一论文两个网址应按实体去重，截止日之后的成果不能用来生成截止前研究材料；格式合法也不说明引用支持句子。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
自动评价与人工偏好为什么不能当同一种写作质量结论？
PaperOrchestra: A Multi-Agent Framework for Automated AI Research Paper Writing
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：自动 judge 可能偏好形式与流畅度，人工尤其在文献综述上有不同判断，原文也报告两者相关性较弱。修订总分提高仍需核查事实和子维度，不能把单一 judge 提分当真实论文质量或研究正确性已验证。
教学例子：例如生成更多相关术语可能让自动分数升高，但引用错配或夸大实验仍会降低专家对文献综述的评价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
PaperOrchestra 为什么需要把已有实验材料组织成论证，而不只生成流畅论文段落？
PaperOrchestra: A Multi-Agent Framework for Automated AI Research Paper Writing
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：研究写作要把问题、方法、证据与引用连接起来，流畅文本可能掩盖缺失实验或不受支持的结论。PaperOrchestra 研究多角色如何围绕已有想法和日志协作写作、核查与修订。写作自动化不补足未做的科学验证，引用存在也不表示它支持当前主张。
教学例子：教学例：日志只有两个数据集，就应围绕这两项解释证据；把语言改得更肯定，不能创造第三个实验或泛化结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
MBGR为什么为每个业务寻找最近未来交互，而不只监督日志中的下一条事件？
MBGR: Multi-Business Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：多业务事件交错时，实际下一条可能属于高频业务，稀疏业务长期得不到直接监督。LDR在当前时刻为各业务寻找最近未来目标，结合业务条件表示，让同一上下文学习多条发展方向；没有对应未来事件时必须mask。构造这些标签仅限训练，评估策略不能把它们当作当前已知输入。
教学例子：用户先刷视频再搜索商品，下一条总是视频会淹没购物监督；按业务寻找未来目标能保留购物分支，但不能把未来购买ID直接喂给当前推荐器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
MBGR 找不到某业务未来事件时，为什么不能用最后物品或 padding 充标签？
MBGR: Multi-Business Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：该业务在当前监督窗口没有可观测目标，填补会制造虚假转移，必须 mask 对应 loss。t′ 应是严格晚于当前且满足业务身份的最早位置，不能只按品类相似替代。训练标签可见与推理输入可见应分开。
教学例子：用户后续再没购物，就不应把最后看过电影当购物正例；mask 会减少监督，却保留“未观测”而非编造答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
Business-conditioned MoE 与为每个业务独训生成器，相比共享发生在哪里？
MBGR: Multi-Business Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：专家池共享通用变化，业务条件 gate 产生特定表示，business-conditioned autoencoder 还维持 SID 语义。独立模型容易重复学习但少冲突，共享则需防负迁移。业务以 genre 代理不等于真实跨产品标签，来源本地未见收益需保留。
教学例子：购物与内容业务可借同一语义专家，门控比例不同；若独立训，两者无法交换知识，但共享过强又可能让大流量内容压制购物。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
MBGR 为什么为每个业务分别找最近未来交互？
MBGR: Multi-Business Generative Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：多业务日志交错，单一步 next-item 只监督实际下一条业务，其他业务得不到同一时刻的目标。LDR 向后查每个业务最近事件，让共享状态学习多方向预测，无未来标签的业务被 mask。它是多任务监督，不允许把未来事件提前输入历史。
教学例子：下一条是短视频，但稍后还有购物，当前状态可分别学习两者；若只学全日志紧邻项，购物目标会被大量视频事件遮住。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
正确性批判和错误性批判为什么不是同一判断的简单重复？
Reasoning-Driven Synthetic Data Generation and Evaluation
问答新增：2026-10-27 · EPFL
展开答案与例子
答案：生成样本可能让单个审查器迎合表面合理性，分别问支持正确与识别错误提供互补筛选；接纳同时要求需求满足、正批判肯定及负批判否定。因素树控制覆盖，批内相对难度再校准复杂度，不能用规则替代语义批判后声称数据质量已验证。
教学例子：例如题目看似完整却暗含互斥条件，正向审查可能略过，专门寻找错误的批判应暴露矛盾，而非仅重复一句“看起来不错”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
Simula 正反 critic 共用同一底模时，能把第一次 verdict 塞给第二次吗？
Reasoning-Driven Synthetic Data Generation and Evaluation
问答新增：2026-10-27 · EPFL
展开答案与例子
答案：不能。二者应独立调用、各自只收到样本；接纳需要求critic通过、correct肯定且incorrect否定。语义生成与批判是核心，fixture回调或短文本零13-gram重叠不能证明完整质量或无污染。
教学例子：先告诉错误性critic“另一个已判正确”，会破坏两份独立判断。
依据：核心公式、数据协议与调用边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
Simula 的 Elo 相对复杂度，与一个模型直接给绝对难度分有何不同？
Reasoning-Driven Synthetic Data Generation and Evaluation
问答新增：2026-10-27 · EPFL
展开答案与例子
答案：Elo用批内成对比较的胜负更新相对排名，结果与对局和超参有关；绝对分数是另一种尺度。文档明确本地初始1000、尺度400、k32是显式配置，不冒称作者唯一设定。
教学例子：某题相对同批其它题更难，不等于已拥有跨所有任务通用的绝对难度单位。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Simula 为什么先建因素分类树，再生成具体样本？
Reasoning-Driven Synthetic Data Generation and Evaluation
问答新增：2026-10-27 · EPFL
展开答案与例子
答案：直接扩写种子容易覆盖不足或样本相似。分类树组织因素和组合空间，生成时再控制全局节点组合与局部场景，之后经独立批判和相对复杂度校准。
教学例子：先区分任务类型、条件与难度因素，再组合出不同案例，而非反复改写同一题。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RCLRec 为什么把转化相关历史逆序放到 decoder 前缀，并按课程质量加权？
RCLRec: Reverse Curriculum Learning for Modeling Sparse Conversions in Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：转化标签稀疏时，最终目标难给长历史中的每一步充分监督。选择相关短子序列并逆序组织，使靠近转化的行为优先成为生成条件，联合目标提供中间学习信号。质量权重降低无信息课程的影响；但课程选择若只依赖错误相关性，也会强化偏差，因此不能把任意历史重排都称为有效课程。
教学例子：购买前先搜索、比较、加购，课程从更接近购买的加购行为向前组织，帮助模型学习关键链条；无关的偶然浏览被降低权重，而不是同等参与解释转化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
RCLRec 的 reverse sequence 在实现时，为什么要保留事件时间与可见性含义？
RCLRec: Reverse Curriculum Learning for Modeling Sparse Conversions in Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：逆序是组织训练前缀，不允许把目标后的事件加入证据。选择范围、排序方向与质量 mask 都要明确，decoder 因果规则也要对应变换后布局。若仅反转 tensor 却沿用错误位置标签，模型学到的并非原定义课程。
教学例子：训练取购买前加购和比较可倒序呈现，购买后的退货不能因此混入前缀；倒序不改变事件本来何时才可知道。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
质量加权课程与所有构造序列等权，相比怎样抑制无信息监督？
RCLRec: Reverse Curriculum Learning for Modeling Sparse Conversions in Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：q(C) 调节课程损失贡献，弱或无关片段少影响主目标，避免稀疏转化被低质中间任务带偏。质量估计也可能错误，权重过度集中会减少覆盖。机制不等于效果保证，来源公开代理退化需保留。
教学例子：重复十次无关点击虽能组成长课程，不应比一次清楚的比较—加购链得到更多权重；质量系数控制它而不是按长度奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RCLRec 的课程质量权重为零，是否意味着主目标也停止学习？
RCLRec: Reverse Curriculum Learning for Modeling Sparse Conversions in Generative Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce Group
展开答案与例子
答案：不意味着。来源将损失写成主目标加 λq(C) 倍课程项，q(C)=0 会使该课程项在总损失数值中消失，主目标项仍保留。质量控制针对辅助监督的贡献，不应误改成遮掉整个样本。讨论梯度时还需区分权重是否也是可训练量。
教学例子：一条购买样本的课程片段很差，可以不计该辅助目标，仍用真实购买标签训练主预测；直接丢掉整条样本会连有价值监督也删除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
跨域蒸馏为什么能不拿源域训练数据，却仍不能无条件信任源域teacher？
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：teacher可以直接对目标域样本输出任务与辅助任务知识，学生只需学习这些响应，因而不必获得源域日志。但源域模型面对新产品时仍可能校准错误或缺少关键特征，监督应与目标任务联合使用。知识可迁移不等于效果必然迁移；本地跨域对照的负结果不能被teacher规模掩盖。
教学例子：视频平台大模型给音乐场景样本提供偏好分布，学生可借到兴趣模式；但如果teacher把视频观看习惯等同于听歌习惯，蒸馏也会传入错误偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
跨域 KD 温度蒸馏项为什么包含 T²，辅助 logits 又应如何对齐？
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：温度改变 softmax 的锐度，也缩放梯度，T² 用于补偿相应训练尺度。teacher 与 student 任务维度和类别含义必须对应，辅助项不能因形状相同就任意配对。服务只保留 student，教师输出是训练信号而非必须在线调用的特征。
教学例子：教师的“长看”辅助头不能与学生的“付费”头逐维拟合；提高温度可揭示软关系，但不能修复任务语义配错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
跨域 KD 的 target-only student 对照和同域 DIN 对照，分别检验什么？
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：target-only 与 KD student 隔离蒸馏增加的知识，DIN 则提供不同模型的整体水平参照。学生内部改善并不代表达到强基线；来源两种结果相差很大，必须分别说明。温度蒸馏机制对比也不能代替统一数据、候选和预算的实测。
教学例子：学生从十分快到十一分是内部正增量，但 DIN 有三十分，不能把前者写成超越现有模型；两组比较回答不同问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
跨域 KD 为什么可以在目标域样本上调用源域 teacher，而无需取得源域原始训练数据？
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：知识通过 teacher 的输出分布和辅助任务信号迁移，student 学习这些响应而非重放源域数据。目标标签仍约束实际服务任务，因此教师需要能理解目标样本可用特征。没有源数据降低接入门槛，却不能证明源教师在新域校准正确。
教学例子：大视频 teacher 对音乐样本输出偏好分布，小音乐 student 学习这些软信号；系统并没有拿到全部原视频日志，也不能假设视频偏好全部适用于音乐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Switch Attention是给每层固定一种模式，还是逐token决定是否需要全局attention？
Switch Attention: Towards Dynamic and Fine-grained Hybrid Transformers
问答新增：2026-10-27 · Peking University / Huawei Technologies
展开答案与例子
答案：它用细粒度router决定当前token走全局还是局部注意力，因此同一层里不同位置可以使用不同读取范围。训练需处理这种选择的离散性，不能把硬路由当作普通可微操作。计算收益取决于实际全局调用比例和实现开销，选择更稀疏本身不保证质量保持。
教学例子：一句话中多数连接词只需局部上下文，引用开头人名的位置则可能需要全局检索；固定整层都走全局，会把两类位置支付的成本混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
本地 Switch Attention 的 soft router 能用来证明 branch-selective kernel 加速吗？
Switch Attention: Towards Dynamic and Fine-grained Hybrid Transformers
问答新增：2026-10-27 · Peking University / Huawei Technologies
展开答案与例子
答案：不能。当前实现验证连续混合路径，未提供论文硬路由、32K继续预训练或分支选择fused kernel。核对时要分别检查路由选择、执行分支及实际耗时，不能只看门值。
教学例子：日志显示90%权重给local，也不证明90%的global调用被跳过。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
动态切换 full/local，与对两条分支始终做连续加权有什么区别？
Switch Attention: Towards Dynamic and Fine-grained Hybrid Transformers
问答新增：2026-10-27 · Peking University / Huawei Technologies
展开答案与例子
答案：硬切换可选择实际执行分支，连续加权通常仍需两条输出再混合。两者在梯度近似与计算节省上不同；文档明确本地soft router尚未复刻论文STE硬路由。
教学例子：计算两次attention再各乘权重，并不因某权重接近0就自动省掉对应计算。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Switch Attention 的 local 与 full 两条路径，分别能读到哪些历史？
Switch Attention: Towards Dynamic and Fine-grained Hybrid Transformers
问答新增：2026-10-27 · Peking University / Huawei Technologies
展开答案与例子
答案：local只看限定窗口内的可见位置，full可读完整因果历史。二者首先是证据范围与读取成本的差别；router根据token决定路径，不是让full路径访问未来token。
教学例子：回答刚出现的局部词组可能只需近邻，关联很久以前的信息才可能需要更广历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么 steady-state worker pool 比每代等待全部实验结束更能利用计算资源？
AIRA2: Overcoming Bottlenecks in AI Research Agents
问答新增：2026-10-27 · FAIR at Meta / University College London
展开答案与例子
答案：不同实验耗时不一，同步屏障会让快任务完成后闲等最慢者；持续池让空闲 worker 立即接下一候选。吞吐提升不应改变评测隔离：搜索仅用固定 search 分数，结束后再由未参与爬山的 validation 选冠军，不能边跑边偷看最终选择集。
教学例子：例如三个实验十分钟完成、一个要一小时，同步代会浪费前三个槽位；持续池可继续试验，但仍共享预先冻结的数据切分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
80/10/10 能否每个候选重新随机切分？
AIRA2: Overcoming Bottlenecks in AI Research Agents
问答新增：2026-10-27 · FAIR at Meta / University College London
展开答案与例子
答案：不能。一次固定切分需跨候选一致，否则分数差混入数据难度差，无法公平比较；本地只验证异步调度与信号隔离，未复刻多 H200、Apptainer 或长时研究 Agent。rank-based 选择概率也只是搜索规则，不是候选真实性能证明。
教学例子：例如甲刚好拿到简单 search 样本、乙拿到难样本，即使两者模型相同也可能排名不同，固定 split 才能控制这项混杂。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
search split 与最终 validation 分开的目的是什么？
AIRA2: Overcoming Bottlenecks in AI Research Agents
问答新增：2026-10-27 · FAIR at Meta / University College London
展开答案与例子
答案：搜索会反复利用分数选择候选，容易对 search 集爬山；最终 validation 未参与这段过程，结束时才选冠军，可减少选择过拟合。两者都不是训练数据，也不意味着 validation 可无限反复用来修改搜索策略，隐藏 test 更不能进入接口。
教学例子：例如一百个候选都按 search 排名探索，最后只用保留的 validation 选最终模型，而不是每次都看 validation 再继续改候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
AIR-A2 为什么把自动 ML 研究看成实验资源调度问题，而不只是多提几个点子？
AIRA2: Overcoming Bottlenecks in AI Research Agents
问答新增：2026-10-27 · FAIR at Meta / University College London
展开答案与例子
答案：研究 Agent 可不断产生候选，但训练实验耗时不同，设备和评测预算有限，提案质量与执行吞吐会共同影响搜索进展。AIR-A2 关注让实验管线持续工作并管理候选反馈。忙碌程度不等于研究收益，最终仍要在隔离评测中核验选中方案。
教学例子：教学例：一个实验跑两小时，另一个只跑十分钟；若整代都等最长任务，空闲设备就无法及时试新的候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
UniScale 为什么把曝光外数据扩充与分层异构训练一起做，而不只增加模型参数？
UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：仅扩大网络仍受现有曝光日志覆盖限制，新增容量可能继续拟合同样狭窄的样本。曝光外扩充增加学习范围，分层融合为不同来源和质量的数据安排合适路径，再协同扩大容量。关键是数据与模型共同扩展，合成或曝光外样本的可信度仍要控制；数据更多不自动意味着偏差更小。
教学例子：模型原来只见过首页曝光商品，即使参数翻倍也难学未曝光品类。扩充其他空间样本后，再按来源层次融合，可避免把高置信点击和弱监督样本完全等量对待。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
UniScale本地门控FFN能代表完整ES³数据工程吗？
UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：不能，参考网络只验证异构分支交互，私有全空间采样、生产模型和低成本部署未复刻。样本域标签、训练切分与融合权重需可审计。
教学例子：例如多个FFN可运行，不等于真实曝光外数据已经被可靠生成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
曝光外样本与直接随机负采样能等同吗？
UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：不能，来源和标签可信度不同，需按方法定义融合；未曝光不是用户明确不喜欢。扩全空间也不自动消除选择偏差，不能把未知全部标负。
教学例子：例如用户没看见某商品，不能断言他见到也不会点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
UniScale为什么同时扩数据空间与模型容量？
UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：只放大模型仍受曝光偏置和样本覆盖限制，只加数据也可能超过模型表达。ES³拓展曝光外空间，HHSFT融合异构样本，再与可部署容量协同。
教学例子：例如从未曝光区域补数据，与给旧曝光数据多加层，作用不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
GateSID为什么让冷启动程度影响语义—协同融合和对比对齐强度？
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：新物品缺少可靠行为，强行与稀疏协同向量一致可能引入噪声；热门物品已有丰富反馈，过度语义化又会损伤偏好差异。冷启动感知gate据状态调节两类信号及其对齐力度，使共享随证据强弱变化。它不是给所有新品永久使用纯内容，随着交互积累，融合策略也应能改变。
教学例子：两件文字相似商品中，一件已有大量特定人群购买记录，另一件刚上线；前者应保留协同特性，后者先借语义，而不是统一设一半一半。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
GateSID 实现时，冷启动特征为什么只能来自训练截止前？
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：频次与活动度决定 gate，使用测试未来交互会提前知道物品后来的成熟度，改变真实冷启动条件。语义和协同向量先对齐维度再按 gate 融合，不能把门控写成固定验证常数却仍宣称逐样本自适应。
教学例子：新品在测试周突然爆红，评估时若用整周点击数判它为头部，就已读取未来；应按推荐时已累计的历史决定 gate。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
GateSID 的对齐强度门控与只在最终打分时混合，相比训练影响在哪里？
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：最终混合只调整现有表示的使用，训练期对齐强度还决定两侧相互靠近的程度，直接改变学到的空间。若一侧噪声大，过强对齐会污染另一侧，条件门控试图减少这种风险。机制不同不意味着所有冷启动段都已实测改善。
教学例子：先把新品噪声 ID 强拉近内容，再在末端降低 ID 权重，可能已经来不及消除污染；训练时就减弱不可靠对齐是另一种控制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
GateSID 为什么让冷启动程度影响语义与协同的比例？
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：反馈少时协同表示不可靠，语义可提供共享知识；反馈丰富时 ID 行为差别又不应被内容平均化。冷启动 gate 随状态调节融合与对齐强度，意在避免一个固定比例处理所有物品。活动度不是唯一可靠性指标，门控仍可能误判。
教学例子：两件同样是跑鞋，新品更多借内容，老品则保留其不同受众反馈；不能因为内容相似就让两者完全共用协同表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
TagLLM 为什么先按类目建立兴趣手册，再把多模态标签能力分阶段蒸馏给小模型？
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
问答新增：2026-10-27 · Tongji University
展开答案与例子
答案：统一粗标签容易混淆不同类目的兴趣维度，手册先规定每类内容应从哪些方面理解，多模态推理再提取细粒度标签。大模型负责提供较丰富监督，小模型通过蒸馏学习稳定输出，使线上不必重复昂贵推理。可解释标签仍是对用户和内容的建模选择，手册遗漏的维度不会被蒸馏自动补齐。
教学例子：美食类关注口味与烹饪方法，旅行类关注目的地与出行方式。先建立不同维度，再教小模型抽取，避免把“轻松”在两类内容中都当作同一种兴趣标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
TagLLM本地MovieLens代理能证明真实多模态笔记标注吗？
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
问答新增：2026-10-27 · Tongji University
展开答案与例子
答案：不能，公开类型和行为仅验证中心机制，不含私有笔记图片、兴趣手册生成及生产模型。teacher条件H只用于允许监督，测试标签不应参与构造。
教学例子：例如电影genre分配不是图文笔记细粒度CoT标签能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
大模型两阶段蒸馏与线上每条笔记直接调用大模型有何区别？
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
问答新增：2026-10-27 · Tongji University
展开答案与例子
答案：蒸馏把昂贵标签知识迁移到小模型，线上执行成本下降但受学生容量和训练覆盖限制。只缓存一批教师标签不等于两阶段训练真正完成。
教学例子：例如小模型能快速标新笔记，需要实际学会教师任务，而非仅查旧标签表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
TagLLM为什么用类目兴趣手册抽细粒度标签？
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
问答新增：2026-10-27 · Tongji University
展开答案与例子
答案：不同笔记类目有不同可解释维度，手册和多模态CoT提供结构，帮助标签比通用主题更细。标签用于推荐也需和真实用户兴趣验证，不能只看名称丰富。
教学例子：例如美食笔记可关注口味与做法，而非只有一个美食大类。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
SAFRO 为什么在组内和任务间都做相对 advantage 归一化？
SaFRO: Satisfaction-Aware Fusion via Dual-Relative Policy Optimization for Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：即时互动与长期留存的奖励尺度及难度可能不同，直接混合会让方差大或数值大的目标主导更新。组内归一化表达同一目标下哪些候选更好，任务间相对项再比较同一候选的多目标表现，关系门控组织搜索目标。归一化改善可比性，却不能自动决定长期价值权重，也不代表所有目标同时提升。
教学例子：点击分通常很密集，留存分稀疏且尺度更大。先在各自候选组里比较，再处理任务间差异，可减少模型只追逐数值最大的那一种奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
SaFRO本地MovieLens协议能复刻短视频留存信号吗？
SaFRO: Satisfaction-Aware Fusion via Dual-Relative Policy Optimization for Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不能，公开全库排序只检验代理核心计算，没有私有搜索、留存和在线分桶。需明确奖励轴与样本任务身份，保留负结果，不把同seed差写成线上A/B提升。
教学例子：例如电影离线命中率不是用户次日回访率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
SaFRO把reward标准化后，是否就自动确定了即时互动与长期留存谁更重要？
SaFRO: Satisfaction-Aware Fusion via Dual-Relative Policy Optimization for Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不会。相对归一化处理尺度和比较基准，不能单独定义业务目标的价值取舍；关系门控负责组织目标融合，也不使代理反馈自动成为长期因果价值。需要分别说明奖励定义、统计轴与融合规则，而不是把“可比”解释成“同等重要”。
教学例子：把两种考试成绩都变成标准分，并不能决定毕业时各占多少权重；推荐多目标也要另说明取舍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
SaFRO中一次候选rollout只有一个反馈，还是在多个任务轴上各有reward？
SaFRO: Satisfaction-Aware Fusion via Dual-Relative Policy Optimization for Short-Video Search
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：它把候选放在多个目标或任务轴下评价，rᵢ,ₜ中的i指候选、t指任务。同一个候选可能即时互动较好、长期信号较差，不能先把这些记录混成没有任务身份的单列分数。先保留这张奖励表，才有组内与任务间比较的基础。
教学例子：同一候选分别记录互动和留存代理，不要把两个数误记成两条不同候选的同一种反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
GenFacet为什么把分面生成和query改写一起按下游检索反馈优化？
GenFacet: End-to-End Generative Faceted Search via Multi-Task Preference Alignment in E-Commerce
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：分面文本看起来合理，不一定能带来可用搜索结果；选定分面后的改写也必须保持用户意图。多任务偏好对齐把这两步放进同一检索链路，用分面质量与实际结果共同约束策略，减少局部生成目标错位。反馈仍可能偏向热门分面，因此不能只用生成流畅度或单项命中率评价整体。
教学例子：用户搜轻便电脑，生成重量分面后应形成可检索的重量条件；若分面漂亮却改写成性能排名，局部文本都通顺，最终结果仍偏离需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
GenFacet 实现两任务训练时，为什么必须保存分面到改写的对应关系？
GenFacet: End-to-End Generative Faceted Search via Multi-Task Preference Alignment in E-Commerce
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：检索 reward 只能回到产生该查询的上下文与分面，错配会把另一个任务结果当信用。多任务权重、参考策略与有效输出 mask 也要明确。若只有确定性候选分数，没有实际生成和更新，不能称完成教师蒸馏加 GRPO 链路。
教学例子：防水分面生成的查询拿到好结果，应奖励这条对应动作；若回写给轻便分面，模型会学到错误关系，即使总 reward 没变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
GenFacet 的多任务偏好对齐与仅蒸馏教师分面文本，监督目标有什么区别？
GenFacet: End-to-End Generative Faceted Search via Multi-Task Preference Alignment in E-Commerce
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：文本蒸馏主要复制教师表达，多任务奖励同时评价分面与改写后的检索结果，把行为价值带回生成器。它可纠正语言流畅却无效的选择，也可能为奖励牺牲未覆盖条件。来源公开代理负结果不能被原文生产目标描述代替。
教学例子：教师写出很漂亮的“精致生活”分面，目录却难检索；下游反馈可更支持具体的“可机洗”条件，但也需防止只迎合容易命中的词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
GenFacet 为什么把分面选择和 query 改写视为同一搜索链路？
GenFacet: End-to-End Generative Faceted Search via Multi-Task Preference Alignment in E-Commerce
问答新增：2026-10-27 · JD.com
展开答案与例子
答案：分面决定用户选择哪种细化方向，改写把该方向转成检索可用查询，二者共同影响最终结果。分开优化容易出现分面好看但搜不到、或改写偏离意图。联合反馈以检索满意度连接，但仍依赖目录与奖励可靠性。
教学例子：选“适合通勤”后，改写应落到轻便、防水等相关条件；若分面说通勤却改成专业越野，单独看两段文字都流畅也不构成正确链路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
AIGQ为什么同时保留Direct与Reasoning两条查询推荐路径？
AIGQ: An End-to-End Hybrid Generative Architecture for E-commerce Query Recommendation
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：简单意图需要低延迟直接生成，复杂意图则可能受益于更充分的推理，两路承担不同成本与质量需求。IL-GRPO用整组query的反馈对齐组合效果，并通过离线与在线混合服务减少请求时负担；它不是把单条查询得分独立最大化。本地代理实验不能证明完整线上CTR奖励和双路服务已复现。
教学例子：输入品牌名时直接补全即可；含糊的送礼需求可能先推断对象和用途，再提出互补查询，避免多条结果只是同一句话的改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
本地 AIGQ 的 MovieLens 分数能验证线上 IL-GRPO 和延迟策略吗？
AIGQ: An End-to-End Hybrid Generative Architecture for E-commerce Query Recommendation
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：不能。本地记录是同候选与种子下加入核心代理机制的公开数据排序结果，验证集选择混合权重；没有真实查询 CTR 奖励和线上混合服务链路。应将代理打分结果、组级策略训练与真实延迟测量分别记账。
教学例子：电影候选 NDCG 变好只能说明该公开代理排序变化，不能据此给真实查询服务承诺毫秒延迟，或声称线上 CTR 强化学习已经执行。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
AIGQ 的 KL 约束与单纯最大化 CTR 奖励相比，限制了哪种更新风险？
AIGQ: An End-to-End Hybrid Generative Architecture for E-commerce Query Recommendation
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：直接追逐奖励可能把查询推向狭窄、投机或偏离原任务的表达。相对参考策略的 KL 项为大幅分布偏移付出代价，在参与反馈与已有能力之间建立取舍。它不能保证奖励无偏，也不等于输出质量已获得独立验证。
教学例子：某类夸张查询一时更易被点击，纯奖励可能让整组都变成它；参考策略约束让模型提高这类概率时也考虑偏离原分布的代价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
AIGQ 为什么把推荐 query 看作一组输出，而不是互不关联的多个字符串？
AIGQ: An End-to-End Hybrid Generative Architecture for E-commerce Query Recommendation
问答新增：2026-10-27 · Taobao & Tmall Group / Alibaba
展开答案与例子
答案：一组查询共同决定用户可探索的入口，逐条看起来合理也可能全部重复同一意图。组级奖励让训练评价整组覆盖与参与价值，Direct 与 Reasoning 路径再承担不同复杂度请求。组级优化依赖奖励质量，不能仅用输出条数推断意图更丰富。
教学例子：五条都改写成“推荐好看的电影”没有增加选择；同一组覆盖导演、氛围和观看时长需求，才可能提供不同探索入口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
版本化技能为什么比把执行日志原样追加到上下文更可复用？
Memento-Skills
问答新增：2026-10-27 · Memento Team
展开答案与例子
答案：日志记录一次具体经历，结构化技能抽出适用条件与步骤，检索时更容易匹配新任务。版本合并还记录后续修正，避免同一技能出现互相矛盾的旧说明；抽象需要保留失败条件与来源，不能因为语言更简洁就假定已成为可靠通用程序。
教学例子：例如一次部署日志含临时目录和重试输出，技能版保留检查依赖与回滚条件，之后升级版本修正过期参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地低 joint success 与非零技能 telemetry 可以说明什么？
Memento-Skills
问答新增：2026-10-27 · Memento Team
展开答案与例子
答案：说明当前机制运行并且存在明显未成功任务，不能只挑创建或复用计数宣传改进。本地只验证状态更新和公平预算，没有原论文大模型、真实网页或完整 benchmark；负结果应与过程证据一起保留，而不是改称完整方法成功。
教学例子：例如日志显示技能被检索十次但任务仍失败，计数证明调用发生，不证明技能内容正确或对执行有帮助。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
版本化 Merge 与每次追加新技能有什么不同？
Memento-Skills
问答新增：2026-10-27 · Memento Team
展开答案与例子
答案：Merge 将新反馈整合进相关既有技能，记录变化而非无限堆近重复条目；追加更简单却可能保留互相矛盾版本。合并需要判断适用条件与回归，不能因同主题就覆盖所有差异，也不能把一次新成功当全局升级依据。
教学例子：例如同一导出技能新增分页限制，应更新相关版本；若新情况只适用特定服务，要保留条件而非改成所有服务都分页。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
多次做相似任务时，Memento-Skills 希望避免哪些重复劳动？
Memento-Skills
问答新增：2026-10-27 · Memento Team
展开答案与例子
答案：Agent 的一次执行会留下有效步骤、错误和环境条件，但原样保存日志会让下一次仍需从头理解。Memento-Skills 研究把这些经历整理成可检索、可更新的技能，使后续任务能复用经验。技能是否有用取决于适用条件和真实执行，保存得多或版本增加都不是能力提升证据。
教学例子：教学例：第一次整理账单发现日期格式问题，下一次可调用带格式检查的技能，而不是重读整次失败日志再猜处理顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
父代抽样为什么同时考虑性能和已有后代数？
HyperAgents
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：只追最高分容易反复扩展同一分支，降低探索多样性；后代数惩罚给较少探索的可行父本机会。任务 Agent 与修改机制都在可编辑程序里，让改进方式本身也能演化；抽样概率只是预算分配，不代表每个后代被接受或性能必然递增。
教学例子：例如冠军已有二十个子版本，稍弱但只试过一次的父本可获得更多机会，可能发现不同的改进路径而非一直局部打磨。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地 archive step 是否执行模型生成源码或 shell？
HyperAgents
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：没有。本地只计算父代分布和有界结构化档案，禁止执行生成代码或 shell，因此不能宣称验证自指程序修改能力。概率和为一、谱系更新正常是搜索控制证据，不能替代真实任务 Agent 与 meta Agent 的行为评测。
教学例子：例如修改记录中的一个字段可测 archive，但若未运行修改后的程序，就不知道它会不会破坏任务执行或改进策略。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
固定 meta Agent 的程序搜索，与允许 meta Agent 一起被编辑，有何搜索范围差异？
HyperAgents
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：固定改进器只在任务解法空间内生成变体，允许编辑 meta Agent 则还可改变候选生成和改进流程，扩大搜索对象。更大空间也带来失效与归因困难，需要分别执行和评价新程序。当前本地 archive 操作不生成或运行任意源码，不能用档案谱系冒充完整程序自修改。
教学例子：教学例：只改排序函数属于任务层；把“如何选择待试函数”的策略也改写，才涉及 meta 层，但新增自由度未必自动有效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
HyperAgents 为什么不仅改任务解法，还允许改“生成下一版解法”的程序？
HyperAgents
问答新增：2026-10-27 · University of British Columbia
展开答案与例子
答案：固定改进器会持续沿同一套提案和反思方式搜索，它自身的限制可能阻碍后续进步。HyperAgents 把任务程序与 meta 程序一起纳入可编辑对象，研究改进方法能否随经验演化。自改代码增加了验证难度，档案里出现新版本不等于真实性能或长期进步已得到证明。
教学例子：教学例：某版本总提出相似改动，可以尝试修改提案器本身；之后仍要验证新提案器是否真的带来更有效候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GLIDE为什么把近期行为和长期用户embedding分别作为prompt？
Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：近期序列能响应刚发生的意图，却容易反复推荐熟悉内容；长期表示补充更稳定、可能被短窗口遗漏的偏好。两类prompt共同条件化SID生成，让模型在即时需求与探索之间选择。长期向量不是永远正确的背景，兴趣漂移时仍需检查其影响，不能简单拼长历史后就声称具有探索能力。
教学例子：用户最近只听通勤播客，但长期喜欢科学主题；两路提示可让模型在满足当前场景时发现新的科学节目，而不是只复述刚听过的系列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GLIDE 的长期 embedding 构造为什么不能使用测试后的全用户历史？
Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：长期画像应只汇总截止当前的可用行为，近期分支同样需截断。将最终测试目标放进长期向量会产生隐蔽泄漏，即使近期序列没有它。码本也应明确拟合口径，本地三级量化与公开代理的范围需记录。
教学例子：预测最后一部电影时，若长期画像已平均了这部电影向量，模型其实读到了答案；长短两个输入都必须检查截止时间。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GLIDE 的双 prompt 生成与传统 transition/content retrieval，相比输出接口怎样变化？
Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：传统方案直接组合相似度或转移得分，GLIDE 学习条件化 SID 路径概率，再映射到候选。它借离散结构共享语义，也增加量化与早期码错误风险。来源本地用 code transition 代理核心，不能据同名结果认定完整语言生成器已被训练。
教学例子：不是给每件相机加历史转移分，而是先生成摄影粗码再细化；若粗码选错，目标可能被提前排除，传统全库打分则是另一类覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GLIDE 为什么把近期行为与长期 embedding 分成两类 prompt？
Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：近期序列保留即时需求细节，长期向量概括稳定偏好，分开输入让生成器同时利用而非混成同一平均。SID 分层生成提供候选路径，探索仍受两类条件与码本覆盖限制，不能仅凭长短结合就断言缓解信息茧房。
教学例子：长期爱摄影、最近筹备露营，两类 prompt 可同时保留；模型生成户外相机或露营物品时有不同依据，而非只看最后一次点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
跨文字系统知识迁移为何不能只靠把问题机械音译来判断模型是否拥有知识？
Large Reasoning Models Struggle to Transfer Parametric Knowledge Across Scripts
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：文字系统变化会同时影响实体识别、参数知识检索与推理表达，仅比较音译前后答案难以定位原因。论文结合观察回归、训练期实体提示干预和真实LoRA来拆分这些因素。提示或正则替换只是条件改变，本地文献收录没有实现语言模型知识检索能力。
教学例子：例如同一地名改用另一种文字后回答失败，可能是实体没对齐而非事实从未学过；加提示能帮助诊断，却不能当成迁移训练已经完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
本地这篇是否存在可执行知识迁移operator？
Large Reasoning Models Struggle to Transfer Parametric Knowledge Across Scripts
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：当前仅收录文献，未实现所需真实语言模型语义模块及LoRA训练。公式是方法解释，不能借通用SFT接口就声明已复现，也不以测试答案构造训练提示。
教学例子：例如一个音译函数能运行，不意味着论文的参数知识检索机制已接入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
训练期entity提示干预与推理时手工音译能相互替代吗？
Large Reasoning Models Struggle to Transfer Parametric Knowledge Across Scripts
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：不能，前者用于研究检索与学习路径，后者只改当前输入，可能绕过困难。真实LoRA与语义风格迁移也不能由正则替换或小分类器冒充。
教学例子：例如把名字统一转回熟悉写法能帮助答题，却未证明模型学会跨文字迁移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
跨文字系统知识研究为什么不只考查翻译质量？
Large Reasoning Models Struggle to Transfer Parametric Knowledge Across Scripts
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：同一事实用另一套文字表示时，失败可能来自实体识别、参数知识检索或推理表达，翻译只是其中一环。研究用回归和干预拆分因素，不能直接当新RL算法。
教学例子：例如一个人名转成另一文字后答错，不一定是从未学过这个人的事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么候选评价要维护历史均值，并用语义 epsilon-net 限制冗余？
POLCA: Stochastic Generative Optimization with LLM
问答新增：2026-10-27 · University of Wisconsin-Madison
展开答案与例子
答案：随机数据和评估器会带来噪声，一次高分可能是偶然，持续记录提供更稳的候选比较。语义距离约束减少把预算浪费在近似重复提案上，加入新候选后还要重算距离；经验均值规则与理论 UCB 不能混作同一实现，也不能把均值排名当显著性结论。
教学例子：例如十个候选只是同一提示换标点，语义过滤可少测这些重复项；某方案首轮幸运高分，也应结合后续评价而非永久封王。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
metric 预算耗尽后未测提案和失败前观察如何保存？
POLCA: Stochastic Generative Optimization with LLM
问答新增：2026-10-27 · University of Wisconsin-Madison
展开答案与例子
答案：实际调用前计数，失败前已完成的观察保留；未评价提案标 deferred_budget，不加入有回报统计，旧新候选用同一有放回 batch。callback 无默认伪 LLM 兜底，输入输出深拷贝保护历史；本地测试不证明真实生成优化能力。
教学例子：例如最后预算只够评一个新提案，另三个不能记成零分或默认成功，它们没有观测，应与已测候选区分。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
POLCA 正文的经验均值优先级与理论 UCB 版本，为什么不应混成同一更新规则？
POLCA: Stochastic Generative Optimization with LLM
问答新增：2026-10-27 · University of Wisconsin-Madison
展开答案与例子
答案：经验均值使用候选实际已有的平均回报排序，UCB 还会显式加入对不确定性的探索奖励。两者会给少评候选不同优先级，预算与选择轨迹也可能随之改变。正文实现和理论分析的规则需要分别说明，本地不能未经实现就把某一种规则的性质归给另一种。
教学例子：教学例：新候选只评过一次，均值排序未必选它；UCB 可能因不确定度较大再给机会，这会形成不同的下一轮。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
带噪声的优化任务为什么容易把一次偶然高分误当成好方案？
POLCA: Stochastic Generative Optimization with LLM
问答新增：2026-10-27 · University of Wisconsin-Madison
展开答案与例子
答案：随机批次、程序执行和评价器都会让同一候选的分数波动，只记最高观察会偏向运气好的候选。POLCA 研究让搜索利用评价历史和全局经验，并限制提案冗余。历史更多并不消除偏差，仍需相同评测条件与预算控制，不能用未测提案的预期替代真实观察。
教学例子：教学例：配置甲偶然遇到容易批次得高分，配置乙在多批次较稳定；只看各自最高值可能选错，保留完整历史才能检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
R4T为什么先对检索集合整体对齐，再把结果编译进扩散式fan-out检索器？
Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google Research
展开答案与例子
答案：多路检索的价值不只由每条结果单独相关决定，还取决于集合覆盖与多样性。集合级复合奖励先定义这些取舍，再通过训练让单次扩散检索接近对齐目标，减少在线优化负担。奖励设计可能偏移真实需求，本地只有集合目标核，没有训练完整扩散检索器。
教学例子：例如三条都高度相关却重复同一证据，可能不如覆盖不同要点的结果组；不能只把单条相关分数分别提高，就称为集合多样性优化。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
本地 R4T 组件已经包含 53.9M 参数扩散检索器训练吗？
Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google Research
展开答案与例子
答案：没有。文档只执行alignment/diversity集合目标，完整扩散检索器未训练。复用时需明确接口提供的是集合评分还是生成候选，不能把一个reward函数当作已完成的fan-out模型。
教学例子：能够给已有候选集合打分，不代表模块自己能从查询生成检索结果。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
集合级 alignment/diversity 目标，与逐项独立排序的目标有什么差别？
Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google Research
展开答案与例子
答案：集合目标考虑结果之间的关系与整体属性；逐项分数相加可能忽略重复和覆盖交互。编译后的检索器也需要单独训练与验证，目标函数可执行不等于已得到同样的在线检索能力。
教学例子：三条内容各自都很相关，但几乎重复时，集合多样性仍可能很差。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
R4T 为什么先得到集合级对齐目标，再训练快速检索器？
Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion
问答新增：2026-10-27 · University of Illinois Urbana-Champaign / Google Research
展开答案与例子
答案：多项结果的整体属性不一定能由单项得分保证。方法先以集合级复合奖励得到对齐目标，再将它编译进扩散式fan-out检索器，尝试用较少在线步骤生成多项结果。
教学例子：一组结果既要相关又要覆盖不同内容，不能只让每项各自重复最高分内容。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SORT Ranking 为什么连特征 token 化、注意力与 FFN 都要一起改，而不直接把语言 Transformer 搬到排序？
SORT: A Systematically Optimized Ranking Transformer for Industrial-scale Recommenders
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：推荐输入包含语义各异的字段和长行为序列，token 组织决定哪些信息能交互，注意力决定信息流，FFN 决定逐 token 的变换容量。硬件约束下压缩长序列还会改变计算分配，因此几个环节需要协同设计。使用 Transformer 只是框架选择，本地简化机制不能证明完整工业 DLRM 替换方案的吞吐与精度。
教学例子：把年龄、商品类别和数百次行为都当同一种文本词直接堆入模型，可能浪费预算。先设计字段接口与历史压缩，再分配注意力和 FFN，才有机会匹配排序负载。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地SORT残差MHA/FFN实现能证明工业硬件压缩吗？
SORT: A Systematically Optimized Ranking Transformer for Industrial-scale Recommenders
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：不能，公开固定候选只验证中心模型路径，没有私有特征、生产规模或kernel。参数和mask需审查，但解析结构存在不等于真实QPS或在线业务增长。
教学例子：例如小目录训练能跑通，不代表工业大量稀疏token仍满足时延预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
统一排序Transformer与传统DLRM的主要机制差异是什么？
SORT: A Systematically Optimized Ranking Transformer for Industrial-scale Recommenders
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：Transformer通过token交互建模特征和长序列，DLRM常依嵌入与显式交叉及MLP；工业成本与特征处理决定适配，不能仅按模型名称排性能。
教学例子：例如同样ID特征，交互发生的位置和计算复用方式可不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SORT Ranking为什么不是把普通Transformer直接套推荐？
SORT: A Systematically Optimized Ranking Transformer for Industrial-scale Recommenders
问答新增：2026-10-27 · Alibaba International Digital Commerce
展开答案与例子
答案：它围绕工业特征token化、attention、FFN与硬件结构重做设计，目标是让统一排序Transformer承担传统DLRM角色。通用残差公式不足以涵盖系统设计。
教学例子：例如稀疏特征怎样成token，与自然语言逐字输入不是同一个前处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
HAP把困难候选送到强分支，为什么还要harmonization对齐分支分数？
Not All Candidates are Created Equal: Heterogeneity-Aware Pre-ranking
问答新增：2026-10-27 · ByteDance / Toutiao
展开答案与例子
答案：分支计算量不同，输出分布可能具有不同尺度；直接混排会把模型尺度误当物品价值。HAP先按候选难度分配轻重计算，再用跨分支协调约束，让有限预算下的结果仍能比较。路由错误也会把真正难例送入弱路径，因此不能只报告省下多少算力，而忽略统一排序质量。
教学例子：轻分支输出常在0.8附近，强分支输出常在0.4附近，二者直接比较会系统偏向前者；对齐尺度后，才能判断不同分支评分的候选谁应排前。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
HAP 的 gate 与两路输出相乘时，为什么要区分软训练和实际执行预算？
Not All Candidates are Created Equal: Heterogeneity-Aware Pre-ranking
问答新增：2026-10-27 · ByteDance / Toutiao
展开答案与例子
答案：软融合可能同时算两分支，即使 gate 接近零或一也未必节省真实 FLOPs；服务若采用硬路由需明确阈值和回退。不能仅从公式宣称实际只算轻路径。本地代理排序结果也不包含完整生产延迟证据。
教学例子：程序先跑完轻强网络再按零一 gate 相加，数值是路由，计算却没省；要测服务成本应确认未选分支实际没有执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
HAP 的 harmonization 与单独校准强分支，相比要协调什么跨路径关系？
Not All Candidates are Created Equal: Heterogeneity-Aware Pre-ranking
问答新增：2026-10-27 · ByteDance / Toutiao
展开答案与例子
答案：最终候选来自不同分支，排序必须可跨分支比较，只让各自内部准确不足。harmonization 约束两种预算下尺度与偏好一致，避免路由身份成为优势。它可能限制专长表达，需检验质量—成本，不保证对齐后强分支毫无损失。
教学例子：轻分支普遍输出零点八、强分支零点四，不代表前者更好；若直接混排，简单候选可无端压过真正困难的高价值候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
HAP 为什么按候选难度分配轻、强两种预排计算？
Not All Candidates are Created Equal: Heterogeneity-Aware Pre-ranking
问答新增：2026-10-27 · ByteDance / Toutiao
展开答案与例子
答案：大部分候选容易区分，全用强模型浪费预算；困难候选需要更多交互容量，路由让算力随需求分配。难度判断也有成本且会出错，误把关键候选送轻分支可能丢质量。动态预算不是简单按热门度给更多计算。
教学例子：明显不相关商品可由轻分支快速筛掉，两件高度相近且都符合条件的商品交给强分支细判，避免所有人都走同样重路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
CGR把广告负载约束放进解码，和列表生成后再删掉多余广告有什么不同？
Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：事后删除会改变上下文和剩余配额，原来为某个前缀估计的价值可能不再成立。CGR在逐步生成时维护可行集合，并结合奖励估计提前剪去不可行分支，使搜索预算集中在满足业务规则的列表上。它优化的是受约束的整体选择，不能把高分但不可执行的列表当作有效输出。
教学例子：五个位置最多允许两个广告，前两步已用满配额时，后续直接屏蔽广告；若先生成四个广告再删，剩余位置和原预测列表已不是同一对象。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
CGR 的 F(y<t) 在实现中应随着哪一步更新？
Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：每次选定新项后都要更新前缀、负载和位置状态，再构造下一步合法集合，保证剪枝与实际列表一致。不能先生成整条序列再假装每步满足约束。空可行集合也应有明确终止或合法回退，不能悄悄生成违规项填满长度。
教学例子：还剩一个位置但广告配额已用完，应从自然内容选；若自然内容也为空，就报告或按定义终止，而非无视配额补一条广告。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
CGR 的约束感知剪枝与固定单品排序，有什么前缀依赖差别？
Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：固定排序认为候选价值不随已选项改变，CGR 每步根据前缀更新可行集合与奖励，因此位置和数量规则直接改变后续选择。它可减少事后修补，却需要可靠价值估计及搜索预算，不能据一次代理比较证明全局最优列表。
教学例子：第一位已经放广告，第二位因间隔规则只能选自然内容；普通单品分数不变，而前缀可行集合会立刻变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
CGR 把生成与奖励估计放在同一网络里，主要想统一哪两个决策？
Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：模型既提出下一项，也估计加入后的业务价值，使序列生成受已有前缀、广告位与负载规则共同影响。可行集合限制能选什么，奖励决定合法项之间怎样取舍。统一网络不是取消业务约束，更不是把奖励高视为自动合法。
教学例子：当前屏已达到广告上限，价值头再看好某广告也不能生成；在剩余自然内容里才继续按相关性与列表价值选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么组均值方差用 raw reward，而成功长度罚只进入优势分子？
Dual-Modality Multi-Stage Adversarial Safety Training: Robustifying Multimodal Web Agents Against Cross-Modal Attacks
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：长度罚旨在调节某条成功响应的信用，不应同时重定义全组基线尺度。受攻击组还联合攻击与防守角色的原始回报统计，若先减罚再白化，就改变双方比较与原算法；零方差组需排除，不能靠任意 epsilon 制造学习信号。
教学例子：例如两条同样成功的响应一长一短，长度罚降低长者优势，但共同基线仍按原始任务回报计算，不能被长文本额外拖动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
DMAST 的训推概率比应乘到 PG 与 KL 两项上吗？
Dual-Modality Multi-Stage Adversarial Safety Training: Robustifying Multimodal Web Agents Against Cross-Modal Attacks
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：文档仅对PG乘min(π_old/π_sampling,1)，小于0.1时PG权重归零，KL项不因此一并缩放。组方差为零直接排除，分母仍为全批有效响应token，而非角色局部平均。
教学例子：某token的PG因低采样比被关闭，不代表reference KL也可顺手删掉。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
只实现 DMAST 组统计目标，与复现视觉 Agent 对抗训练有什么差距？
Dual-Modality Multi-Stage Adversarial Safety Training: Robustifying Multimodal Web Agents Against Cross-Modal Attacks
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：组统计可验证loss与梯度，但完整方法还需真实VLM、环境交互、教师模仿、oracle SFT和自博弈。数学诊断不生成攻击载荷，也不证明浏览器成功率或对抗鲁棒性。
教学例子：微型策略一次SGD与大模型在环境里经历完整多阶段训练，不能共用能力结论。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
DMAST 为什么用同一 VLM 参数承担 Agent 与攻击者两种角色？
Dual-Modality Multi-Stage Adversarial Safety Training: Robustifying Multimodal Web Agents Against Cross-Modal Attacks
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：共享参数以角色条件进行交互和自博弈，使鲁棒性训练同时涉及防守决策与攻击过程。完整方法还有教师模仿和oracle reasoning SFT，Stage3奖励公式只是其中一段。
教学例子：同一底模在不同角色提示下生成各自轨迹，并非两套毫无共享的策略。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
PinCLIP 为什么在图文对齐之外加入 Pin-Board 邻居对齐？
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：通用图文模型主要学内容相容性，而推荐还依赖用户把哪些内容组织到同一兴趣集合中。邻居对齐把图上的关联加入训练，使内容表示获得推荐语义；多粒度图文特征保留细节。这样新内容可凭内容进入已有空间，但邻居关系也可能含曝光偏置，不能把图对齐等同于真实偏好的无偏估计。
教学例子：两张图片一张是餐桌、一张是吊灯，视觉不相似，却经常出现在同一个北欧装修收藏板。邻居目标可把这种搭配关系写入表示，帮助新灯具连接装修兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
PinCLIP 图邻居训练为什么要排除测试未来边而不仅冻结图像 encoder？
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：协同边若来自预测之后的消费，会把目标关系先写入表示，即使 encoder 冻结也可能泄漏。图构造、负例和新内容切分需按截止定义；本地 canonical alignment 与真实预训网络应分别说明，不能只看最终向量维度一致。
教学例子：测试用户后来收藏的新灯具边若提前入图，模型已知它适合该兴趣；冻结视觉参数不改变图里已包含答案这个事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
PinCLIP 的邻居对齐与仅做 image-text contrastive，相比正例来自哪里？
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：图文对照多连接同内容两模态，邻居对照可连接不同内容的板图关系，学到搭配与兴趣结构。两类关系可能冲突，需要权重与采样控制。来源用稀疏 genre 代理无法恢复真实 VLM 多模态差别，因此负结果不可无边界外推。
教学例子：同一灯具图片与描述是图文正例，灯具与同板餐桌是图邻居正例；把后者误当同物品会丢掉跨内容关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
PinCLIP 为什么让新内容从内容向量接入推荐图空间？
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：新物品缺协同行为，图邻居目标从已有共组织关系学习平台语义，内容 encoder 再将这种知识迁给未见内容。多粒度图文保留细节，但图数据也可能偏曝光，不能把邻居关系当真实无偏偏好。冷启动需有独立评估。
教学例子：新吊灯无点击，却可凭图文接近同一装修兴趣板里的家具关系；这不是已观察用户共购，只是内容向图空间的迁移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OneRanker 为什么要约束生成分布和 value head 的偏好一致？
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：生成头决定哪些候选容易出现，价值头决定出现后怎样排序。若两者偏好不一致，生成器可能持续漏掉价值头最看重的物品，末端重排也无法补回。共享 fake item token 提供统一接口，分布一致性损失进一步连接两条学习信号；代价是需要平衡生成拟合、价值预测和一致性约束，避免互相压制。
教学例子：生成器总给便宜配件高概率，价值头却更看好适合用户的耐用工具。只重排现有配件无法展示工具；一致性训练试图让工具在生成阶段也得到机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
OneRanker 计算 pgen 与 prank 的 KL，为什么不能拿原始 logits 直接相减？
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：KL 比较归一概率分布，需要相同候选身份和温度口径，未归一数值差不是同一目标。非法或 padding 项应一致屏蔽，价值标签不得泄漏到生成输入。只靠固定分数加权代理，无法证明分布一致性梯度实际训练。
教学例子：两头 logits 同时加常数不改分布，直接平方差却变化；若一个在全库、另一个只在十项归一，也不能直接当相同 KL。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
生成一致性 KL 与只用共享主干，有什么额外约束？
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：共享参数仍可让不同 head 学出相反偏好，KL 明确要求两个分布在相同候选空间接近。它可能减少冲突，也会限制各自专长，权重需校准。不能由一致性更高推断推荐更好，两个头也可能一致地偏向错误热门项。
教学例子：生成器爱配件、价值头爱耐用工具，共享主干不保证两者选同一对象；KL 才直接惩罚这种差异，但也要检查谁在教谁。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OneRanker 的 fake item token 统一了哪些预测接口？
OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：同一表示接口承接生成与价值判断，使广告候选的出现概率和后续排序有共同上下文，减少独立模块目标割裂。fake token 是模型结构角色，不是假造真实物品；仍须把输出映到合法目录，并区分生成头与价值头目标。
教学例子：一份候选状态同时支持“容易生成吗”和“预期价值多大”，但不能把内部占位 token 当成可投放广告返回给用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
IDProxy为什么先对齐MLLM与ID空间，再用多层proxy残差接入排序器？
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
问答新增：2026-10-27 · Xiaohongshu / Shanghai Jiao Tong University / Fudan University
展开答案与例子
答案：多模态语义能描述内容，却与长期CTR训练形成的协同坐标不一致，直接替换ID向量可能破坏已有几何关系。粗粒度对比先建立两空间对应，多层proxy再提取不同抽象程度的知识，通过gate控制注入幅度。残差保留原路径不代表无需对照，过强语义仍可能淹没有效协同差异。
教学例子：两件外观相似商品可能面向不同人群，语义向量不能直接覆盖ID偏好；先学会对应关系，再按状态借用形状、用途等不同层次信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
IDProxy 粗对齐的正负配对为什么必须按同一 item 身份构造？
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
问答新增：2026-10-27 · Xiaohongshu / Shanghai Jiao Tong University / Fudan University
展开答案与例子
答案：PAL 将 MLLM zi 与对应 ID ei 拉近，批内其他 ID 进入分母，列身份错位会把不同商品强行对齐。残差 Adapter 还需映到原 ID 维度再相加，gate 对应同一候选。多层 hidden state 应按实际模型版本采集，不能用随机向量替代。
教学例子：相机内容若配到童装 ID，loss 也能下降，却学成错误语义；查看形状与数值正常无法替代正例身份核对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
IDProxy 的 residual gate 与完全替换 item-ID 表示，相比保留什么退路？
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
问答新增：2026-10-27 · Xiaohongshu / Shanghai Jiao Tong University / Fudan University
展开答案与例子
答案：替换会丢已有协同记忆，残差从原 ID 出发按 gate 注入适配语义，允许模型限制不可靠增量。门控仍可能过度依赖一侧，需要分别检查冷尾和头部。对比预训 loss 下降不等于排序必然改善，来源只支持其公开小规模口径。
教学例子：热门老商品已有充分反馈，门控可少加语义；新品 ID 弱时多借内容，但若内容提取错，gate 也不能保证自行识别所有错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
IDProxy 中的 proxy 为什么不直接等于原 MLLM embedding？
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
问答新增：2026-10-27 · Xiaohongshu / Shanghai Jiao Tong University / Fudan University
展开答案与例子
答案：MLLM 主要学内容语义，排序 ID 空间积累协同行为，两者方向与尺度不一致。proxy 经过粗对齐与多层适配后，作为受门控的增量进入原 ID 表示，保留既有知识又补内容。不能把语义向量直接拼接后的可运行性当作完成空间适配。
教学例子：两个视觉相似商品受众可能不同，原内容向量分不清，ID 行为可保留这份差异；proxy 应补充而非覆盖它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HPGR为什么先做session掩码预训练，再用偏好引导的稀疏注意力选历史？
Beyond the Flat Sequence: Hierarchical and Preference-Aware Generative Recommendations
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：session结构描述一段行为内部的关联，先通过掩码任务学习它，可避免把长历史当作无差别平铺事件。微调时再依据当前偏好选择相关历史，把计算集中在有用证据上，而非只按时间截断。稀疏选择也可能丢掉罕见但关键的兴趣，因此选中项的覆盖与最终预测需要一起检验。
教学例子：用户上周的一组相机比较属于同一session，今天评镜头时可整组提取；最近一次无关购物不应只因更近就挤掉这段有组织的历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HPGR 的 Top-K 注意力在实现中怎样避免把 padding 或未来目标选入？
Beyond the Flat Sequence: Hierarchical and Preference-Aware Generative Recommendations
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：排序分应只对合法历史事件计算，padding 在 Top-K 前屏蔽，输入截止当前时刻；不足 K 时按有效长度处理，不能重复补假事件。session 边界与偏好 query 要一致，不能用 gold 下一物品构造一个测试时不可得的选择条件。
教学例子：真实历史三条而 K 为五，只能读三条有效记录；若空位保留零分且真实分为负，未屏蔽 padding 会被错误排进前五。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
HPGR 的偏好引导稀疏选择与固定最近窗口，相比可用哪些远期证据？
Beyond the Flat Sequence: Hierarchical and Preference-Aware Generative Recommendations
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：最近窗口直接按时间保留，稀疏选择按当前意图挑事件，允许远期相关记录进入有限预算。它依赖选择器质量，漏掉的信息下游读不到；层级预训练提供结构也不能保证选择正确。来源公开代理增益仅限对应协议。
教学例子：最近浏览小说但当前候选相机，选择器可找更早摄影记录；固定最近十条也许完全没有它，但错误选择也可能把过时需求带回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HPGR 为什么用 session 掩码建模学习层级行为结构？
Beyond the Flat Sequence: Hierarchical and Preference-Aware Generative Recommendations
问答新增：2026-10-27 · Harbin Institute of Technology
展开答案与例子
答案：会话内事件往往共享意图，跨会话代表迁移，先学习这两级结构能给后续偏好选择提供较有意义状态。平铺长历史只按相邻位置建模可能混合不同访问。预训练监督来自已观测训练内容，不允许在测试输入恢复本该未知目标。
教学例子：一次访问集中看帐篷与睡袋，下一次看登山鞋，session 编码先区分两段需求，而非把所有物品当同一连续意图。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
这篇数据质量理论里的OS，为什么不能直接称为完整的强化学习后训练？
Theoretical Perspectives on Data Quality and Synergistic Effects in Pre- and Post-Training Reasoning Models
问答新增：2026-10-27 · University of Southern California / Google Research
展开答案与例子
答案：OS在此指outcome-supervised regression：只监督最终预测，并与使用教师中间状态的SFT对比。线性attention模型与协方差假设让作者能分析闭式关系，但没有完整策略采样、优势估计和policy gradient链路。该理论可帮助理解信息与目标差别，不能被扩成真实LLM RL已得到同样结论。
教学例子：学生只在最后一步的回归权重上计算平方误差，与每一步都对齐教师状态不同；即便前者叫结果监督，也并没有因此出现奖励驱动的策略梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
为什么自主 rollout 接口不能接收真实任务权重 w*？
Theoretical Perspectives on Data Quality and Synergistic Effects in Pre- and Post-Training Reasoning Models
问答新增：2026-10-27 · University of Southern California / Google Research
展开答案与例子
答案：真实权重属于训练loss的监督，传进自主生成会把答案泄漏到被评估路径。文档rollout只读取公开上下文，训练目标进入明确命名的loss；闭式SFT还需保留初始化的零空间分量。
教学例子：预测下一状态的函数不能先拿到它最终应当恢复的真实权重。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
这项分析中的 SFT 中间状态监督与 OS 最终监督，信息供给有何不同？
Theoretical Perspectives on Data Quality and Synergistic Effects in Pre- and Post-Training Reasoning Models
问答新增：2026-10-27 · University of Southern California / Google Research
展开答案与例子
答案：SFT使用教师中间权重状态作为训练目标，OS让模型自主rollout后只监督最终预测。两者在训练时可见的轨迹信息不同，OS也不因此自动包含policy gradient等完整RL机制。
教学例子：一步步给标准中间结果，与只在最后检查预测权重是否接近目标，训练信号不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Data Quality LSA 为什么用线性回归来分析预训练与后训练？
Theoretical Perspectives on Data Quality and Synergistic Effects in Pre- and Post-Training Reasoning Models
问答新增：2026-10-27 · University of Southern California / Google Research
展开答案与例子
答案：受控线性注意力结构能明确展示数据协方差、初始化和不同监督方式怎样影响权重预测，并给出闭式参考。它是分析模型，不应直接当作完整LLM训练的经验结论。
教学例子：改变训练任务的协方差，可在小矩阵里单独观察初始化如何影响后续拟合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
QuaSID 为什么对 SID 碰撞使用业务资格相关的 margin，而不是把所有相近物品等量推开？
Stop Treating Collisions Equally: Qualification-Aware Semantic ID Learning for Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：相近编码有助共享语义，但真正需要区分的物品若碰撞，会在生成和服务映射时混淆。资格信号决定哪些碰撞应更强排斥，以及需要多大距离，使有限码空间优先保留关键差异，尤其照顾反馈稀疏物品。统一排斥会破坏有用语义邻近；资格加权仍取决于业务信号质量，不能凭距离推断效果。
教学例子：两件几乎相同商品可共享粗码，但配送资格不同且必须分别服务，就应在细码上拉开；另两件差异无关当前业务，不必浪费同样强的分离约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
QuaSID 的 hinge loss 在距离达到 margin 后，为何不应继续强推远？
Stop Treating Collisions Equally: Qualification-Aware Semantic ID Learning for Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：[mij−d]+ 在满足界限后为零，目的在足够区分而非无限分散；qij 与 margin 应对应同一物品对，且来自训练可得资格。距离定义与对称性需固定，不能用未公开测试资格反推最有利配对。
教学例子：两码已足够分开，再施同样排斥会浪费空间；误写成一直减距离的线性目标，会让语义关系持续被推散，偏离有限 margin 设计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
QuaSID 的差异化 margin 与统一排斥所有碰撞，相比码空间如何分配？
Stop Treating Collisions Equally: Qualification-Aware Semantic ID Learning for Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：统一排斥给每对同样压力，可能浪费容量并破坏语义邻近；资格权重按业务必要性分配可辨性。它依赖信号可靠，资格变化还可能使旧编码过时。来源公开代理轻微退化，不能因设计更针对性便写成已验证改进。
教学例子：必须区分的库存资格得到较大间隔，无关差别少推开；若资格数据错，把两件本可替代商品强分离也可能损失共享。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
QuaSID 中两个码相距更远，是否说明用户更喜欢其中一个物品？
Stop Treating Collisions Equally: Qualification-Aware Semantic ID Learning for Recommendation at Industrial Scale
问答新增：2026-10-27 · University of Electronic Science and Technology of China / Kuaishou
展开答案与例子
答案：不能。距离和 margin 在此用于区分编码，资格权重说明哪些物品对需要可辨识，不给出用户偏好的方向。两物品可以被充分分开却都不相关，也可以都很适合当前用户。最终推荐仍需要用户条件评分，不能把可分性当作相关性或增量价值。
教学例子：两件配送资格不同的商品被拉开，只表示服务时更易区分；用户可能都不想买，码距变大并没有让任一件自动变成好推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GRC训练时标注首个错误SID位置，为什么评估时不能直接把这个位置交给纠错器？
Learning to Reflect and Correct: Towards Better Decoding Trajectories for Large-Scale Generative Recommendation
问答新增：2026-10-27 · Alibaba International / Wuhan University
展开答案与例子
答案：真实目标码只在训练监督中用于构造draft—反思—纠正轨迹。部署时模型必须从当前候选、属性一致性和自身不确定性判断哪里可能错，否则就是把答案泄漏给被评估策略。熵引导把有限纠错预算分给不确定beam，但高不确定也可能只是难例，不保证一定能修正或提高召回。
教学例子：训练可指出草稿城市码与目标不同；实际推荐时系统不知道用户最终会选哪件商品，只能检查语义与当前证据，不能预先读目标码来定位错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GRC 训练首错标签与测试反思输入应如何隔离？
Learning to Reflect and Correct: Towards Better Decoding Trajectories for Large-Scale Generative Recommendation
问答新增：2026-10-27 · Alibaba International / Wuhan University
展开答案与例子
答案：训练可比较草稿与 gold SID 定义首错，全部正确时使用 L+1；测试只能用模型自身草稿、属性和不确定性生成反思，不能传入 gold 差异。反思、纠正和奖励需绑定同一轨迹，避免用答案修补后再算能力。
教学例子：草稿三层都对时标记无错合法；评估若先拿真实码算出第二层错再告诉纠错器，就从自主纠正退化成有答案的组件诊断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GRC 的不确定性纠错预算与给所有 beam 相同修复次数，相比有什么取舍？
Learning to Reflect and Correct: Towards Better Decoding Trajectories for Large-Scale Generative Recommendation
问答新增：2026-10-27 · Alibaba International / Wuhan University
展开答案与例子
答案：反思 token 熵用于选择更不确定的路径，把固定预算集中到可能值得纠正的分支，避免所有候选重复相同工作。高熵也可能只是无意义噪声，低熵可能自信地错，因此需要结果验证。来源 reward 上升但 test 排序下降，不能只挑训练奖励。
教学例子：十条 beam 中两条明显犹豫，优先修它们可省计算；但若一条错误路径十分自信，它也可能被漏过，熵不是正确率标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GRC 为什么把 draft、反思与 corrected SID 写成结构化轨迹？
Learning to Reflect and Correct: Towards Better Decoding Trajectories for Large-Scale Generative Recommendation
问答新增：2026-10-27 · Alibaba International / Wuhan University
展开答案与例子
答案：层级生成的早期错误会限制后续路径，显式记录草稿和纠正过程让模型学习定位与修复，而不是只看到最终正确码。结构化步骤仍是训练监督，推理必须自行判断哪里可能错，不能直接得到真实首错位置。轨迹格式正确也不保证修复有效。
教学例子：先走到家居粗码，再发现用户要摄影而改到相机路径；模型要学习如何发现偏离，而非测试时由答案告诉它第一层错了。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
STATIC 为什么先做全词表 log-softmax 再屏蔽非法 token，而不在合法集合重新归一化？
Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
问答新增：2026-10-27 · Google
展开答案与例子
答案：约束只限制可走路径，不应悄悄改变模型原本的条件概率尺度。在各前缀的合法集合上重归一化，会让候选少的前缀获得人为优势，改变跨 beam 的比较。CSR 把合法转移压成设备友好数组，加速查表；选择 beam 后还必须同步重排前缀与树状态，否则约束会套到错误路径上。
教学例子：两个前缀分别只剩一个和十个合法后继。若各自重归一化，前者唯一后继概率变成一，可能无端击败原模型更支持的另一条路径；保持原概率再掩码可避免这种偏移。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
STATIC beam选完后为什么prefix和trie node必须一起重排？
Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
问答新增：2026-10-27 · Google
展开答案与例子
答案：每条beam的文本与合法状态成对，选出的子beam可能来自不同父节点。只重排分数或prefix会让下一步沿错合法路径；约束树更新也需版本一致。
教学例子：例如文本走到服饰码却保留食品节点，下一步mask会错误限制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
合法集合重softmax与先全词表log-softmax再mask有什么不同？
Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
问答新增：2026-10-27 · Google
展开答案与例子
答案：前者改变前缀分数尺度，使不同合法集合大小影响beam；后者保留模型原概率，只排除非法项。原方法用后者，不能视作等价数值优化。
教学例子：例如某父beam合法选择少，重归一会额外抬高其子beam得分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
STATIC为什么把合法item树压成设备内迁移索引？
Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
问答新增：2026-10-27 · Google
展开答案与例子
答案：生成推荐需遵守库存地域等约束，CPU逐节点追树带来指针与设备往返。CSR和浅层dense lookup把合法token与目标node变成连续可取索引，便于加速器执行。
教学例子：例如当前前缀后只允许几个码，直接从一行索引拿候选而非回CPU遍历。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
SIGMA 为什么用“短 SID 前缀加唯一物品 ID”，而不完全生成 SID 或只做全库 ANN？
SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
问答新增：2026-10-27 · Alibaba / AliExpress
展开答案与例子
答案：短前缀让模型先按任务指令定位语义子目录，唯一 ID 再保留物品精度并避免同码混淆。检索只在对应子目录做近邻搜索，折中完整多级解码与全库检索成本；多视角对齐让语义与行为空间更相容。APF 根据前缀置信度调节精确性和多样性，但早期前缀漏掉的目录仍可能限制候选覆盖。
教学例子：先生成“户外装备”子目录，再在其中选具体帐篷 ID。置信度高时集中搜索，模糊时扩展多个前缀；若第一步只选家居目录，再强的目录内 ANN 也找不到帐篷。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
SIGMA本地精确cosine top-k能证明生产ANN延迟吗？
SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
问答新增：2026-10-27 · Alibaba / AliExpress
展开答案与例子
答案：不能，缩小目录精确检索验证逻辑，不测大规模索引速度；公开任务映射与原多视角数据不同。现有结果不支持APF或线上收益，需保留范围说明。
教学例子：例如几千商品逐个算相似度，与亿级ANN服务不是同一吞吐场景。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
多任务instruction与只做next-item怎样改变可控性？
SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
问答新增：2026-10-27 · Alibaba / AliExpress
展开答案与例子
答案：任务指令区分query、长尾、发现等目标，训练同模型响应不同业务要求。是否真正遵循仍需对应数据和评估，不能给提示词就假定季节知识已学会。
教学例子：例如相同历史要求探索新类与继续熟悉品类，可用不同指令。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
SIGMA为什么用短SID prefix再接unique item？
SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
问答新增：2026-10-27 · Alibaba / AliExpress
展开答案与例子
答案：短前缀缩小生成搜索空间，独立item表征保留精确身份，再在前缀局部目录检索。它折中全SID长解码与全库ANN，不把共享语义码当唯一商品身份。
教学例子：例如先选运动鞋语义区，再区内区分具体款式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
GR4AD为什么既按商业价值加权监督，又用列表排序优化，而不只学习下一个广告码？
Generative Recommendation for Large-Scale Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：单纯next-token学习曝光频率，可能让常见却价值较低的广告主导训练。价值加权改变不同样本的贡献，列表优化再关心候选之间的相对业务收益；多粒度SID和依赖放松则处理表示与计算问题。这些目标未必一致，必须检查是否牺牲相关性或过度集中头部，不能只报告收入代理的单项变化。
教学例子：一个广告出现很多却很少带来有效转化，另一个较少曝光但有较高业务价值；频率模仿会偏前者，价值监督与列表对齐允许表达这一区别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
GR4AD 本地 RSPO 的 qj∝exp(rj/τ) 为什么要与候选概率空间一致？
Generative Recommendation for Large-Scale Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：奖励分布在同一上下文合法候选上归一，再与学生相同身份概率交叉熵，温度决定锐度。候选错序、非法项或跨请求混组都会改变目标。公开价值代理与真实商业 eCPM 不同，代码执行这些损失不能自动证明 LazyAR 与动态 serving 已全部复现。
教学例子：奖励最高的相机在 q 的第二列，学生第二列若是童装，梯度会教错对象；先对齐身份，比只检查 q 和为一更重要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GR4AD 的 VSL 与 RSPO，为何一个加权监督、一个对齐列表排序？
Generative Recommendation for Large-Scale Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：VSL 让高商业价值样本在码预测损失中更重要，RSPO 用价值奖励分布改变候选相对偏好，作用粒度不同。两者可能一起强化头部，不能只报告 NDCG 上涨；来源本地以热门度代理价值，集中风险尤需保留。
教学例子：高价物品在训练被多学是一种权重变化，给整组候选按奖励重新分布又是另一种排序目标；两者都偏热门时曝光可能过度集中。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
GR4AD 为什么同时考虑商业 SID、生成依赖与负载下 beam 预算？
Generative Recommendation for Large-Scale Advertising
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：广告不仅要相关，还需表达业务属性、快速适应更新并满足延迟。UA-SID 提供多粒度接口，LazyAR 减轻逐层依赖，价值训练与列表目标连接收益，动态 beam 管理服务成本。几个瓶颈不同，不能用单一 next-code 准确率代表整体成功。
教学例子：高价值广告若解码太慢仍不可服务，beam 太窄又可能漏候选；内容编码与调度预算都需参与，而不是只增加模型参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么获取知识按 self/teacher、工具研究、expert 逐级升级，而非一开始总找最强专家？
U-Mem
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：不同级别的获取成本不同，先尝试便宜且可能足够的路径，把高成本援助留给仍不确定的问题。Thompson sampling 让历史效用与不确定性共同影响检索，写回前再验证；级联不是保证低价来源总正确，而是收益与成本的顺序决策。
教学例子：例如常见配置问题先查已有记忆，找不到再读文档，仍有歧义才请专家；无需每次都支付最高级帮助成本。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地专家和知识源是确定性的，会限制什么结论？
U-Mem
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：它们不包含真实搜索失败、幻觉、付费模型或 token 成本，因此只验证升级、验证、写入状态机与代理成本记账。若低置信后总能从预设源得到正确知识，不能据此声称 HotpotQA 或 AIME 能力，以及现实成本收益已经复现。
教学例子：例如 fixture 专家永远返回预设事实，只能测试“升级分支可用”，不能证明真实专家请求会成功或花费相同成本。
依据：核心公式与算法、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
语义相似度加 Thompson sampling 与只按相似度取记忆有何不同？
U-Mem
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：相似度偏向内容相关，Beta 后验采样给不确定但可能有用的记忆探索机会，成功失败反馈再更新。探索不是随机加入无关知识，而是在相关性与效用不确定性之间权衡；后验也依赖真实反馈，不能用模型自信代替验证。
教学例子：例如两条同样相关记录，一条验证很多次、另一条较新，采样可偶尔检验新记录，而非永远只使用旧的最高分。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
U-Mem 为什么把 Agent 不知道的知识当作需要主动补齐的缺口？
U-Mem
问答新增：2026-10-27 · National University of Singapore
展开答案与例子
答案：相似记忆不一定覆盖当前任务需要的事实或方法，Agent 仅重复检索已有内容可能一直停在同一缺口。U-Mem 把知识获取也放入学习流程，按需要利用自身、工具研究或专家帮助，再考虑后续复用。新增知识仍需来源和反馈，不能把专家名义当成天然正确。
教学例子：教学例：历史只记录旧接口调用，新版本参数始终查不到，Agent 应发现缺口并寻求新资料，而不是反复返回旧调用片段。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HiSAC为什么先形成层级interest agents，再让当前query只路由到少量agent？
HiSAC: Hierarchical Sparse Activation Compression for Ultra-long Sequence Modeling in Recommenders
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：全历史attention昂贵，固定单摘要又易丢长尾兴趣。层级码与投票先把行为组织成用户特定兴趣表示，query再选择相关部分，减少逐请求需要读取的状态。兴趣agent不是能自由推理的独立LLM，而是结构化压缩单元；若层级划分或路由遗漏稀有兴趣，后续聚合也无法自动恢复。
教学例子：长历史里有摄影、烹饪和骑行三组兴趣，推荐镜头时主要读取摄影agent；若把少量天文摄影行为压掉，再精确的query路由也找不到那部分证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HiSAC 按 code 聚合行为时，为什么空节点与重复投票需要明确处理？
HiSAC: Hierarchical Sparse Activation Compression for Ultra-long Sequence Modeling in Recommenders
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：节点均值按有效权重和归一，没有成员就没有可估兴趣，不能凭空生成强证据；层级投票和 query 子集选择要保留一致身份。重复行为的权重应按定义计入，不应把同一事件沿层展开误当多次独立消费。
教学例子：一条摄影行为在粗细两层都有节点，不代表用户消费两次；空的潜水节点更不能因初始化向量恰好相似而被当作真实兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
HiSAC 的层级兴趣路由与固定单个用户向量，保留了什么选择空间？
HiSAC: Hierarchical Sparse Activation Compression for Ultra-long Sequence Modeling in Recommenders
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：多个层级节点分别保留粗细兴趣，query 按需使用，减少把多峰兴趣平均掉的情况；单向量更省接口但难回到具体子兴趣。路由也可能漏掉低权重稀有需求，量化会损细节。来源小幅 NDCG 上升与 Hit 下降应分别解释。
教学例子：用户既摄影也跑步，相机 query 读摄影节点，跑鞋读运动节点；若压成一个平均向量，两种方向可能相互稀释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HiSAC 的 interest agent 为什么不是实时运行的一组语言 agent？
HiSAC: Hierarchical Sparse Activation Compression for Ultra-long Sequence Modeling in Recommenders
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：这里 agent 是由层级语义码和用户行为汇聚的兴趣表示，当前 query 路由到少数相关节点，不意味着每个节点都会独立调用 LLM 推理。名称描述组织角色，实际算子是量化、投票与加权聚合。理解这一点可避免误估能力和服务成本。
教学例子：摄影与露营 agent 可只是两份汇聚向量，查询选择其中一份；它们不需要互发消息或生成长回答才能完成一次检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
GPL预排序为什么给未曝光候选补伪标签，而不只对已曝光点击做监督？
Generative Pseudo-Labeling for Pre-Ranking with LLMs
问答新增：2026-10-27 · Alibaba Group / Renmin University
展开答案与例子
答案：已曝光样本由旧系统筛选，预排器很少看见被早期淘汰候选的有效监督。LLM借用户兴趣锚点对这些候选产生补充标签，帮助模型覆盖旧日志的盲区，服务时仍使用轻量预排器。伪标签是带误差的外部判断，不是反事实真值，需要控制权重并检查它是否放大已有语义偏差。
教学例子：旧系统从未展示某类相关新品，因此没有点击记录；LLM可提供初步相关性判断来训练预排，但不能把这个判断写成用户已经喜欢或购买的事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
GPL 的真实与伪监督为什么应分别记录来源和 λ？
Generative Pseudo-Labeling for Pre-Ranking with LLMs
问答新增：2026-10-27 · Alibaba Group / Renmin University
展开答案与例子
答案：两个标签的可信度与覆盖不同，联合损失系数决定伪样本影响，不能无标记混成同一真实事件。训练只使用可得用户历史，测试目标不应用于构造兴趣锚点；本地公开代理也不能声称完成实际 LLM 标注生产流程。
教学例子：一百个真实点击和一万条伪标签若等权，弱监督可能压过事实；记录来源与权重，才可检查增益是否只是被某类伪标注主导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
GPL 的伪标签与将未曝光一律当负例，相比纠正了什么假设？
Generative Pseudo-Labeling for Pre-Ranking with LLMs
问答新增：2026-10-27 · Alibaba Group / Renmin University
展开答案与例子
答案：一律负例把没机会展示误当拒绝，伪标签依据用户意图估计可能相关性，减少这种过强假设。它也可能将语言模型偏见带入学生，需用权重控制并保留真实标签约束。线上无 LLM 是部署选择，不证明伪标签准确。
教学例子：用户没见过某防水鞋不代表不喜欢，锚点可给它弱正信号；若 LLM 只因广告文案漂亮就打高分，仍需真实反馈校准。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
GPL 为什么关注未曝光候选，而不是只扩大已曝光点击日志？
Generative Pseudo-Labeling for Pre-Ranking with LLMs
问答新增：2026-10-27 · Alibaba Group / Renmin University
展开答案与例子
答案：预排面对的候选比最终曝光更广，只有曝光反馈会让训练覆盖偏窄。兴趣锚点与 LLM 为未曝光项提供弱监督，让模型学习更接近召回池的分布。伪标签是推断而非真实用户选择，不能取代全部观测反馈。
教学例子：召回一千件只展示十件，剩余没有点击标签却不必然差；伪标注可补一些相关性线索，但无法宣称这些商品实际得到过好反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
PLD不更新学生参数，为什么还要训练、验证与测试严格分离？
Prompt-Level Distillation: A Non-Parametric Alternative to Model Fine-Tuning for Efficient Reasoning
问答新增：2026-10-27 · Google
展开答案与例子
答案：教师从带标签训练样本提取规则，经语义聚类与错误对照修订后，规则本身就承载了学习结果。验证集可判断规则是否收敛，测试时必须冻结规则，不能依据测试答案继续修补。参数不变并不消除泄漏风险；它把教师推理编译为可读指令而非微调权重。
教学例子：例如训练中提炼日期归一化规则，验证后固定为系统指令；看到测试标准日期再添加特例，即使没有梯度更新也已使用测试标签。
依据：背景与主要改动、核心公式与数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
PLD的规则什么时候冻结，测试反馈能继续修订吗？
Prompt-Level Distillation: A Non-Parametric Alternative to Model Fine-Tuning for Efficient Reasoning
问答新增：2026-10-27 · Google
展开答案与例子
答案：用训练样本提规则和纠错，验证判断收敛后冻结，测试不再依据标准答案改规则。未更新权重仍可能泄漏，因此提示版本与来源应可追踪。
教学例子：例如看完测试日期错例后加特例，再重报测试分，就不再是独立评估。
依据：背景与主要改动、核心公式与数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
PLD语义DBSCAN与简单把相同句子去重有什么不同？
Prompt-Level Distillation: A Non-Parametric Alternative to Model Fine-Tuning for Efficient Reasoning
问答新增：2026-10-27 · Google
展开答案与例子
答案：语义聚类可把不同措辞的同类微规则聚合并去噪，字符去重只识别字面相同。规则冲突还要根据训练错误修订，不能由字符串列表自动保证一致。
教学例子：例如两条不同表达的单位换算规则应可能属于同一语义簇。
依据：背景与主要改动、核心公式与数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
PLD不微调参数，知识最终存在哪里？
Prompt-Level Distillation: A Non-Parametric Alternative to Model Fine-Tuning for Efficient Reasoning
问答新增：2026-10-27 · Google
展开答案与例子
答案：存于教师抽象、聚类和修订得到的可读系统规则，学生推理时读取冻结指令。规则是学习产物，参数不变不表示没有训练数据依赖。
教学例子：例如把常见日期处理经验编成几条指令，部署时作为学生系统提示。
依据：背景与主要改动、核心公式与数据协议；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
ULTRA-HSTU 为什么在局部窗口之外保留 landmark，并让更深层扩大可见范围？
Bending the Scaling Law Curve in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：只看固定局部窗口会失去远期连接，全连接又难承受长序列成本。landmark 提供稀疏全局通道，随层加宽的局部范围让深层逐步整合更远信息，再配合混合 transducer 和系统优化扩展规模。稀疏模式改变可达路径，不是无损替代全注意力；端到端效率还受窗口、landmark 数和具体内核影响。
教学例子：浅层先理解最近几次点击，少量代表点连接过去兴趣，深层再扩大窗口组合更多上下文。像先看邻里再看城区，不能假设第一层已经读过所有历史细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
48-event本地消融能证明16k生产scaling law吗？
Bending the Scaling Law Curve in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：不能，缺少18层生产模型、动态拓扑、FP8内核和私有日志。结构计数或小样本分数只检验路径，扩展曲线需多规模同协议训练与设备测量。
教学例子：例如把最大长度配置写16000但只喂几十条，不算超长验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
semi-local加深层宽窗与所有层固定窗口有何差别？
Bending the Scaling Law Curve in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：深层逐步获得更广上下文，固定窗每层只在相同局部连接。真实感受野还依堆叠和landmark，不能用一个窗口公式替代Mixture、精度和系统优化全套。
教学例子：例如浅层细看会话，深层再联系跨会话兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ULTRA-HSTU为什么在局部窗口之外加landmark？
Bending the Scaling Law Curve in Large-Scale Recommendation Systems
问答新增：2026-10-27 · Meta
展开答案与例子
答案：局部保细节，少量landmark连接远期信息，降低超长注意力成本；LBSL随深层扩大范围。它不是直接把原HSTU完整序列等价压缩，远期细节仍可能损失。
教学例子：例如近期行为逐条读，远期用代表位置提供跨段联系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
LTV视频排序为什么先处理位置偏差，再把会话与跨日创作者价值纳入目标？
A Long-term Value Prediction Framework In Video Ranking
问答新增：2026-10-27 · Alibaba Group / Tsinghua University
展开答案与例子
答案：前排内容更容易被看到，直接把观测互动当长期价值可能奖励展示机会而非真正贡献。位置校正先尽量对齐可比反馈，再通过会话归因与作者周期任务表达更长时间范围的价值。位置分位映射和长期归因各有假设，不能把两者叠加后的分数直接解释成已识别的因果留存增量。
教学例子：一个创作者总被放首位因而互动高，另一个常在后排；先控制展示机会，再看谁带来后续持续消费，才不至于把排位优势误当长期内容价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
PDQ 的分布映射为何必须区分原位置分布与目标参考分布？
A Long-term Value Prediction Framework In Video Ranking
问答新增：2026-10-27 · Alibaba Group / Tsinghua University
展开答案与例子
答案：先在候选原位置条件分布求分位，再经统一参考分布逆映射，才表达可比较尺度；若两步都用同一原分布会近似还原原值。经验分布应从允许数据拟合，不能用测试后行为调参。缺少真实位置日志时只能做明确代理。
教学例子：第五位观看在该位置属前百分之十，映到参考位置对应值；若直接把第五位分位再逆映回第五位，就没有完成跨位置对齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
长期创作者价值与只按单条观看秒数排序，相比奖励单位有何不同？
A Long-term Value Prediction Framework In Video Ranking
问答新增：2026-10-27 · Alibaba Group / Tsinghua University
展开答案与例子
答案：单条秒数反映即时消费，作者周期任务看跨日持续价值，可能鼓励稳定内容供给而非一次吸睛。两种价值需要明确融合，长期代理也可能偏向既有头部作者。机制更长远不意味着已验证留存或生态改善，来源公开代理不含真实作者周期。
教学例子：一条夸张视频短期长看，但持续优质系列让用户多日返回；排序目标若只看当前秒数，就难奖励后一种贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
LTV Video Ranking 为什么先校正位置再分配会话长期价值？
A Long-term Value Prediction Framework In Video Ranking
问答新增：2026-10-27 · Alibaba Group / Tsinghua University
展开答案与例子
答案：展示位置影响观看与互动，未校正时前位内容可能获得不应归于质量的信用。PDQ 将不同位置结果对齐，再汇总会话与跨日创作者价值，减少把位置机会误当长期贡献。分位校正仍依分布假设，不等于所有曝光混杂都被消除。
教学例子：第一位视频比第五位更易被看，不能把全部差值归于作者优质；先对齐位置条件，再比较它带来的后续消费。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
生成专家的gate在每个输入上都softmax，为何组合分布仍可能没有归一化？
A Theoretical Framework for Modular Learning of Robust Generative Models
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：若gate随被评价的完整样本变化，它不能像固定混合系数那样移出全局求和；逐输入权重和为1并不保证混合密度对全部样本求和为1。方法因此额外约束总质量，并区分最差域的KL与NLL口径。忽略全局约束，或事后悄悄归一化，都改变了原优化问题。
教学例子：只有A、B两个样本，gate在A处偏向最擅长A的专家，在B处又偏向最擅长B的专家；两处都取到高密度后，总和可能大于1，尽管每处gate都和为1。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
从非因果教师轨迹蒸馏 router 时，为什么缓存目标不能直接作为 router 输入？
A Theoretical Framework for Modular Learning of Robust Generative Models
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：教师缓存可用于训练目标，但因果router的logits必须只由前缀产生；否则把未来信息泄漏到路由。文档API不自动证明调用方网络因果，调用者还需独立检查这一边界。
教学例子：训练时知道目标token的专家概率，不代表推理路由器可以提前看到目标token。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
理论域 KL 与实践域 NLL，对 gate 和对抗权重总是等价吗？
A Theoretical Framework for Modular Learning of Robust Generative Models
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：同一域中两者相差与gate无关的域熵，所以gate梯度等价；跨域熵不同时，对抗权重看到的收益排序可能改变。文档默认实践NLL，不能把两种对抗目标静默混用。
教学例子：两个域预测难度的固有熵不同，减去域熵可能改变哪个域被认为最差。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
鲁棒生成专家组合为什么要关注最差数据域，而不只优化平均 loss？
A Theoretical Framework for Modular Learning of Robust Generative Models
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：平均分可能掩盖某个域的明显退化。方法用对抗域权重调整输入相关gate，使组合考虑较差域，同时显式处理整个生成分布的质量约束。
教学例子：三个域中两个很好、一个很差，平均改善不代表最差域已得到保护。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
MFLI为什么把索引作为模型参数，并让请求按facet分配检索预算？
Rethinking ANN-based Retrieval: Multifaceted Learnable Index for Large-scale Recommendation System
问答新增：2026-10-27 · Meta
展开答案与例子
答案：一个几何空间难同时表达语义、热度和时效性，独立离线索引也可能落后于模型。多facet学习式索引为不同目标保留不同组织方式，请求再决定各路投入多少候选配额，避免统一搜索策略。可学习索引仍需维护新内容与路径一致性，不能只凭省去传统ANN就宣称质量与更新成本都更好。
教学例子：探索请求可多给新鲜内容facet预算，明确品类请求多给语义facet；如果所有请求固定平均分配，即使有多个索引，也未真正利用上下文需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
MFLI 的 facet 权重 softmax 与实际检索配额，为什么要分开核验？
Rethinking ANN-based Retrieval: Multifaceted Learnable Index for Large-scale Recommendation System
问答新增：2026-10-27 · Meta
展开答案与例子
答案：连续权重和为一只是学习输出，转成整数预算还涉及取整、总额与空分支处理，执行数量可能偏离预期。各 facet 的 code 身份也需正确映回 item，再去重。来源本地四 facet proxy 不能直接推出工业索引刷新与吞吐性能。
教学例子：预算十、权重三路各三分之一，简单四舍五入只得到九；需有明确余量分配，否则数学权重正确而实际召回预算并不守恒。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MFLI 多 facet 与简单把多路召回结果拼接，相比预算分配有何区别？
Rethinking ANN-based Retrieval: Multifaceted Learnable Index for Large-scale Recommendation System
问答新增：2026-10-27 · Meta
展开答案与例子
答案：多 facet 在学习索引和请求权重上共同设计，a(q) 影响各目标的检索资源；简单拼接可能使用固定配额且目标空间独立。学习并不保证少热门，来源本地 head share 反而升，需检验实际候选分布，不能只相信 facet 名称。
教学例子：寻找新品时可增加时效 facet 预算，明确型号时多查语义；固定每路十个则对所有请求一样，也可能重复浪费在热门候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MFLI 为什么把检索索引也纳入模型学习，而非只为既有向量建 ANN？
Rethinking ANN-based Retrieval: Multifaceted Learnable Index for Large-scale Recommendation System
问答新增：2026-10-27 · Meta
展开答案与例子
答案：独立 ANN 组织几何近邻，多个业务目标被压进单空间，更新也可能滞后。学习式多 facet 索引让语义、流行与时效有不同组织，并按请求分预算。它连接任务与索引，却仍需处理节点更新和覆盖，不能把参数化索引视为自动实时无成本。
教学例子：同一物品可在语义与新鲜度两套 facet 中有位置，请求决定更多查哪路，而不是一个距离同时承担所有目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么行动后即使原记忆很自信，也必须允许用户纠正偏好？
Learning Personalized Agents from Human Feedback
问答新增：2026-10-27 · Meta Superintelligence Labs / Princeton University（工作完成于 Meta）
展开答案与例子
答案：自信只反映当前记忆状态，不保证偏好没随场景或时间变化。行动前检索和澄清处理未知，行动后纠正覆盖过期内容，两个阶段解决不同问题；若只在低置信时接受反馈，曾经学错或已漂移的高置信偏好反而会被永久固化。
教学例子：例如用户过去常选早班机，如今因作息改变拒绝；系统应更新偏好，而不能因为旧记录自信就继续反复订早班。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
PAHF 的行动策略输入中，当前情境与已记偏好为什么应同时保留？
Learning Personalized Agents from Human Feedback
问答新增：2026-10-27 · Meta Superintelligence Labs / Princeton University（工作完成于 Meta）
展开答案与例子
答案：策略按当前指令、观察、显式记忆及行动前反馈决定动作，偏好不是脱离场景的一条全局口令。更新时需要让新反馈与当前情境建立联系，避免把一处变化解释成所有任务的永久规则。本地执行了这些记忆和反馈合同，没有运行原论文机器人或购物模拟器。
教学例子：教学例：用户今天为客人选择无糖饮品，不代表本人日常口味永久改变；行动输入保留当前场景，才能解释这次反馈的范围。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
显式偏好记忆与把用户 persona 当隐藏真值输入有什么区别？
Learning Personalized Agents from Human Feedback
问答新增：2026-10-27 · Meta Superintelligence Labs / Princeton University（工作完成于 Meta）
展开答案与例子
答案：显式记忆来自已发生的用户反馈，带有可观察依据；隐藏 persona 或 gold action 只供评测，提前提供会消除个性化学习难点。PAHF 关注从交互获得偏好与变化，不是每轮直接读取评测设定后选择标准动作。
教学例子：例如用户说过“工作日不喝咖啡”可以记忆，测试文件暗藏的同一句不能未经交互就喂给策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
行动前澄清与行动后纠正为什么是两种互补反馈？
Learning Personalized Agents from Human Feedback
问答新增：2026-10-27 · Meta Superintelligence Labs / Princeton University（工作完成于 Meta）
展开答案与例子
答案：行动前在未知或低置信时询问，可减少对新偏好的猜测；行动后反馈让系统修正已执行行为和过期记忆，处理漂移。即使原记忆很自信也应接收纠正，因为用户偏好可能随情境和时间改变，置信不能成为拒绝更新的理由。
教学例子：例如以前用户爱辣，今天点餐改为清淡，行动前可澄清；若已点错，明确纠正仍应覆盖当前情境的旧偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么模拟购物目标成功，并不能证明用户模拟器像真人？
ConvApparel: A Benchmark Dataset and Validation Framework for User Simulators in Conversational Recommenders
问答新增：2026-10-27 · Google
展开答案与例子
答案：任务成功只反映与当前推荐策略配合完成目标，模拟器可能语气、行为分布或响应规律都不真实。群体统计、训练过的真假判别与跨策略反事实分别检查不同维度，互相不能替代；HLS 是判别器真人概率，不是购物成功率或人类真实认可。
教学例子：例如模拟用户每次立刻接受第一款商品，目标完成很快，却不像真人反复比较；换另一推荐策略时还可能完全失效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
PLSA在这里是主题模型吗，本地统计如何留痕？
ConvApparel: A Benchmark Dataset and Validation Framework for User Simulators in Conversational Recommenders
问答新增：2026-10-27 · Google
展开答案与例子
答案：不是，是Population-Level Statistical Alignment。本地小样本精确置换，大样本定种子加一修正Monte Carlo，是明示选择；HLS判别器应独立训练验证，不能用金标回填预测。
教学例子：例如KS距离计算通过，只证明统计核，不证明模拟器已和真人一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
ConvApparel跨推荐策略验证，与在生成模拟数据的同一策略下验证有什么区别？
ConvApparel: A Benchmark Dataset and Validation Framework for User Simulators in Conversational Recommenders
问答新增：2026-10-27 · Google
展开答案与例子
答案：同策略验证可能只说明模拟器适应了熟悉的交互环境；跨策略把在一种策略下训练的模拟器放到另一策略，观察行为规律能否迁移。它补充分布相似和真假判别证据，但仍不是对所有真实部署策略的泛化保证。
教学例子：只在偏热门的推荐器下训练模拟器，再放到偏探索的推荐器中，检查它是否仍呈现合理购物反应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
ConvApparel的PLSA是在训练同名主题模型吗？
ConvApparel: A Benchmark Dataset and Validation Framework for User Simulators in Conversational Recommenders
问答新增：2026-10-27 · Google
展开答案与例子
答案：不是。此处PLSA全称为Population-Level Statistical Alignment，检查模拟人群与真人的行为分布是否接近；本地统计核使用KS距离与带并列处理的MWU。它比较群体分布，不会逐条证明每段模拟对话都是真实的人类行为。
教学例子：比较真人与模拟者的对话轮数分布，是群体行为对齐检查，并非从购物文本学习若干隐含主题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
MixFormer 把稠密字段和行为序列放进同一 token 空间，和两个塔最后拼接有什么信息流区别？
MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：末端拼接时，字段交互与序列编码先各自完成，早期层无法根据对方的信息调整表示。MixFormer 让两类 token 在多层统一交互中共同更新，把预算和参数用于联合建模。服务时再解耦可共享的用户计算与候选相关计算；统一建模不等于每个候选都重算完整用户历史。
教学例子：用户刚连续浏览户外装备，当前场景是雨天。统一层可以在建模历史时利用场景字段，逐层强化防水需求；末端拼接只能拿已压缩的两份表示再组合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
MixFormer 本地一次 user encoding 后点积全候选，为什么要检查 candidate 是否进入公共主干？
MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：若候选已写入统一用户状态，换候选不能直接复用；本地把用户字段与历史先统一编码，候选通过后续向量打分，才满足一次编码。应以实际依赖判断共享，不由“unified”名称推断。公开 genre 替代私有字段也限制保真范围。
教学例子：用户侧四字段与三十二行为先成一个向量，候选相机和鞋各自点积合法；若相机先被拼入主干，再把输出给鞋就不是同一路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
MixFormer 对参数匹配 stacked baseline 的比较，为什么比旧固定 semantic-gate 更能隔离架构？
MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：匹配两边预算并真实训练 stacked 与 unified，才能更接近比较交互组织，而固定打分门控只是代理。参数相近仍不消除优化难度、数据特征与方差差异。来源已撤旧代理，不能把旧数字混为同一实验或声称稳定工业幅度。
教学例子：两层统一网络与同量级独立两塔比较有架构意义；给现成分数加一个语义常数，只能测融合规则，不是统一 Transformer 训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
MixFormer 的统一 token space 为什么要同时包含稠密字段与行为序列？
MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：字段交互和序列兴趣分别编码会推迟信息交流，统一空间使多层共同更新，两种容量可联合扩展。异构字段仍需适当投影，不等于把它们都当语言词。服务再解耦用户与候选依赖，统一训练不代表所有状态都可公共缓存。
教学例子：雨天场景字段可在早层帮助解释户外浏览，更新后的兴趣又影响字段组合，而不必等两塔最终拼接才看到对方。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
Climber-Pilot怎样让单步生成考虑更远消费，而不在服务时展开整条未来轨迹？
Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：时间感知多物品预测在训练中要求当前状态解释多个未来目标，把长周期前瞻压进参数；服务时仍可只生成当前结果。条件引导的注意力再把类目与业务限制纳入计算，而不是额外多步推理。未来监督只能来自训练轨迹，不能在评估请求中读取真实未来物品来决定当前推荐。
教学例子：训练时知道某次兴趣最终延伸到相机配件，可让当前表示学习这类后续需求；真正上线只看已有历史，不能把这位用户尚未发生的购买塞进输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
TAMIP 多未来损失中的时间权重应怎样与有效目标 mask 配合？
Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：每个未来偏移 k 的损失需对应真实存在的目标和定义好的 wk，短序列末端不能用 padding 当正例。各偏移可共享当前历史状态，但训练输入只到截止时刻。实现还应区分时间加权监督与注意力条件 mask，二者影响不同张量。
教学例子：某用户只剩两个未来事件，就只计算这两项，而非为第三个空位置训练一个假商品；权重更大也不允许把该未来事件拼进历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
Climber-Pilot 的条件稀疏注意力与解码后过滤，约束进入计算的阶段有何不同？
Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：注意力内掩码改变模型用哪些证据形成表示，后过滤只删除已生成结果，无法修复生成前漏掉的合法候选。前者使条件参与建模，仍需保证掩码与业务规则一致；它不是无需任何合法性校验的保证，也没有证明所有后处理都可移除。
教学例子：只允许某品类时，在内部关注相关证据有助形成候选；事后删掉全部不符商品可能剩空列表，且已花费的生成预算无法追回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
Climber-Pilot 为什么训练预测多个未来物品，却仍只需单步服务？
Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following
问答新增：2026-10-27 · NetEase Cloud Music
展开答案与例子
答案：多个偏移目标在训练中把长周期消费结构写入共享状态，使一次预测不只追随紧邻事件；服务使用学到的模型，不必逐步模拟完整未来。时间权重表达不同距离的贡献。未来目标属于监督，不能转成实时可见输入。
教学例子：训练让当前状态同时预测接下来的相机、镜头和包，服务仍直接给当前候选打分；系统没有先看到这三次真实未来行为再推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
UniMVT 为什么把基础点击倾向与券强度敏感性分开，再比较有券和无券预测？
Jointly Optimizing Debiased CTR and Uplift for Coupons Marketing: A Unified Causal Framework
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：高点击用户即使没有券也可能购买，直接用有券转化率排序会把自然倾向误当券增益。分离表示与双塔先建模基础结果和处理结果，反事实约束连接未观测情形，单元 uplift 再统一不同券档的增量尺度。模型结构不能单独建立因果识别，仍依赖处理分配、混杂控制与反事实假设。
教学例子：甲不用券也有八成购买机会，乙从两成升到五成。按转化率会选甲，按增量更可能选乙；但若发券对象本来就不同，还需控制选择偏差才可解释差值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
本地UniMVT有没有真实随机券档和反事实结果？
Jointly Optimizing Debiased CTR and Uplift for Coupons Marketing: A Unified Causal Framework
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：没有，MovieLens代理只验证双塔和反事实约束机制。估计需处理分配混杂与重叠，测试行为不得直接构造处理标签，不能报告真实优惠券增量收益。
教学例子：例如人为按评分高低分券组，会把结果信息混入处理分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
uplift与处理组CTR高低为什么不是同一指标？
Jointly Optimizing Debiased CTR and Uplift for Coupons Marketing: A Unified Causal Framework
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：uplift比较同条件下处理与不处理的潜在差，处理组高可能只是人群选择偏差。去混杂与反事实目标有假设，不能把预测塔差值自动称已识别因果效应。
教学例子：例如优惠券专发高意向人群，他们高CTR也可能与券无关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
UniMVT为什么分基础点击与券强度敏感性？
Jointly Optimizing Debiased CTR and Uplift for Coupons Marketing: A Unified Causal Framework
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：原本就会点击或购买的用户不应被全部归因于发券，分开基础倾向和处理响应，才能估增量而不是只预测接受券后的高概率。
教学例子：例如本来必买的用户拿券购买，不一定是券带来的新增。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
RQ-GMM 在每层残差量化用高斯混合软分配，和最近中心硬量化有何取舍？
RQ-GMM: Residual Quantized Gaussian Mixture Model for Multimodal Semantic Discretization in CTR Prediction
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：硬分配只选择一个中心，边界样本容易跳变，少数中心也可能长期闲置。软后验让一个残差按概率组合多个高斯均值，再把量化结果从残差中减去进入下一层，使码本使用更平滑。代价是软表示与最终离散服务接口仍需衔接；语义量化与 CTR 训练解耦，也不保证码本天然最优于点击目标。
教学例子：一条视频同时像烹饪教学和生活记录，硬分配只能先选一类；软后验可按比例表达两者，再让下一层补残差，减少处在类别边界时的突然跳码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
RQ-GMM下一层残差应减去哪个量？
RQ-GMM: Residual Quantized Gaussian Mixture Model for Multimodal Semantic Discretization in CTR Prediction
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：减本层后验加权重构而非任意最大中心，保持层间递推定义。概率需归一，码本版本与训练阶段分开；本地多模态特征代理不含生产图文模型。
教学例子：例如先软重构却减硬中心，会让下一层学到另一种未说明残差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
RQ-GMM先学习语义码再接CTR训练，与让CTR损失端到端改写码本有什么不同？
RQ-GMM: Residual Quantized Gaussian Mixture Model for Multimodal Semantic Discretization in CTR Prediction
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：前者把语义量化与CTR优化解耦，后者允许点击目标直接改变离散表示的学习方向。解耦便于保留通用语义结构，却不保证当前CTR任务最优；端到端也可能失去原语义稳定性。这里比较训练耦合关系，不编造两种路径的效果优劣。
教学例子：商品内容相近时先得到相近语义码；若CTR梯度也能改码本，热门度差异可能进一步改变这些码的分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
RQ-GMM为什么逐层量化残差而不是只分一次簇？
RQ-GMM: Residual Quantized Gaussian Mixture Model for Multimodal Semantic Discretization in CTR Prediction
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：第一层捕捉粗语义，后续编码尚未解释的部分，形成分层离散表示。每层高斯后验软分配可缓和硬聚类利用不足，但仍受聚类质量和输入语义影响。
教学例子：例如先编码大类，再对剩余细节编码，而非要求一个码包办全部语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RoleGen 为什么要识别转化路径中的功能角色，而不只按物品相似度唤醒休眠用户？
Awakening Dormant Users: Generative Recommendation with Counterfactual Functional Role Reasoning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：长期无活跃时，重复旧相似物品容易把兴趣收窄。功能角色把物品理解为探索、比较或促成转化等路径环节，再用反事实路径估计其工具性贡献，反馈给 SID 生成骨干并迭代反思。这里的作用估计依赖模型与数据假设，不能仅凭观测轨迹就把分数差解释成已识别的真实因果效应。
教学例子：用户买相机前看过评测和摄影教程，教程虽不似相机商品，却可能是重新激活兴趣的入口。按角色理解路径可考虑这个入口，而不只继续推荐相似相机。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
RoleGen本地公开数据能证明休眠用户生产转化吗？
Awakening Dormant Users: Generative Recommendation with Counterfactual Functional Role Reasoning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：不能，本地MovieLens子集与代理目标只检验中心路径，缺少私有休眠日志和真实分桶。反事实分数来源、候选和反馈需留痕，不可用代理Δ冒充线上干预效果。
教学例子：例如电影偏好排序变化不是电商转化因果增量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
反事实工具性作用与普通共现相似度有什么区别？
Awakening Dormant Users: Generative Recommendation with Counterfactual Functional Role Reasoning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：共现只描述一起发生，工具性问题关心移除该物品路径结果怎样变。若本地仅有代理条件，不能把do记号公式当已识别真实因果效应。
教学例子：例如充电器与手机共购，不自动证明推荐充电器导致手机购买。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RoleGen所说的role是用户画像身份，还是物品在转化路径中的功能？
Awakening Dormant Users: Generative Recommendation with Counterfactual Functional Role Reasoning
问答新增：2026-10-27 · Beihang University
展开答案与例子
答案：这里是物品在转化路径中承担的功能角色，不是给用户分配职业或人口属性。LLM Reasoner对轨迹中的物品作用作判断，再将候选交给SID生成骨干与反馈循环。角色是模型推断的解释，不能直接当成已经观测到的真实因果身份。
教学例子：同一商品可以在一次路径里帮助比较，在另一次路径里成为最终购买对象；这与用户是不是“学生”无关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RGAlign 为什么用排序模型对物品的偏好反过来选择 query 的胜负？
RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
问答新增：2026-10-27 · Forth AI / Shopee / Singapore University of Technology and Design
展开答案与例子
答案：语言上流畅的潜在 query 未必能召回排序器真正看重的物品。先生成多种 query，再依据它们对应物品的排序偏好构造监督与胜负对，可把意图生成目标对齐到下游 top-rank 需求。RG-SFT 建立基本映射，DPO 强化相对偏好；它仍继承排序器的判断，不能被当成独立用户满意度标签。
教学例子：历史可解释为“入门摄影”或“专业镜头”。若下游对该用户更看好轻便入门相机，就优先训练前一 query，而不是仅按哪句表达更自然来选胜者。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
本地RGAlign的query与论文生产LLM链路怎样区分？
RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
问答新增：2026-10-27 · Forth AI / Shopee / Singapore University of Technology and Design
展开答案与例子
答案：当前公开MovieLens固定候选协议只验证排序引导的中心计算，未复刻私有特征、生产基础模型或在线流量。正负query需同上下文与同候选评判，不能用测试标签选优。
教学例子：例如离线候选分数提高，不能直接写成线上推荐转化增长。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
排序引导query对齐与普通语言SFT有什么区别？
RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
问答新增：2026-10-27 · Forth AI / Shopee / Singapore University of Technology and Design
展开答案与例子
答案：普通SFT学习示范文本似然，排序引导用下游物品偏好构建正负query，额外约束语言意图是否服务排序。排序器也可能带偏差，不能把其偏好当用户因果真值。
教学例子：例如更华丽的query未必带来更相关候选，排名反馈可区分这点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RGAlign-Rec的潜在query是用户真的输入过的搜索词吗？
RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
问答新增：2026-10-27 · Forth AI / Shopee / Singapore University of Technology and Design
展开答案与例子
答案：不是。它是从用户上下文生成的语言化意图，用来连接下游物品召回与排序需求。生成得通顺并不意味着用户明确说过这些话，因而不能把query当成直接观测的用户真值。先分清真实行为与生成意图，才能理解后续排序引导监督的来源。
教学例子：用户看过几条露营内容，系统生成“轻量帐篷”作为潜在query；这不等于日志里记录了用户搜索过该词。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
CAPTS为什么用trigger召回出的内容消费价值评价trigger，而不只看trigger自身点击？
CAPTS: Channel-Aware, Preference-Aligned Trigger Selection for Multi-Channel Item-to-Item Retrieval
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：触发物品是召回入口，其直接反馈未必反映后续能带来什么候选。VAM把两跳内容的下游消费归因回入口，再由CATR联合分配trigger与I2I通道，既考虑价值又惩罚重叠。单独挑最热门入口可能让多个通道召回相同内容，浪费有限候选配额。
教学例子：两个热门视频都导向同一批搞笑片，第三个较冷入口却能召回高价值科普；按下游价值和通道互补分配，可能比全选热门入口覆盖更好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
CAPTS 的价值汇总为什么需要保留 trigger、通道与下游物品三层索引？
CAPTS: Channel-Aware, Preference-Aligned Trigger Selection for Multi-Channel Item-to-Item Retrieval
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：同一 trigger 在不同通道会产生不同候选及贡献，权重与反馈必须回到正确路径，再在联合选择时计算通道重叠。若先把所有结果压成一个全局物品分数，就丢掉入口信用。公开代理的消费标签与真实生产价值也应明确区分。
教学例子：候选甲由两个 trigger 召回，不能把同一次消费不加区分地各算全额收益；保留路径与权重，才知道哪个入口真正补充了候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
CAPTS 的联合通道路由与每个 I2I 通道独立选最强 trigger，有何区别？
CAPTS: Channel-Aware, Preference-Aligned Trigger Selection for Multi-Channel Item-to-Item Retrieval
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：独立选择容易让各通道都围绕同一入口工作，局部最优叠加出高度重叠集合。联合目标同时考虑下游价值和重叠惩罚，让入口与通道之间分工。覆盖增加仍可能牺牲部分精度，来源只支持特定任务的测量，不能视为全通道无代价改进。
教学例子：三个通道都从同一部电影出发，返回同批热门续集；联合路由可让一个通道保留续集，另一个从导演兴趣入口探索不同内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
CAPTS 为什么把 trigger 的价值定义在两跳召回链路之后？
CAPTS: Channel-Aware, Preference-Aligned Trigger Selection for Multi-Channel Item-to-Item Retrieval
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：trigger 是召回其他内容的入口，其本身点击高不一定能带来有价值候选。VAM 将下游消费归回入口，评价它在当前 I2I 通道中能带出什么；CATR 再分配路由，让多个通道提供互补覆盖。入口价值依赖后端链路，不能脱离通道单独理解。
教学例子：用户看过一个热门视频，但它带出的候选很重复；另一条较冷历史能召回用户喜欢的新主题，后者可能是更好的 trigger。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
Spatial Ads 的 LP 舍入为什么针对整个原始采样集合判冲突，而不是按贪心已选集合逐个接受？
Online Advertising with Spatial Interactions
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：圆盘选择同时受空间冲突与同组约束，独立采样后的保留概率修正基于原始采样事件推导。若改成贪心逐个接受，后面的条件分布与冲突概率就变了，不能沿用原保证。真正求解 LP 并按规定舍入，是这里的算法核心；本地仅做小规模数学诊断，未验证线上广告收益。
教学例子：两个广告圆盘互相冲突，贪心先留下甲会改变乙面对的条件。原算法先固定整份随机采样，再据其中所有冲突决定保留，不能把二者当作同一个过程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
圆盘边界与采样概率不合法时怎样处理？
Online Advertising with Spatial Interactions
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：覆盖用严格距离小于半径，不含边界；距离需满足协议且稀释概率合法，不满足就失败。当前用真实HiGHS LP，未复现论文所有拍卖或二维PTAS结论。
教学例子：例如概率算到大于一不能直接clip后继续声称相同舍入分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
真实LP加两阶段舍入与贪心逐个放广告有什么不同？
Online Advertising with Spatial Interactions
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：LP处理分数可行域，采样后冲突针对原整个采样集，再二次稀释；贪心只看已保留集合会改变选择概率和保证条件。不能用启发式兜底冒充原算法。
教学例子：例如某候选虽最终没留，若在原采样集里冲突仍影响规定事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
Spatial Ads为什么把屏幕位置之间的干扰建模？
Online Advertising with Spatial Interactions
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：一个广告的价值可能受邻近广告影响，独立位置竞价忽略空间外部性。分组圆盘与覆盖约束描述可兼容选择，再通过LP和随机舍入得到可行集合。
教学例子：例如两条相邻大广告互相遮抢注意，单个位置价值不能简单相加。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
MLCC 为什么每层先压缩再做显式交叉，而不是只在输入端压缩一次？
Compress, Cross and Scale: Multi-Level Compression Cross Networks for Efficient Scaling in Recommender Systems
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：每层表示已经包含不同阶的交互，逐层压缩让后续交叉依赖当前状态，而不是始终围绕同一份输入投影。紧凑空间内的动态交叉再回注主干，控制高维运算的开销。多个并行子空间可覆盖不同关系，但表达力取决于压缩是否保留关键方向，不能把压缩视为无损操作。
教学例子：第一层先组合“地区与品类”，第二层可压缩这份新表示，再与价格偏好交叉；若只压缩最初字段，后续难以重新选择已形成的高阶关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
MLCC 每层的 Cl 与 Pl 为什么必须与该层状态一致？
Compress, Cross and Scale: Multi-Level Compression Cross Networks for Efficient Scaling in Recommender Systems
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：z 由当前 xl 压缩，动态门依该 z 计算，回投再映到 xl 的维度。若误用最初输入的压缩或共享错层参数，逐层高阶更新会退化。残差形状正确仅是起点，还应核对每层实际接收到上层新状态。
教学例子：第二层应压缩已经含第一层交叉的表示，若仍用原始 x0 生成 z，两层可能只是重复同一种交叉，而没有递进利用新关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
MC-MLCC 多并行子空间与只扩大单个压缩维度，相比归纳偏置有何不同？
Compress, Cross and Scale: Multi-Level Compression Cross Networks for Efficient Scaling in Recommender Systems
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：多个子空间可分别学习不同交叉方向并横向组合，单大空间把容量集中在一个映射里。前者可能更易分工也可能重复，实际参数与 FLOPs 需匹配才可判断。来源机制描述不支持“多通道一定更省且更准”的普遍结论。
教学例子：一个子空间学习价格—预算，另一个学时间—场景，比同样宽度无分工投影更显式；但若两路都学热门度，容量并未互补。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
MLCC 为什么把紧凑空间交叉结果重新回注高维主干？
Compress, Cross and Scale: Multi-Level Compression Cross Networks for Efficient Scaling in Recommender Systems
问答新增：2026-10-27 · Bilibili
展开答案与例子
答案：低维 z 负责控制交互成本，高维残差主干继续保留原信息，回投 P 将新组合补充进去，避免所有层只困在同一压缩空间。压缩仍可能漏掉关键方向，残差只能保留已有信息，不能保证每个高阶交叉都被学到。
教学例子：先用小空间组合预算与品类，再把结果加回全部字段表示，其他原特征仍可继续参与下一层，而不是被一次降维全部替换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
LinkedIn Feed序列模型为什么强调不依赖随机负采样的评价？
An Industrial-Scale Sequential Recommender for LinkedIn Feed Ranking
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：随机抽少量容易负例会把排名任务变简单，掩盖大候选池中真正难区分的物品关系。统一候选、历史和上下文的序列模型需要在明确且一致的实际候选口径下评价，才能判断扩展与增量服务是否保留质量。本地代理排序不等于LinkedIn生产候选分布，更不能混用不同负例数量比较提升。
教学例子：在一个正例加九个明显无关内容中命中，和从数千相近Feed候选中找出同一内容不是同一难度；即使模型相同，两种指标也不能直接相减。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Feed 序列增量服务为什么要先验证候选无关历史状态？
An Industrial-Scale Sequential Recommender for LinkedIn Feed Ranking
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：可复用前缀必须不依赖待替换候选，历史变化与模型更新也会改变缓存有效性。目标注意力可以在候选侧读取公共状态，不允许无说明把已交互状态缓存给其他候选。来源本地核心代理缺完整 LinkedIn 系统，不能当真实超长序列吞吐证据。
教学例子：新文章候选只改查询时可读旧历史 K/V；若它已写回历史，再给另一文章共享就污染，程序运行很快也不符合复用契约。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
无随机负采样评价与一正加少量随机负例，相比检验难度为何不同？
An Industrial-Scale Sequential Recommender for LinkedIn Feed Ranking
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：采样集合常缺少真正竞争候选，指标会随负例数量与难度变化，容易把模型排序能力估高。更完整候选口径接近真实分发竞争，但成本也更高。名称为负样本自由不表示训练无需负信号，更不能把不同候选协议百分比直接横比。
教学例子：在九十九篇随机无关文章中找目标较容易，在完整专业内容库中还要胜过许多相似文章；相同 NDCG 名称并不代表同一任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
LinkedIn Feed 为什么将候选、交互历史和上下文统一为序列？
An Industrial-Scale Sequential Recommender for LinkedIn Feed Ranking
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：不同输入共同影响当前内容价值，序列接口让目标相关信息在同一骨干交互，避免多模块只在末端接合。超长历史可保留长期职业兴趣，也增加计算与候选依赖，需增量服务优化。统一表示不保证所有状态可跨候选复用。
教学例子：用户近期求职，长期关注技术，当前候选是招聘信息；历史与上下文共同解释其价值，比只记录曾点赞文章集合更有条件性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OPCD为什么让无经验上下文的学生生成，再让带上下文的教师评分？
OPCD
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：目标是把外部经验内化到参数，而不是训练学生继续依赖那段经验。学生只读任务并生成轨迹，教师读取经验后在同一学生前缀给出分布，以学生到教师方向的逆KL更新。上下文知识是否可靠仍很关键，本地条件分布诊断没有覆盖真实长系统提示。
教学例子：例如训练教师可读一条操作经验，学生只能读当前任务；学习后清空上下文再作答，才能检验经验是否进入了参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
OPCD的逆KL方向与学生输入分别是什么？
OPCD
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：方向是无经验学生到带经验教师，教师评分同一学生前缀。经验只进教师，不能给学生生成时也加上；本地验证答案条件分布未覆盖长system prompt及原环境。
教学例子：例如分子换成教师就变成另一方向，不能只看接口名仍写RKL。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
OPCD与推理时一直检索同一经验有什么不同？
OPCD
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：持续检索依赖外部上下文与读取成本，蒸馏希望减少这种依赖，但参数更新可能遗忘或过度泛化。两者也可互补，不能无对照断言内化一定更准。
教学例子：例如经验更新后检索可立即换文档，已蒸进参数的旧经验则未必自动同步。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
OPCD想解决的上下文经验流失是什么？
OPCD
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：提示、检索或历史经验只在当前上下文有效，清空后消失。方法让无上下文学生沿自己轨迹吸收带经验教师的行为，目标是把依赖额外上下文的知识内化到参数。
教学例子：例如学过一次工具使用经验后，下次没有这段提示也希望能遵循。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
UG-Sep 为什么先屏蔽候选到用户 token 的反向信息流，再加 Information Compensation？
Compute Only Once: UG-Separation for Efficient Large Recommendation Models
问答新增：2026-10-27 · ByteDance AML
展开答案与例子
答案：用户状态若读过候选就失去跨候选复用资格，掩码先保证用户侧独立计算，从而减少重复开销。但阻断双向交互也可能削弱原模型表达，补偿模块在评分路径恢复必要的用户—候选关系。它保留的是可共享编码与候选专属交互的分工，不能把补偿后的候选状态再次当成公共用户缓存。
教学例子：先算一份不含商品信息的用户表示供一百个候选共用，再让每件商品单独与它交互补偿。若把商品甲的补偿结果缓存给商品乙，就破坏了最初的隔离条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
UG-Sep mask如何验证共享是否合法？
Compute Only Once: UG-Separation for Efficient Large Recommendation Models
问答新增：2026-10-27 · ByteDance AML
展开答案与例子
答案：固定用户输入改变候选时，受保护用户表示应保持不变，候选输出可变；attention和TokenMixer路径都要检查。当前公开代理未复刻生产kernel及真实QPS。
教学例子：例如只对attention加mask而mixer仍回流候选，就不能安全共享用户计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
UG-Sep的Information Compensation能让已看过候选的状态重新成为公共缓存吗？
Compute Only Once: UG-Separation for Efficient Large Recommendation Models
问答新增：2026-10-27 · ByteDance AML
展开答案与例子
答案：不能。补偿用于恢复候选专属评分中的交互表达，公共用户表示的复用资格仍要求它不依赖当前候选。若把混入候选的补偿结果缓存给其他候选，就重新引入信息污染。补偿与缓存分别服务表达和计算共享，不能把它们的输出任意互换。
教学例子：甲物品专属补偿后的分数状态，不能作为乙物品的通用用户状态；可共享的仍应是被隔离保护的用户块。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
UG-Sep里的用户token与候选token，是两位不同用户吗？
Compute Only Once: UG-Separation for Efficient Large Recommendation Models
问答新增：2026-10-27 · ByteDance AML
展开答案与例子
答案：不是。用户token承载当前请求的用户侧信息，候选token承载待评分物品的信息，两者属于同一次推荐计算。隔离规定哪一侧能读另一侧，不是把用户分成互不交流的群组。先看清这两个token块，才能正确理解共享表示与专属打分。
教学例子：同一位用户的历史块可被多件候选使用；每件物品各自的候选块并不代表另一个用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
S-GRec 的 A2PO 为什么只在语义与业务 advantage 同向时加入受限语义贡献？
S-GRec: Personalized Semantic-Aware Generative Recommendation with Asymmetric Advantage
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：语义 judge 的分数与收入反馈量纲不同，直接相加可能让语义目标压倒业务。A2PO 先在各 rollout 组内分别标准化，以业务 advantage 为锚；仅同向时引入语义项，并把有效贡献限在业务幅度内。这样语义奖励提供辅助方向而非任意改写目标，但业务和 judge 本身仍可能有偏差。
教学例子：候选理由听来很贴合兴趣，但业务反馈为负时，不让高语义分把它翻成强正样本；两者都支持时才适度加分，避免模型为讨好评审牺牲业务目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
S-GRec本地business reward是否是真实eCPM？
S-GRec: Personalized Semantic-Aware Generative Recommendation with Asymmetric Advantage
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：不是，公共数据无货币信号，用允许的next-item ranking proxy；原两阶段judge、生成和策略路径有缩小执行，但标签与模型规模不同。不能把公共代理分称广告收入。
教学例子：例如命中下一部电影，只能代表该协议的行为偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
S-GRec的用户条件方面权重，与给所有用户固定一组语义权重有什么区别？
S-GRec: Personalized Semantic-Aware Generative Recommendation with Asymmetric Advantage
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：PSJ先给出多个方面分数，再由用户条件aggregator输出非负、归一的权重。固定权重对所有用户表达同一取舍，条件权重则允许相同内容因用户不同而得到不同语义总分。它仍依赖方面判断可靠，个性化权重本身不是真实满意度证明。
教学例子：两位用户面对同一内容，一位更重历史画像，一位更重探索新意；方面分可相同，聚合结果却不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
S-GRec为何让大模型judge离开在线生成主链路？
S-GRec: Personalized Semantic-Aware Generative Recommendation with Asymmetric Advantage
问答新增：2026-10-27 · Tencent / WeChat Channels
展开答案与例子
答案：离线语义判断提供用户方面偏好，轻量生成器只输出SID，降低在线调用大模型的延迟依赖。judge质量仍需训练数据支持，轻量上线不等于语义监督免费。
教学例子：例如昂贵老师预先教哪些方面重要，实时推荐由小生成器执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
CADET为什么要把可缓存历史和post-scoring context放在不同的信息流阶段？
CADET: Context-Conditioned Ads CTR Prediction With a Decoder-Only Transformer
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：缓存历史必须在候选或后续上下文变化时仍保持语义有效。CADET先编码历史并进行候选打分，再在规定阶段注入post-scoring context，避免训练时借到服务打分点尚不可用的信号。若把所有信息一开始混入序列，即使离线分更高，也可能破坏复用条件并造成训练与服务错位。
教学例子：同一历史对应多个待评广告，不能把广告A打分后的上下文写进共享历史再给广告B；应保持共享前缀与后续条件化状态的明确边界。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
CADET 缓存历史 K/V 时，如何判断新增上下文是否使旧缓存失效？
CADET: Context-Conditioned Ads CTR Prediction With a Decoder-Only Transformer
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：应检查它是否改变历史编码输入、掩码或模型参数；若只在后续候选查询路径注入，原公共 K/V 才可保留。来源公式让上下文查询读取此前历史，不能反推所有上下文都可任意塞回缓存主干。每个张量的依赖比“用户侧”名称更重要。
教学例子：新上下文只改查询向量时可继续读历史缓存；若修改了历史事件时间编码，旧 K/V 已不对应同一输入，就应重新计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
CADET 的分阶段上下文与将全部日志字段一起输入 Transformer，差别在哪里？
CADET: Context-Conditioned Ads CTR Prediction With a Decoder-Only Transformer
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：无差别拼接让模型可能利用不可用字段并把候选相关计算写入公共历史。分阶段信息流把公共可缓存部分与评分后上下文分开，牺牲一些任意交互自由换取服务一致性。来源本地仅公开数据代理，不能将其结果视作完整广告时序特征验证。
教学例子：当前请求特征和下一步行为日志若同时出现在同一序列，模型可能走捷径；规定接入阶段后只能使用请求发生时已存在的证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
CADET 为什么强调 post-scoring context 的可见时点？
CADET: Context-Conditioned Ads CTR Prediction With a Decoder-Only Transformer
问答新增：2026-10-27 · LinkedIn
展开答案与例子
答案：训练日志可能包含候选打分以后才产生的信息，若在评分前使用就会造成训练服务错位。把可缓存历史先编码，再按合法阶段接入上下文，明确哪些信息在预测当时可知。时间顺序是特征契约，不是多加一类 token 就能忽略的细节。
教学例子：推荐展示后的用户反应可以成为下一次历史，却不能用于预测本次点击；训练里若把它提前拼入输入，离线会看起来更准而上线不可执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
SMES 为什么既固定共享激活专家，又保留任务自适应私有专家，并做全局负载均衡？
SMES: Towards Scalable Multi-Task Recommendation via Expert Sparsity
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：稳定共享子集承接各任务共性，任务私有选择提供差异化容量，使激活预算不必全花在同一类信息上。跨任务全局平衡防止路由整体拥向少数专家，仅在单任务内部均匀并不能解决总负载倾斜。共享与私有分工是结构约束，专家实际学到什么仍需检查，也要平衡路由自由和均衡惩罚。
教学例子：点击和购买每次都使用基础兴趣专家，各自再选择新颖性或价格专家。若所有任务私有路由最后都挤向同一台专家，全局均衡会暴露这种跨任务热点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
SMES全局balance可以只对每个任务分别计算吗？
SMES: Towards Scalable Multi-Task Recommendation via Expert Sparsity
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：只做局部可能看不见多个任务合起来过载同一专家，需按规定跨任务统计。当前MovieLens代理没有生产稀疏调度或集群，激活数与实际吞吐要分开。
教学例子：例如每任务各用一半专家，但都集中同两位，全局仍高度倾斜。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
共享私有拆分与普通单一路由MoE有什么差别？
SMES: Towards Scalable Multi-Task Recommendation via Expert Sparsity
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：拆分显式限制哪些专家稳定共享、哪些可任务化选择，单一路由由一个候选池竞争。它也不保证天然减少负迁移，任务数据和容量仍决定结果。
教学例子：例如交易任务不能把全部共享容量随意改成独占而不影响其他任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
SMES为什么同时配置共享与任务私有专家？
SMES: Towards Scalable Multi-Task Recommendation via Expert Sparsity
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：共享子集承载跨任务稳定知识，私有子集保留任务差异，避免所有任务争同一套激活路径。全局负载约束再处理专家倾斜，不只是每任务各自均衡。
教学例子：例如观看与交易共用部分偏好特征，同时保留各自决策专家。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
Self-Evolving Rec 为什么让内层 agent 探索离线方案，外层状态机才决定真实 A/B 晋级？
Self-Evolving Recommendation System: End-To-End Autonomous Model Optimization With LLM Agents
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：离线代理能便宜筛选优化器、架构与奖励想法，却不完整代表线上用户和服务约束。外层独立管理安全、资源与真实实验晋级，再把结论写回长期 journal，让内层下一轮有证据可用。闭环的价值在实验治理与知识累积，不是 agent 提出方案就自动上线；本地验证循环不能替代真实生产 A/B。
教学例子：agent 提议一个离线更优但延迟超标的结构，外层先拒绝晋级；另一个通过资源检查再进入真实实验，其结果被记录，避免下一轮重复犯同样错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
本地要怎样才可称演化算子真正接入？
Self-Evolving Recommendation System: End-To-End Autonomous Model Optimization With LLM Agents
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：控制器必须实际调用生成的改动、训练并在隔离验证上评价，状态和journal可追溯。仅registry名称或模拟计划不算执行，更不能伪称已跑真实A/B。
教学例子：例如agent写好优化器建议但工具不能运行，就仍是提案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
Self-Evolving Rec的双层优化，与只自动搜索一组训练超参数有什么范围区别？
Self-Evolving Recommendation System: End-To-End Autonomous Model Optimization With LLM Agents
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：双层结构把内层候选训练与外层线上目标、资源和安全约束分开，候选还可涉及架构、优化器或reward。常规超参数搜索可以成为内层工具，却不自动补上线上反馈、晋级状态与长期知识积累，因此不能以完成一次搜索代替整个闭环。
教学例子：自动试多个学习率只产生候选结果；是否值得占用线上流量、怎样留下失败经验，仍需外层流程。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
Self-Evolving Rec的长期journal是在保存模型参数，还是保存实验知识？
Self-Evolving Recommendation System: End-To-End Autonomous Model Optimization With LLM Agents
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：journal记录方案、执行与评估结果等可供后续研发使用的证据，不是把某次训练权重当作自然语言记忆。持续闭环需要能追溯哪项改动在何种协议下得到什么结论；只有计划文字，没有可运行候选和评估记录，不构成已完成实验。
教学例子：记录“某优化器在固定验证协议下未改善”供下一轮避免重复尝试，与保存一份checkpoint是不同产物。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SARM 为什么离线生成直播语义 anchor，却只在线更新轻量排序器？
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
问答新增：2026-10-27 · Institute of Information Engineering, CAS / Kuaishou
展开答案与例子
答案：直播语义复杂，大多模态模型能提炼较丰富的锚点，但请求时调用会增加延迟。离线先产出 anchor，轻量语义模块将其接入端到端排序，再在线学习用户和候选的匹配关系，把内容理解与实时行为适配分开。anchor 若过时或遗漏动态内容，排序器也无法凭空恢复，因此异步更新频率是实际取舍。
教学例子：离线为直播提炼“户外装备讲解、价格比较”等锚点，请求到来时小排序器结合用户兴趣打分。直播主题突然切换时，旧锚点需更新，不能长期当作准确实况。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SARM本地是否具备生产直播anchor生成与部署？
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
问答新增：2026-10-27 · Institute of Information Engineering, CAS / Kuaishou
展开答案与例子
答案：没有，MovieLens固定候选只验证语义注入和打分路径，未复刻真实MLLM、私有直播模型与集群。anchor编码器与稀疏自编码器缩写不能仅凭SAE混同。
教学例子：例如一个可审计语义向量代理，并不是实际直播片段的完整多模态总结。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
SARM的内容语义anchor与在线ID行为特征，能提供相同的信息吗？
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
问答新增：2026-10-27 · Institute of Information Engineering, CAS / Kuaishou
展开答案与例子
答案：不能。anchor主要提供内容含义，ID和用户行为特征提供平台内交互与匹配证据。相似内容不必让同一用户同样喜欢，行为反馈也未必解释内容在讲什么。异步语义与在线排序结合仍需处理新鲜度，不能只靠其中一类信号声称覆盖另一类。
教学例子：两个直播间都讲露营，但主播互动与用户偏好不同；相似anchor不能代替各自的点击或转化历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SARM的semantic anchor是新的直播物品ID，还是内容理解产生的语义信息？
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
问答新增：2026-10-27 · Institute of Information Engineering, CAS / Kuaishou
展开答案与例子
答案：anchor承载离线多模态内容理解，随后经轻量语义模块接入排序；物品ID与行为信号仍是另一类输入。它不是替换目录身份的编号，也不是用户已点击的事实。先区分内容语义与交互身份，才能理解两者怎样补充而非互相冒充。
教学例子：同一直播间ID保持不变，语义anchor可描述当前内容主题；有该描述并不表示某用户已表现出兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Kunlun为什么交错序列块与交互块，而不只把其中一条塔扩得更大？
Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design
问答新增：2026-10-27 · Meta
展开答案与例子
答案：序列模型负责历史依赖，异构交互负责字段关系，单独扩一侧可能受另一侧信息瓶颈限制。Kunlun在层间交换序列seed与非序列信息，并用门控和残差控制深层更新，再结合并行工程承载规模。结构联合扩展并非所有模块都可免费复用，必须区分候选依赖与实际服务开销。
教学例子：长历史提取了户外兴趣，但价格与场景交叉只在末端出现，可能无法影响更深的兴趣解释；交错结构让这两类信息在多层协同，而不只是concat一次。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Kunlun 的 CompSkip 混合为什么要明确旧状态和 F 输出的同维关系？
Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design
问答新增：2026-10-27 · Meta
展开答案与例子
答案：h(l+1)=αhl+(1−α)Fl(hl) 要在相同表示空间组合，α 的范围与广播轴应明确，不能误把候选或批轴当门控轴。序列与交互的同步更新也要遵守设计。本地四层 compact core 的质量波动不能替代生产吞吐证据。
教学例子：α 是逐层混合时，不能无意变成每个候选不同且污染共享状态；即使广播让代码跑通，残差语义也已改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
Kunlun 的门控 GDPA 与普通 softmax attention，相比 gate 在何处影响证据？
Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design
问答新增：2026-10-27 · Meta
展开答案与例子
答案：来源将 gate 的 log-sigmoid 加入注意力 logit，相当于在归一前抑制部分关系，而不是事后随意缩放最终向量。门控可能降低噪声，也可能压掉稀有重要行为。CompSkip 再调残差深度是另一机制，不应把两者都归为注意力提升。
教学例子：某条偶然点击在归一前被降权，其他历史相对获得更多份额；事后把整个用户向量乘小并不能产生相同的候选关系变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Kunlun 为什么在同一层同时设置序列块和交互块？
Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design
问答新增：2026-10-27 · Meta
展开答案与例子
答案：序列块提取行为依赖，交互块组合异构字段，Global Interaction 在层间交换信息，避免独立扩塔遇到沟通瓶颈。HSP 汇总序列 seed，系统并行和 CompSkip 又处理深层规模。多个组件承担不同问题，不能仅扩大一个 FFN 就称同结构。
教学例子：历史显露露营需求，用户预算字段在交互块中调整解读，再影响后续融合；两塔只末端拼接会更晚才看到对方线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
DiffuReason为什么在潜在意图上做多步扩散修正，而不是一次生成最终推荐表示？
DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：一次预测可能将多个冲突兴趣压成不稳定方向，潜在Thinking Tokens先承载意图，再由逐步去噪反复修正表示，使不同线索有机会重新协调。GRPO随后用离散排序反馈对齐连续生成路径。多步过程增加计算且可能累积模型偏差，本地代理不能单独证明完整潜在推理能力。
教学例子：用户既搜健身器材又看甜品视频，一次融合可能摇摆；去噪过程可逐步形成更适合当前请求的意图，但不能把中间向量自动解释为真实的人类思考。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
DiffuReason 实现噪声过程与 GRPO 时，为什么不能只对最终分数加一个固定奖励项？
DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：去噪应有明确时间步、状态转移与随机项，策略更新则需要同上下文 rollout、奖励和对应概率口径。固定分数相加没有训练连续生成分布，也无法核验梯度路径。来源本地代理结果只按其实际范围解释，不能代替扩散与离散奖励端到端训练证据。
教学例子：给热门度乘零点一只改排序规则，不会教去噪器如何移动潜在 token；要声称策略训练，必须看到采样轨迹及真实参数更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
DiffuReason 与一次性用户向量预测相比，多步更新的收益假设和服务代价是什么？
DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：一次预测把全部条件压进单步映射，多步去噪允许在中间状态重新利用历史逐渐修正，但增加迭代计算和采样不确定性。若每步只重复同一偏置，更多步未必更好。来源的公开代理与真实扩散策略训练应区分，不能由最终分数声称全部链路被验证。
教学例子：第一步偏向热门电影，后续若看到用户小众偏好可回调；但若条件根本未包含这条偏好，再去噪十步也不会凭空获得证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
DiffuReason 的连续 Thinking Tokens 为什么适合做逐步去噪，而非直接输出长语言推理？
DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：连续潜变量可承载多个兴趣线索，去噪步骤反复结合历史修正状态，避免每一步都解码自然语言。它提供可优化的内部表示，离散排序奖励再通过策略训练对齐。潜在 token 不自动具有可读推理含义，多步修正也不保证解决真实冲突。
教学例子：用户既想尝新又受预算限制，内部向量可逐步调整这两种方向；没有输出一段文字，不代表模型已经证明了每个取舍步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
PIT 为什么允许一个物品保留多个候选 SID，再按用户推荐损失选择编码？
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：固定单码把所有用户对物品的理解压成同一路径，流式偏好变化时也难调整。PIT 联合训练 tokenizer 与推荐器，并在替代编码中选使当前推荐损失更小的路径，让离散表示受到用户偏好监督。一对多索引保留路径选择余地，但增加索引与去重复杂度，不能把同一物品的多个码当作多个独立商品。
教学例子：一段“办公室拉伸”视频可从健身或久坐健康两个语义路径到达。面向不同用户选择更合适的编码有利于生成，但最终必须映回同一视频并去重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
PIT 的用户引导最小损失选择为什么只能在训练候选编码集合内进行？
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：argmin 用推荐目标挑监督路径，可借训练标签，但测试不能看 gold 损失替用户选码。推理应按模型分布和合法 beam index 展开，替代码需映回同 item。将真实测试答案用于选最好编码，会把学习问题变成有答案路由。
教学例子：测试若先知道正确视频，再从其多条码里挑模型最容易的那条，会人为抬高命中；合法推理必须先生成再检查实际物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
PIT 的联合 tokenizer 与先冻结码本再训练生成器，相比梯度耦合在哪里？
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：冻结方案让生成器适应既有码，PIT 让推荐损失参与编码选择与学习，语义路径可为用户偏好调整。耦合增加适应力也可能破坏稳定映射，需版本与漂移核验。来源机制不能证明每次流式更新都无损，也不能直接由小代理负差判普遍优劣。
教学例子：原码把视频放纯健身，推荐训练发现办公室需求重要，可保留另一入口；冻结码则只能在原路径内提高概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
PIT 所针对的流式分布漂移，为什么会让原来好用的 SID 路径逐渐不合适？
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
问答新增：2026-10-27 · Beijing University of Posts and Telecommunications
展开答案与例子
答案：用户需求、新物品与交互频率会变化，固定编码与旧生成分布的匹配可能随时间减弱，即使商品文字没变也是如此。这里变化的是数据与偏好关系，不是每次生成随机噪声；诊断时应区分真实漂移、模型更新与地址改变，不能用一次波动证明需要重编码。
教学例子：同一件轻外套在春季通勤和秋季旅行中对应不同需求，内容未改，用户到达它的偏好路径却可能变；重复同一随机种子无法消除这种时间变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
ML-DCN 为什么在显式交叉前同时引入低秩投影和可学习 mask？
ML-DCN: Masked Low-Rank Deep Crossing Network Towards Scalable Ads Click-through Rate Prediction at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：全维交叉的容量与计算会一起增长。低秩投影把交叉压到可调内部维度，再映回原空间，减少昂贵的全维变换；mask 则调节哪些输入通道参与交叉。两者分别控制交叉的计算规模和信息选择，残差保留原表示，但低秩瓶颈也可能丢失不能被该子空间表达的关系。
教学例子：年龄、城市、设备等上千维特征不必全部两两充分交互。先保留与当前目标相关的通道，再用几十维子空间组合，省下的计算可用于增加层数或容量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
ML-DCN 的 V、U、mask 与 x0 应满足怎样的形状关系？
ML-DCN: Masked Low-Rank Deep Crossing Network Towards Scalable Ads Click-through Rate Prediction at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：mask 先与当前 xl 逐通道相乘，V 将原维投到内部秩，U 映回后与原始 x0 相乘，再加残差与偏置。x0 不能每层改成 xl，mask 也不能广播到批轴。实现应检查真实梯度流，不用固定筛选代替可学习 mask。
教学例子：内部秩三十二不表示输出只有三十二维，必须映回原维才能与 x0 逐元素相乘；直接残差相加会改变网络定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ML-DCN 与 DCN-V2 全矩阵 cross，相比秩与通道选择怎样交换表达力？
ML-DCN: Masked Low-Rank Deep Crossing Network Towards Scalable Ads Click-through Rate Prediction at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：全矩阵可表达更一般线性变换，低秩将其限制在较小子空间，mask 又提供自适应选择，省下预算可增加容量。低秩也可能漏关系，更多层不必完全补回。来源本地共享 scorer 代理不是完整 DCN-V2 参数匹配对照，不能将小差值全归算法优劣。
教学例子：一千维交叉先压到几十维更省，但稀有地理—品类关系若不在子空间会丢失；mask 也不能创造投影已经删掉的方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ML-DCN 的 mask 为什么作用于交叉输入，而不是最终分数？
ML-DCN: Masked Low-Rank Deep Crossing Network Towards Scalable Ads Click-through Rate Prediction at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：交叉前选择通道会改变哪些特征参与后续乘性交互，最终分数缩放只改变已形成结果，无法撤销无用交叉。低秩投影再控制内部计算维度，两者分别负责信息选择与容量预算。mask 学到的值仍不是因果重要性，不保证小值字段可全链路删除。
教学例子：价格通道在某类样本噪声大，先抑制它可避免与其他字段产生错误组合；事后乘整个预测值会连有用信号也一并压低。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
去掉不可信工具段后动作似然下降，为什么还不能直接称作因果安全证明？
CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：留一消融是操作性归因，表明该段影响同一动作概率，但删除也可能改变上下文结构或移走合法证据。方法与用户请求归因比较，只清洗命中段，再遮蔽受污染后续并重新提案；阈值方向与重算流程需保持原义，单个低用户归因不是攻击结论。
教学例子：例如网页某段既含必要数值也含可疑指令，删段使动作概率下降不全是恶意影响；还需比较来源与具体动作的关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
CausalArmor缺少sanitizer或重新提案回调时怎么办？
CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：扣留动作并标intervention_required，不伪造清洗或重跑；命中后遮蔽首点之后assistant内容。τ增大标更多段，负号不可写反，最终动作仍须正常授权执行。
教学例子：例如没有真实清洗器时不能删个字符串就宣称防护闭环成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
CausalArmor定点清洗命中工具段，与把全部工具结果删空有何不同？
CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：定点方案保留未命中的信息，只清洗被标记段，并遮蔽首个命中点之后可能已受影响的assistant内容再提案。全删会连合法证据一起丢失，改变可用上下文。清洗后仍需重新评估提案，不能认为删过文本就自动得到安全动作。
教学例子：检索结果一段夹带指令时，清洗该段并撤去之后受其影响的草稿；其余正常检索证据可继续保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
CausalArmor为什么在高权限动作前比较用户与工具归因？
CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：不可信工具内容可能支配提案，留一消融测同一动作似然变化，工具归因超过用户时选择性清洗并重新提案。它是干预前诊断，不直接执行原动作。
教学例子：例如网页文字诱导删除文件，原用户并没要求该操作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
MSN 的两轴 Product-Key Memory 如何增加参数容量而只读取少量知识？
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：把键拆成两个轴后，一个槽位由两轴键的组合确定，组合空间可以很大。查询按两轴相似度的和寻找高分组合，只读取少量对应值，再通过 gate 与稠密主干融合。存储容量因此不必全部参与每次前向计算；效果仍依赖路由能否命中有用槽位，未激活的参数不会自动提供帮助。
教学例子：两组各一百个键可组合出一万个槽位，但一次请求只取最相关的四个。像从有两层索引的资料柜查少数文件，而不是把一万个文件全部读一遍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
MSN 的两轴键组合为什么要保留唯一槽索引与 top-k 去重？
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：每个槽由轴一、轴二地址共同确定，分数是两侧相似度之和；同一组合若重复进入会无端加大权重。选中 value 维度需与主干融合一致，空或不足候选也要按定义处理。本地 genre 与 transition 写槽只是公开内容代理。
教学例子：键对二、三与三、二是不同槽，不能仅把和五当地址；同一个二、三出现两次也不应被当两条独立知识加倍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
MSN 的 top-k PKM 与普通全部专家 soft mixture，相比激活成本有何不同？
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：全混合通常计算所有专家再加权，PKM 按两轴键找少量组合并只取相关值，更多参数留在未激活槽。路由搜索和内存访问仍有开销，硬 top-k 也可能漏知识；不能只用总参数除活跃数推断真实延迟。
教学例子：一万槽只读四个与一百专家全部算完不同，前者更依赖索引命中；若硬件读取分散，理论 FLOPs 少也未必更快。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
MSN 为什么把大容量知识放入记忆槽而不全放 dense 网络？
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：稠密网络每次常激活全部参数，大记忆可存更多值、查询仅读少数槽，让容量增长不按同样比例增加每次计算。Product-Key 分两轴组织地址，gate 决定如何结合主干。读取稀疏不代表记忆维护免费，也不保证槽里有可靠知识。
教学例子：资料库很大但一次查四个文件，比每次通读全部文件省；如果地址路由错了，大库仍不能帮助当前推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
MDL为什么把scenario和task也做成token，而不只在输出端选不同head？
MDL: A Unified Multi-Distribution Learner in Large-scale Industrial Recommendation through Tokenization
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：末端分头无法让场景和任务需求持续影响特征选择。把它们作为token加入多层交互，domain query可读取相关字段，任务信息也能参与共享表示构造，增强深层复用。共享更深同时带来干扰可能，仍需检查低流量场景是否被大场景覆盖，不能用统一架构名称代替跨任务收益验证。
教学例子：相同商品字段用于首页点击和搜索转化时关注点不同；场景与任务token可在编码中改变取证方式，而不是所有信息压成同一向量后才分头判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
MDL 的 feature、scenario、task 三类 token 在实现中为何需要身份标签？
MDL: A Unified Multi-Distribution Learner in Large-scale Industrial Recommendation through Tokenization
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：即使末维相同，它们在注意力中担任证据、条件和预测角色，布局与读出必须一致。把场景数当批维或从错误 task 位置读出，会静默改变目标；本地十九场景代理是具体构造，不是十九真实工业业务。
教学例子：购买 task token 的输出不能接观看标签，只因都是二维向量不会报错；需按身份映射核验，而不只检查张量尺寸。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
MDL 的深层 domain-feature 交互与浅层 gate，相比条件化范围有何不同？
MDL: A Unified Multi-Distribution Learner in Large-scale Industrial Recommendation through Tokenization
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：浅 gate 多在已编码特征上调比例，深层交互让域条件反复影响表示形成，具有更丰富联合建模空间。代价是更多计算与负迁移风险，来源准确率改善伴随头部明显上升，不能把扩大共享解释为全部群体获益。
教学例子：场景先强调价格，下一层再结合用户预算，深层可组合新关系；浅门控只能对已完成特征加减权，较难重写早期交叉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
MDL 为什么把 scenario 和 task 也 token 化？
MDL: A Unified Multi-Distribution Learner in Large-scale Industrial Recommendation through Tokenization
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：场景和目标不只决定最后接哪个头，也决定哪些字段关系值得建模。domain-feature attention 让场景查询在深层读取特征，任务 token 与聚合再形成特定输出。token 化提供交互接口，但不能确保每个 token 自动学得人类预期语义。
教学例子：同一用户特征在直播购买与短视频观看场景作用不同，场景 token 可在中间层调节读取，而不是到最后才换一个分类头。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TokenMixer-Large 为什么在无参数 mixing 后做 head-wise SwiGLU，revert 后还要 token-wise SwiGLU？
TokenMixer-Large: Scaling Up Large Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：mixing 重排特征通道，让 head 视角看到跨 token 的组合，head-wise 非线性先学习这些组合；revert 恢复 token 布局后，token-wise 变换再处理各位置内部表示。两种轴上的学习互补，间隔残差与中间监督支持深层训练。无参数混合只负责搬运信息，真正可学习交互来自其后的网络。
教学例子：把多个字段的通道重新分组，先学习“价格与消费偏好”等跨字段组合，再放回原布局做逐 token 处理。只有重排而没有后续非线性，不会凭空学会这些关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地TokenMixer-Large与RankMixer对照能支持哪些结论？
TokenMixer-Large: Scaling Up Large Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：同维度层数负采样步数下有单seed结果，但规模小且非完整attention对照。实现需保持FFN绑定混合位置及revert顺序，不能把原token语义错配后仍称同结构。
教学例子：例如重排后的第一个head不等于原第一个特征槽，参数绑定要按当前布局。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
与单纯token-wise FFN相比，mix–headFFN–revert增加什么交互？
TokenMixer-Large: Scaling Up Large Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：重排把不同token切片送入head-wise非线性处理，再回原布局，使信息跨token混合。它不是动态attention，也不能由单seed小提升证明注意力可全面替代。
教学例子：例如head看到拼合片段，回位后每个token获得其他token变换过的信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TokenMixer-Large的无参数mixing是否意味着整个模型无参数？
TokenMixer-Large: Scaling Up Large Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：不是，mix/revert是确定重排，head-wise与token-wise SwiGLU仍可训练，深层残差及辅助监督也参与学习。无参数只修饰重排算子，不是整个排序网络。
教学例子：例如打乱再还原通道不学参数，中间处理这些通道的FFN仍需训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
不知道哪次点击对应转化时，为什么不从归因集合随机选一个点击当正例？
Statistical Learning from Attribution Sets
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：随机选配对会制造不存在的精确标签，且重叠集合会使同一事件被重复影响。方法转而把二元损失拆成标签无关项与标签相关矩，由集合统计估计风险，不先伪造个体归因。本地发现多元素情形的原文印刷系数未通过常数检查，因此保留反例，不能声称该估计器已被完整验证。
教学例子：一次购买可能关联三个曝光，其中两个还出现在另一归因集合。随便指定一个获胜者会改变监督含义；用集合统计也需先检查估计式的一致性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
实现归因集合估计式时，为什么不能在奇异边界偷偷裁剪分母或按窗口数重归一化？
Statistical Learning from Attribution Sets
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：原式的二项尾概率、选择指标与固定分母共同决定估计器，裁剪或换分母会变成另一个统计对象。来源要求奇异边界显式失败，并区分已知人口矩与样本插入估计。多元素印刷式未通过检查时保留反例，不能借数值兜底掩盖理论不一致。
教学例子：分母为零时改成极小正数虽然能输出有限数，却不再是原文公式；应报告条件不成立，让读者看到为何该输入下估计不可用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
Attribution Sets 的风险分解与最大先验伪标签相比，统计假设落在哪里？
Statistical Learning from Attribution Sets
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：伪标签先决定隐藏配对，再像完整监督一样训练；风险分解保留不可辨识性，用人口矩和位置先验估计标签相关项。后者避免假装观测到个体真相，但仍依赖正确的统计式与输入假设。本地反例针对印刷系数的有限检查，不是发现了可直接替换的已校正理论。
教学例子：先验认为首个曝光最可能，也不能将它宣布为真标签；集合估计保留不确定性，但若常数函数检查失败，就必须停下审计而非继续报无偏效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Attribution Sets 中的归因集合提供了什么信息，又刻意缺少什么信息？
Statistical Learning from Attribution Sets
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：集合限制哪些点击可能关联转化，却不给出唯一真实配对，且不同集合还可能重叠。学习目标因此是利用集合统计估计风险，而不是补造每次点击的确定标签。理解这种观测粒度，才能分清集合可支持的估计与真实个体归因之间的差距。
教学例子：只知道一次购买可能来自前三次曝光，不知道是哪一次起作用；把三次都记为购买正例或随便选一次，都会加入原数据未提供的信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么只给问题、数据与指标，而不直接给基线解法，更能测研究 Agent？
AIRS-Bench: a Suite of Tasks for Frontier AI Research Science Agents
问答新增：2026-10-27 · FAIR at Meta / University of Oxford
展开答案与例子
答案：研究过程包括提出方法、实现训练、分析实验和修订，给出完整基线方案会缩小自主设计部分。协议还要区分 Agent、搜索 scaffold 与运行 harness，避免把外层树搜索收益全归模型；任务上人工 SOTA 是参照，不是行动者可偷读的答案脚本。
教学例子：例如给分类数据与评分规则，让 Agent 自己决定模型和实验；若已提供最佳训练代码，评测更接近执行脚本而非研究设计。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
AIRS-Bench评测脚本可见意味着test标签也可读吗？
AIRS-Bench: a Suite of Tasks for Frontier AI Research Science Agents
问答新增：2026-10-27 · FAIR at Meta / University of Oxford
展开答案与例子
答案：不意味着，提交预测后由隔离test评分，候选选择只用允许验证反馈。原文部分任务超过SOTA不是本地成绩，未执行完整研究训练不能报告已复现。
教学例子：例如知道评分函数是准确率，不代表可以读取每个测试样本正确类。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
顺序MLGym与树搜索AIRA-dojo比较为什么需固定预算？
AIRS-Bench: a Suite of Tasks for Frontier AI Research Science Agents
问答新增：2026-10-27 · FAIR at Meta / University of Oxford
展开答案与例子
答案：搜索组织影响试错覆盖和成本，无限树分支可消耗更多评估。固定资源和标签隔离才能评估scaffold差异，任务指标不同也不能直接相加成统一分数。
教学例子：例如多跑十倍候选得到更好模型，不应全部归因于搜索方法本身。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
AIRS-Bench要求研究Agent交付一段方法建议就够了吗？
AIRS-Bench: a Suite of Tasks for Frontier AI Research Science Agents
问答新增：2026-10-27 · FAIR at Meta / University of Oxford
展开答案与例子
答案：不够。任务要求从问题、数据集与指标出发，提出方法、实现训练、分析实验并修订，考查端到端研究过程。Agent、搜索scaffold与执行harness是不同层，不能把一段听起来合理的研究计划当成已完成实验或任务结果。
教学例子：提出“换一种损失”只是起点；还需实际实现、运行并根据允许的实验反馈决定是否修订。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
LUSPO为什么认为sequence ratio仍需检查长度偏置，序列级更新不就已经公平了吗？
LUSPO
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：把更新聚合到序列级并不会自动消除累积log-prob与长度的耦合。LUSPO从目标分解关注这种差异，用长度无偏口径组织序列分数，避免更新系统性推着响应变长或变短。短算术任务上跑通归一化，并不能验证长CoT训练的长度动力学。
教学例子：两条回答每步变化相近，但一条长很多，累积比率仍可能不同；称为“序列级目标”本身不能消除这种长度效应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
LUSPO本地短算术测试为什么不能证明长CoT长度稳定？
LUSPO
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：代码虽有自由生成、序列比和长度归一化，但短响应缺少原文长链的长度演化范围。实现需按真实有效响应长度计算，不可把padding或prompt带入分母。
教学例子：例如十余词的算术回答跑通，未覆盖数千词推理中逐步累积的长度变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
LUSPO序列比与把每个token ratio独立clip有何区别？
LUSPO
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：它先形成长度归一化的序列log-ratio再指数化，整条响应共享相应信号；逐词元裁剪处理局部比值，目标不相同。序列方法也不能自动保证任何长回答动力学。
教学例子：例如一处变大另一处变小，序列平均与分别裁剪可能得到不同更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
LUSPO为什么把响应长度轨迹当成优化目标的一部分审查？
LUSPO
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：不同RLVR目标对序列长度的隐含加权不同，可能导致响应逐渐坍塌或偏移。对序列logp作规定归一化，试图区分奖励学习与长度尺度效应。
教学例子：例如准确率暂时不变但回答越来越短，仍需检查是否丢掉长推理覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
DOS为什么先做正交旋转，再逐层量化，而不直接量化原始内容向量？
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：内容空间的坐标方向未必适合分配语义码，直接切分可能把主要信息集中在少数方向。正交旋转在尽量保持几何关系的同时调整信息布局，再用残差量化分担主次信息；行为流与内容流共同校准codebook。正交并不自动产生独立语义，码的推荐价值仍需由行为目标验证。
教学例子：一段商品向量的大部分变化都挤在前几个坐标，旋转后可更均衡地分配给各层码；但是否区分了用户真正关心的属性，不能只看旋转矩阵满足正交。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
DOS 在逐层残差量化后，为什么要分别检查正交误差与重构误差？
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：WᵀW 接近单位阵只证明旋转约束成立，逐层选码减残差是否准确还需看重构；两者都好也不等于检索效果好。码本训练与评估应使用相同旋转版本，不能更新 W 后继续读旧码而不记录映射变化。
教学例子：一张完全正交矩阵可能把数据转到不利于当前码本的方向；因此正交误差近零不能替代重构和推荐指标，更不能当成能力满分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
DOS 的正交旋转与一般可学习投影，相比为什么更强调几何约束？
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：正交变换在理想条件下保持距离与范数，只重排信息方向，便于后续分割量化；一般投影可任意缩放扭曲空间。约束减少某类自由度，不保证量化误差最小，更不说明语义因素已经严格独立。来源本地 Procrustes 是特定受控路径。
教学例子：旋转像转动坐标轴，不把两点突然拉远；任意矩阵则可拉伸某方向。量化网格方向可能更合适，但不代表用户偏好已被因果分解。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
DOS 为什么让用户行为流与商品语义流共同塑造 codebook？
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：内容量化只优化重构，不一定保留推荐所需协同差别；行为流提供用户消费关系，语义流保留内容结构，两者共同对齐离散空间。它不是把所有共现都当语义相同，仍需平衡重构与任务信号，避免热门反馈压倒细粒度内容。
教学例子：同主题两部电影受众不同，行为流帮助分开；不同题材却共同满足旅行兴趣的内容，也可能获得更符合推荐的联系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
controller 选择记忆与 designer 编译技能为什么不是同一件事？
MemSkill
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：选择解决当前任务需要读哪段经验，编译则把重复成功模式转换为以后可调用的程序知识。二者时间尺度与对象不同，新反馈还要驱动版本升级；检索到一次成功 episode 不足以证明其细节可直接固化，仍需区分通用步骤与偶然环境条件。
教学例子：例如先为当前报错找历史修复记录，多次确认同类模式后才形成技能；那次日志里的临时账号不应被一起编译成固定参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地技能版本更新与完整 designer 学习的证据边界是什么？
MemSkill
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：本地只验证选择、编译式状态转换、版本与预算合同，没有复刻原论文 LLM、RL 或完整真实环境。版本号增加证明更新路径被调用，不说明模型已从自然语言日志学会提炼可靠技能，也不能将受控满分与原文跨任务能力相等同。
教学例子：例如规则把重复步骤转成结构化模板可测试 pipeline，但没有 learned designer 时，不应声称自动发现开放任务程序知识。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
重复成功模式与一次成功轨迹在固化可信度上有何区别？
MemSkill
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：单次成功可能依赖偶然环境或隐藏帮助，重复模式提供跨实例支持，更适合提炼技能。重复也不保证因果必要，仍要检查前提、失败反馈与版本变化；不能把出现频次直接当成通用正确性或省去验证。
教学例子：例如三次都先清缓存后成功，可能只是这三题都恰好需要清缓存，技能应注明适用条件而非强制所有任务清缓存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
MemSkill 为什么要把一次性的任务经历变成可再次调用的操作经验？
MemSkill
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：情景记忆保留某次发生了什么，但下一任务真正需要的可能是可重复的步骤、前提和失败处理。MemSkill 研究从经历中形成技能，并让执行侧选择合适记忆参与当前决策。抽象过度会丢失环境条件，重复成功也不保证所有场景适用，仍要检查迁移后的执行结果。
教学例子：教学例：一次修表格经历包含许多对话，后续更需要“先核对列名再转换日期”的操作规则，以及它适用的表格条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
为什么研究搜索的节点价值要同时考虑指标和运行时间？
MARS: Modular Agent with Reflective Search for Automated AI Research
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：有限训练预算下，同等质量但更慢的方案会挤占后续探索，单看分数可能选中不划算的路线。MARS 归一化执行指标并加入时间惩罚，再有界地安排改进或调试；反思经验来自代码差与真实结果，不能用模型预期性能替代节点测量。
教学例子：例如两种方案都到相近验证分数，一种耗时十倍，预算感知搜索可优先较快者，留下资源检验更多结构假设。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
全节点指标相同、失败调试与经验容量有哪些明确边界？
MARS: Modular Agent with Reflective Search for Automated AI Research
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：指标范围为零时归一化取 0.5，避免除零；论文至多十次调试、两个改进子代、三十条近期经验，限制搜索扩张。当前本地无实现或训练，作者代码与轨迹发布也不等于完整控制器可复现，不能仅抄奖励公式宣称研究能力。
教学例子：例如所有候选 AUC 都相同，不应产生 NaN 或任选一个极高分；统一中值只让时间等其他条件继续起作用。
依据：核心公式、本地复现与成本判断；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
新建、改进与调试三类搜索动作，各试图改变什么？
MARS: Modular Agent with Reflective Search for Automated AI Research
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：新建探索不同研究方案，改进沿已有效节点提高性能，调试则修复尚不能有效执行的候选。三者产出的证据不同：报错减少不等于指标更好，已运行也不等于值得继续搜索。MARS 按执行状态和预算选择分支，并限制调试及子代数量，不能把失败候选的估计指标当实测。
教学例子：教学例：导入错误先走调试，修好后才能测指标；指标有效但还有空间可做改进，完全换路线才属于新建。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Design—Split—Implement 为什么要先生成模块化仓库？
MARS: Modular Agent with Reflective Search for Automated AI Research
问答新增：2026-10-27 · Google Cloud AI Research
展开答案与例子
答案：研究改动涉及多个组件，先明确设计与模块边界再实现，可让搜索分支局部改进并复用调试经验，而不每次重写整体代码。模块化也可能界面不完整，真正效果仍来自训练执行，不能把仓库结构漂亮或代码差异小当算法已正确实现。
教学例子：例如数据加载、模型与评测分开后，可只替换模型分支并保持同一评测入口，便于比较而不混入数据改动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
RAG-QAC 为什么先检索可搜索目录，再对补全建议做多目标偏好对齐？
Unifying Ranking and Generation in Query Auto-Completion via Retrieval-Augmented Generation and Multi-Objective Alignment
问答新增：2026-10-27 · Apple
展开答案与例子
答案：自由生成的查询补全可能语言合理却找不到商品或文档。目录检索先提供可追溯候选与证据，使建议有机会落到可服务对象；SFT 与 DPO 再联合权衡相关性、安全、参与度、上下文依据和多样性。多目标对齐不能弥补目录里本就不存在的内容，也需避免为参与度牺牲真实性。
教学例子：用户输入“轻便露营”，先从目录取得帐篷、炊具等真实类别再补全，避免生成商店根本没有的型号；两个都能搜到的补全再比较相关性与多样性。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
RAG-QAC 的检索证据与 gold 补全标签，为什么不能在输入中混成一份？
Unifying Ranking and Generation in Query Auto-Completion via Retrieval-Augmented Generation and Multi-Objective Alignment
问答新增：2026-10-27 · Apple
展开答案与例子
答案：证据应由请求与目录检索得到，gold 仅作为训练监督；若测试先取正确补全再检索证据，会绕过生成难点。目录、上下文 groundedness 也需独立 mask 和评判，不能把“在目录”当全部质量通过。
教学例子：测试答案是某帐篷型号，先把它插进证据再让模型复述，会虚高；合法链路应从用户前缀检索，再检查是否生成正确且有据的建议。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
RAG-QAC 的 SFT 与 DPO 对齐，相比一个只做检索模板的系统多了什么？
Unifying Ranking and Generation in Query Auto-Completion via Retrieval-Augmented Generation and Multi-Objective Alignment
问答新增：2026-10-27 · Apple
展开答案与例子
答案：模板可保证部分词项落地但表达和取舍固定，SFT 学习上下文生成，DPO 比较相关、安全、参与与多样性偏好。偏好奖励可能冲突，不应只追点击而丢真实性。来源本地固定 scorer 代理无法证明完整语言后训练效果。
教学例子：两条都能搜到的补全，一条更贴用户、另一条覆盖新方向，偏好对可以教取舍；模板一般只按规则顺序返回，缺少这种学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
RAG-QAC 的“目录 groundedness”和“上下文 groundedness”为什么要分别判断？
Unifying Ranking and Generation in Query Auto-Completion via Retrieval-Augmented Generation and Multi-Objective Alignment
问答新增：2026-10-27 · Apple
展开答案与例子
答案：目录依据要求建议能落到实际可搜索内容，上下文依据要求它与用户前缀和已知需求一致。存在的商品也可能偏题，贴题表达也可能目录没有。二者是不同必要检查，不能以其中一项通过代替另一项，更不能从中直接推出安全和参与度达标。
教学例子：用户搜儿童雨鞋，目录里确有成人登山鞋，目录检查通过但上下文不符；编造一个完美儿童型号则相反，不能只看是否听起来合需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Zenith 为什么先把异构稀疏特征融合成少量高维 Prime Tokens，再做 token 专属增强？
Zenith: Scaling up Ranking Models for Billion-scale Livestreaming Recommendation
问答新增：2026-10-27 · North Carolina State University
展开答案与例子
答案：大量短 token 会放大交互开销，Token Fusion 把特征压成少量更宽的表示，重新分配 token 数与通道容量。RSA/TMHSA 维持不同 token 的差异，专属 SwiGLU 或 MoE 再提供针对性非线性，避免压缩后都趋同。压缩可能损失细节，扩宽与专属参数是否值得需按同计算预算验证。
教学例子：原来一百个细字段逐对交互，先融合为少数宽 token 后可减少注意力位置数；但还要让用户与商品等角色保持差异，否则只得到几份相似的大向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Zenith本地能证明原论文scaling law吗？
Zenith: Scaling up Ranking Models for Billion-scale Livestreaming Recommendation
问答新增：2026-10-27 · North Carolina State University
展开答案与例子
答案：不能，固定公开小样本只验证Fusion、差异化交互与增强路径，缺生产规模和硬件栈。需多规模同预算曲线，不能从单seed点或解析FLOPs推出扩展斜率。
教学例子：例如一个小模型分高于基线，不代表越放大领先越大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
token独立TSwiGLU与全token共享FFN有什么区别？
Zenith: Scaling up Ranking Models for Billion-scale Livestreaming Recommendation
问答新增：2026-10-27 · North Carolina State University
展开答案与例子
答案：独立增强允许各Prime Token专门化，共享FFN假设同一变换适合所有槽。更多参数也有预算成本，不能把规模差异误认为架构必然更优。
教学例子：例如用户槽与商品槽可能需要不同非线性，而不是完全共用一套权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Zenith为什么将大量特征融合成少量Prime Tokens？
Zenith: Scaling up Ranking Models for Billion-scale Livestreaming Recommendation
问答新增：2026-10-27 · North Carolina State University
展开答案与例子
答案：减少token交互成本同时提高每token表达，后续差异化注意和独立增强保留特征多样性。融合有信息瓶颈，不能仅因token少就称无损。
教学例子：例如把许多稀疏字段压到几个高维槽，仍需避免槽全部变得一样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OneMall 用统一 Semantic ID 之后，为什么还要场景条件和多行为 cross-attention？
OneMall: One Model, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：统一编码只让商品在多个场景使用同一套输出词表，不能消除商品卡、短视频与直播的行为差异。场景条件告诉生成器当前目标，多行为交互再提取与该目标相关的历史信息；Query-Former 压缩和稀疏专家控制上下文与容量成本。因此统一的是模型家族和表示接口，场景特性仍需显式建模。
教学例子：同一件夹克在商品卡里对应点击，在直播里可能对应停留与下单。共用商品编码后，模型仍需知道当前是直播推荐，才能从用户多种行为中选择相关信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
OneMall 本地增加三层 SID 与场景 prompt，为什么不能证明 Query-Former、MoE 和 RL 都已复现？
OneMall: One Model, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：来源明确只加场景条件、残差码与跨行为融合，训练和服务范围应按实际算子说明。要扩展声明需看到查询压缩、真实路由和策略更新等证据。NDCG 小升且 Hit 降，不能用原文端到端家族描述覆盖本地有限模块。
教学例子：一个代码路径输出三枚商品码，并不自动拥有专家路由；若没有 rollout 与参数更新记录，也不能因损失写了 reward 名称就称 RL 完成。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
OneMall 的 Sparse MoE 与单一 dense 生成器，相比容量和场景分工如何变化？
OneMall: One Model, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：专家增加条件容量、部分激活控制每次计算，可让多场景有不同组合；dense 全共享更简单但可能被高频场景主导。专家也可能饥饿或重复，不能由参数总量断言有效容量。来源本地仅部分 SID 与场景融合，不等于完整生产 MoE/RL。
教学例子：直播交易和短视频兴趣可使用不同专家比例，但若 gate 永远只选同一专家，模型仍没真正分工，剩余参数也不会自动贡献。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OneMall 的统一商品码为什么有助跨商品卡、短视频与直播？
OneMall: One Model, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：同一商品在多入口可共享输出身份，减少每个系统独立建模与映射的割裂，再由场景条件和多行为信息区分消费语境。统一码不表示曝光目标相同，内容、交易和直播停留仍有不同监督，跨场景迁移也可能冲突。
教学例子：同一夹克在视频介绍和商品卡点击都指向同一商品码，但视频完播和下单不是一个标签，不能把两者直接合并为同强度正反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
ME-POIs怎样给访问稀少的地点补充时段信息，为什么不能把所有尺度锚点一锅归一化？
Mobility-Embedded POIs: Learning What A Place Is and How It Is Used from Human Movement
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：它借助高频地点的时段分布，在每个空间尺度内部先按距离对锚点归一化，再在尺度间平均，避免某个尺度只因锚点多就主导结果。轨迹编码连接短期访问与长期地点原型，文本另作语义对齐。行为时段、地点语义与冻结后的属性探针各有角色，不能混作一个标签。
教学例子：小尺度有2个近邻锚点，大尺度有20个；先各自归一化再平均，可让尺度贡献按设计组合，而不是让大尺度仅凭数量多就压过近邻信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
ME-POIs 的对比负例应按访问记录数量重复加入同一地点吗？
Mobility-Embedded POIs: Learning What A Place Is and How It Is Used from Human Movement
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：文档Eq.9使用minibatch中不重复的地点原型。重复访问同一地点不应凭数量变成多个独立原型负例；时段KL还需保持r||q方向与对地点求和的口径。
教学例子：同一POI出现三次访问，原型候选集合中仍只保留一个该POI。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
按每个空间尺度分别归一化再平均，与所有锚点混成一个 softmax 有何差异？
Mobility-Embedded POIs: Learning What A Place Is and How It Is Used from Human Movement
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：分尺度归一化让每个尺度形成自身的锚点分布，再按规定平均；混池会让不同尺度的权重直接竞争，改变每个尺度的贡献，不能视为相同的多尺度传递。
教学例子：近邻尺度与远邻尺度各给一份预测，而不是因某尺度候选多就占更大总质量。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
ME-POIs 为什么把访问轨迹、地点原型和文本监督放在一起？
Mobility-Embedded POIs: Learning What A Place Is and How It Is Used from Human Movement
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：稀疏地点缺少充足访问记录。方法将短期轨迹与长期地点原型连接，并从高频锚点跨空间尺度传递时段信息，再借文本语义对齐补充监督。
教学例子：一个少有人到访的地点，可从附近高频地点的时段模式获得辅助信息。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
ECO去掉高精度master weights后，微小更新被量化吃掉的问题怎样处理？
ECO: Quantized Training without Full-Precision Master Weights
问答新增：2026-10-27 · Google Research / ISTA
展开答案与例子
答案：它直接更新量化权重，并把本次重量化误差反馈到已有动量，避免额外保存主权重或独立误差缓冲。补偿系数与优化器步长相关；Adam的有效步长逐元素变化，不能照搬SGDM标量系数。无额外缓冲规则还有推导近似，不能说每一步都与高精度轨迹精确等价。
教学例子：一次更新小于量化网格，权重暂时没变；误差信息进入动量，影响后续更新，而不是凭空丢掉或另外保存一整份高精度权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
把 ECO 从 SGDM 移到 Adam 时，为什么不能沿用一个标量学习率做补偿？
ECO: Quantized Training without Full-Precision Master Weights
问答新增：2026-10-27 · Google Research / ISTA
展开答案与例子
答案：Adam的偏置修正与第二矩产生逐元素有效步长η_t，误差注入需使用这一尺度。直接照搬SGDM标量系数会对不同坐标补偿失配；量化格式与缩放粒度也必须记录。
教学例子：两个坐标预条件步长不同，同样的量化误差不能都除以同一个标量来补偿。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
ECO 的无缓冲动量补偿，与保存完整前后量化误差的精确等价规则相同吗？
ECO: Quantized Training without Full-Precision Master Weights
问答新增：2026-10-27 · Google Research / ISTA
展开答案与例子
答案：不相同。文档说明无额外缓冲形式由相邻误差接近的观察推导，并另有收敛分析；不能把它写成任意量化条件下逐步严格等价于高精度训练。
教学例子：两步量化误差差异很大时，不能仅凭公式形似就宣称与保存所有误差完全相同。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
ECO 为什么希望同时移除 master weights 和独立误差缓冲？
ECO: Quantized Training without Full-Precision Master Weights
问答新增：2026-10-27 · Google Research / ISTA
展开答案与例子
答案：低精度训练若仍保存高精度主权重或额外误差状态，存储优势会受限。ECO把重量化误差补入已有动量，尝试在不增加这些持久状态的条件下累积微小更新。
教学例子：很小的更新本次未改变低精度权重，也不应因此永远丢失其影响。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
问卷满意度样本很少，EASQ为什么为它保留独立LoRA路径和动态reference？
Towards End-to-End Alignment of User Satisfaction via Questionnaire in Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：海量行为标签容易支配共享更新，使稀疏但直接的满意度监督被淹没。独立低秩路径为问卷知识保留可调空间，在线偏好优化再以问卷专家作动态参照，让更新持续围绕满意度而非只追点击。它降低干扰却不消除问卷抽样偏差，不能把少数答卷直接当全体用户的完整偏好。
教学例子：许多点击来自猎奇内容，少量问卷却显示用户不满意；独立专家保留这类信号，再引导线上偏好更新，避免点击数量把它全部冲掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
验收 EASQ 时，为什么要检查实际可训练参数，而不只看配置写了 LoRA？
Towards End-to-End Alignment of User Satisfaction via Questionnaire in Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：若主干仍被优化器更新，实验就不是稀疏满意度的独立低秩路径；参考概率还须来自记录版本，避免比较对象无声变化。训练和服务依赖也需一致。来源公开代理没有真实问卷，不能把最终排序分当作满意度复现。
教学例子：主干全量更新可能更容易降低 loss，却无法证明低秩路径保护了原排序；查看梯度与优化器参数范围，比只看模块名可靠。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
动态问卷 reference 与固定 SFT reference，偏好锚点有什么差别？
Towards End-to-End Alignment of User Satisfaction via Questionnaire in Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：固定参考持续锚定初始分布，动态专家随新满意度证据更新，使策略面对更当前的目标。代价是参考非平稳，需记录版本并限制扰动；不意味着参考每次变化都是改进，也不能由 LoRA 结构推断主干能力完全保持。
教学例子：用户近期更讨厌重复内容，专家更新后参考可反映这种变化；如果仍锚定早期习惯，策略可能继续奖励过去有效但现在过时的模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
EASQ 为什么将问卷满意度与行为反馈分为不同参数路径？
Towards End-to-End Alignment of User Satisfaction via Questionnaire in Video Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：行为标签多但可能只反映短暂点击，问卷更直接却稀疏，合并时容易被数量压过。独立 LoRA 保留满意度学习空间，再作为偏好参考影响更新。问卷同样有响应选择偏差，不能视为全体用户的无偏真值。
教学例子：用户点击标题却在问卷表示后悔，少量反对信号若混入海量点击会被淹没；独立专家让它仍能影响偏好方向。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 Planner 与 Executor 分开后，仍需要工具链与最终结果共同奖励？
PEARL
问答新增：2026-10-27 · 中国科学院信息工程研究所
展开答案与例子
答案：计划格式正确不保证工具存在、顺序可执行或答案成立，执行器也可能在合理计划下填错参数。离线试错先积累用法与失败条件，在线密集信号分别约束工具、顺序和结果，使规划能学到可执行结构；单个过程分高不能替代任务实际成功。
教学例子：例如计划先查询订单再退款顺序正确，但订单 ID 错了仍会失败；奖励应同时反映工具链合理性与最终操作结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
PEARL 的 tool/order/success 分项为什么要保留，而不只存总 reward？
PEARL
问答新增：2026-10-27 · 中国科学院信息工程研究所
展开答案与例子
答案：不同分项对应工具身份、顺序和完成情况，可定位规划更新信号并核对加权方向。只存总分会掩盖错误组件；本地计划探索与复用不等于已跑ToolHop真实API或完整GRPO。
教学例子：工具都选对但顺序错，总reward低的原因应在order项中可见。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
Planner/Executor 解耦与一个模型一边想一边调用工具，训练反馈如何不同？
PEARL
问答新增：2026-10-27 · 中国科学院信息工程研究所
展开答案与例子
答案：解耦可把计划组的工具选择、顺序与最终成功作为规划奖励，同时让Executor负责实际执行反馈。它不保证仅靠好计划就成功，工具参数与运行后果仍需核验。
教学例子：计划选对了三种工具，但Executor参数错了，最终结果仍可能失败。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
PEARL 为什么在在线规划前先做离线工具 trial-and-error？
PEARL
问答新增：2026-10-27 · 中国科学院信息工程研究所
展开答案与例子
答案：工具幻觉和参数错误会破坏多跳计划。离线探索整理工具用法与失败条件，在线再分离Planner与Executor，使计划生成可以利用更可靠的工具经验。
教学例子：先知道工具需要哪类参数以及何时失败，再让Planner决定调用顺序。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
LLaTTE已经缓存大模型用户表示，为什么下游仍要读取短历史并做候选感知attention？
LLaTTE: Scaling Laws for Multi-Stage Sequence Modeling in Large-Scale Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：上游长历史编码能异步承载较大计算，却存在刷新间隔和压缩损失；在线短序列补充最新行为，候选query再选择对当前打分有用的证据。上下游因此各承担稳定知识与实时相关性，而不是把一个缓存向量当全部用户状态。上游指标改善是否有效迁移到下游，需要单独测量而非默认全额保留。
教学例子：昨夜缓存记录长期摄影兴趣，用户刚开始搜索旅行背包；在线近期序列应反映新意图，再结合当前候选读取相关知识，而不只复用昨夜的固定结论。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
LLaTTE 本地四 latent query 与 recent-12 路径，为什么不能外推生产两千维缓存收益？
LLaTTE: Scaling Laws for Multi-Stage Sequence Modeling in Large-Scale Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：本地只是固定小规模的长摘要、短历史及门控训练，对真实缓存刷新、线上约四百事件和多源特征没有完整测量。应核验两路梯度与候选依赖，再报告匹配短基线和头部变化；解析规模差异不能填成真实 QPS 或转化提升。
教学例子：四个摘要向量读二十四条电影历史能验证信息流，但不代表读取万级多源历史与生产缓存延迟相同，更不能从小模型耗时按比例换算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
LLaTTE 的迁移效率 τ 与上游单独 NE 改善，为什么不是同一指标？
LLaTTE: Scaling Laws for Multi-Stage Sequence Modeling in Large-Scale Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：上游更好不代表下游获得等比例收益，缓存维度、融合能力与任务目标都可能损失信息。τ 比较两阶段改善，帮助判断继续投上游算力是否值得。分母很小或两侧口径不一致时比率会不稳定，不能把经验律当普适定理。
教学例子：上游 NE 明显下降，下游几乎没变，说明瓶颈可能在读取接口；此时继续加上游参数未必比改候选感知融合更有效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
LLaTTE 为什么把上游异步长历史与下游短在线序列分开 scaling？
LLaTTE: Scaling Laws for Multi-Stage Sequence Modeling in Large-Scale Ads Recommendation
问答新增：2026-10-27 · Meta
展开答案与例子
答案：上游可承担大历史计算并缓存概况，下游用最新事件与候选感知交互补时效和目标细节，避免每请求重算大模型。两级各有瓶颈，单纯提高上游质量未必被下游完全利用，压缩与迁移效率因此需要测量。
教学例子：后台保存多年兴趣，用户刚浏览婴儿用品时在线短序列立刻响应；若只等下一次上游刷新，会错过新需求。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
测试在原 bug 上失败、在生成修复上通过，为什么还不能证明修复正确？
Dynamic Cogeneration of Bug Reproduction Test in Agentic Program Repair
问答新增：2026-10-27 · Google
展开答案与例子
答案：自生成测试可能只覆盖修复碰巧满足的局部行为，二者相互吻合不等于原题完整语义。这个条件只定义候选 BRT；更强的可信判断还需隔离参考修复等验证。按非测试 patch 分组投票，也避免同一修复因配了不同测试而被拆散票数。
教学例子：例如修复把返回值写成常量，自测也只检查这一个输入，两项条件都可能通过，但其他输入仍错，不能宣称真正修好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
执行失败能否把任意异常都视为成功复现 bug？
Dynamic Cogeneration of Bug Reproduction Test in Agentic Program Repair
问答新增：2026-10-27 · Google
展开答案与例子
答案：不能。本地要求非空断言在原程序触发 assertion_failed，再在修复上通过且回归合格；语法错误或其他异常不算 BRT。执行仅支持有限 AST 白名单和独立限时进程，不是任意恶意代码沙箱，也未运行真实 LLM reviewers 或私有 Google bug。
教学例子：例如原测试因 import 不存在而崩溃，不证明它复现业务 bug；不能与修复后正常运行简单配成“失败到通过”。
依据：核心公式、本地复现、代码映射与边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
为什么选择器按非测试 patch 归组，而不把每份测试各算一个候选？
Dynamic Cogeneration of Bug Reproduction Test in Agentic Program Repair
问答新增：2026-10-27 · Google
展开答案与例子
答案：同一修复可搭配多个不同测试，若逐对计票会拆散或放大同一代码方案的支持。按非测试部分归组再在多数修复组内选测试，更接近比较实际修复；标识符归一化仍是启发式，不是语义等价证明。
教学例子：例如十条轨迹生成同样代码但不同断言，应该识别为一个修复组，而不是十种独立修复策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
自动修 bug 时，为什么先得到能复现问题的测试很有价值？
Dynamic Cogeneration of Bug Reproduction Test in Agentic Program Repair
问答新增：2026-10-27 · Google
展开答案与例子
答案：文字 issue 往往不够精确，复现测试把失败条件变成可执行观察，帮助区分补丁是否改变目标行为。Dynamic BRT 研究在候选修复过程中生成和选择这类测试。它们提供局部证据，覆盖不足或为错误补丁量身定制的测试仍可能误导，不能代替完整正确性验证。
教学例子：教学例：报告说空列表会崩溃，复现测试固定这个输入并检查异常；补丁通过该测试后，其他输入仍需要独立检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
S2GR 为什么在每一级 SID 前插入 thinking token，并把它与 codebook 分布对齐？
S2GR: Stepwise Semantic-Guided Reasoning in Latent Space for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：粗到细 SID 的早期选择会限定后续路径，单独最大化码概率可能缺少明确的语义过渡。逐级 thinking token 提供中间状态，再用与真实码本分布的对比监督把它连接到合法语义空间，协同图与负载均衡补充行为关系和码使用。中间 token 可辅助解释，但不能仅凭名字就证明它进行了忠实的自然语言推理。
教学例子：先确定户外大类，再细分露营装备。每级中间状态都需贴近对应码本语义，避免出现解释像在谈露营，实际却跳到无关家居编码的脱节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
S2GR本地码本和thinking是否原生产模型？
S2GR: Stepwise Semantic-Guided Reasoning in Latent Space for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不是，公开MovieLens固定子集只验证中心机制。需对齐本级码、前级历史与thinking位置，平衡目标不能读测试目录标签来挑配置，线上收益只作原文引用。
教学例子：例如小目录的均匀码使用，不代表工业海量内容层级已训练好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
S2GR的thinking对齐损失与码本负载均衡，分别约束什么？
S2GR: Stepwise Semantic-Guided Reasoning in Latent Space for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：对齐损失把中间状态连接到本级码本语义，负载均衡关注不同码是否被过度集中使用。前者改善语义关联的监督，后者处理码使用分布；均匀使用并不保证语义正确，语义对齐也不自动避免所有码坍缩，不能把两项互相替代。
教学例子：所有样本都选同一码时负载可能失衡；把样本随机均分到各码虽更均匀，却未必保留了内容含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
S2GR的thinking token是自由生成的一大段自然语言思维链吗？
S2GR: Stepwise Semantic-Guided Reasoning in Latent Space for Generative Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：这里的关键是每级SID前插入的中间状态，并把它与相应码本分布对齐；不能仅凭thinking这个名字就当成完整自然语言解释。SID仍是逐级生成的离散路径，理解这个输出结构比先把它类比聊天模型长思维链更直接。
教学例子：先出现本级中间状态，再选择本级语义码，然后进入下一级；这不要求先输出一篇可读的推理长文。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
核心机制
OPSD的教师能看验证解，为什么学生生成轨迹时必须看不到它？
OPSD
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：同一模型的两个条件视图承担不同角色：教师借验证解提供更强监督，学生仍按部署条件只看问题。教师沿学生实际前缀评分，逐词元散度裁剪避免少数风格位置主导。若学生生成时也读答案，就绕过了待学习能力；本地仅验证双视图和更新机制。
教学例子：例如教师知道一道题的标准解，可以评价学生写到一半的步骤；学生采样时不能把标准解放在提示中再声称独立解题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
实现细节
OPSD的pointwise clipping为何不是把整个响应一个系数截断？
OPSD
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：它控制逐词元散度贡献，避免少数风格位置主导；粒度不同于序列整体裁剪。teacher目标冻结，响应mask一致，本地双视图核不含Qwen竞赛数学训练。
教学例子：例如一个格式词异常差距不能凭自身放大整条监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
方法对比
OPSD与给学生做答案条件SFT的隔离区别是什么？
OPSD
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：学生采样时不能见标准解，教师沿学生状态给分布；把解法直接拼给学生会让其依赖部署时不存在的信息。完整分布蒸馏也不同于仅模仿一条答案文本。
教学例子：例如教师知道中间式可以，学生提示里不能藏同一式作为捷径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 教师与纠错：额外信息何时能帮到学生
基础理解
OPSD为什么同一个模型会形成更有信息的教师视图？
OPSD
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：教师额外看已验证解题信息，学生只看问题，能力差来自信息条件而非独立大模型。它仍依赖特权解可靠，不意味着模型能自行验证所有问题。
教学例子：例如同一模型知道结论后点评，与不知道结论独立求解，条件不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SparseCTR 为什么按个体行为间隔自适应分块，还并联全局、转移和局部三路注意力？
Unleashing the Potential of Sparse Attention on Long-term Behaviors for CTR Prediction
问答新增：2026-10-27 · Institute of Software, Chinese Academy of Sciences
展开答案与例子
答案：相同条数的行为可能跨几分钟也可能跨几个月，固定窗口会混淆会话边界。时间分块先组织个体节奏，三路分别提取长期概况、兴趣迁移和近邻细节，相对时间偏置再表达间隔与周期。它把时间结构写进信息流，而非只加一个绝对位置；分块与融合仍需避免压掉突发或稀疏兴趣。
教学例子：用户周末集中浏览十件家具，隔一个月又买耗材。按时间间隔可把两段分开，局部路保留同次采购细节，转移路学习从装修到补充用品的变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SparseCTR本地时间特征能代替原生产日志全部时序吗？
Unleashing the Potential of Sparse Attention on Long-term Behaviors for CTR Prediction
问答新增：2026-10-27 · Institute of Software, Chinese Academy of Sciences
展开答案与例子
答案：不能，MovieLens固定子集只验证分块和偏置机制。分块需按请求前时间排序，bias与有效mask对齐，不能把未来事件或全库标签混入历史。
教学例子：例如跨用户时间阈值误共享，可能把不同节奏的人强行同样切块。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
三路EvoAttention与只取局部稀疏窗口有什么差别？
Unleashing the Potential of Sparse Attention on Long-term Behaviors for CTR Prediction
问答新增：2026-10-27 · Institute of Software, Chinese Academy of Sciences
展开答案与例子
答案：局部保细节，chunk全局保跨段兴趣，transition保兴趣迁移；仅局部会缺其他信息。时间偏置提供相对间隔和日历线索，也不是绝对正确的因果特征。
教学例子：例如周末规律可能与兴趣相关，但不说明周末本身导致点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SparseCTR为什么按个体时间间隔分块？
Unleashing the Potential of Sparse Attention on Long-term Behaviors for CTR Prediction
问答新增：2026-10-27 · Institute of Software, Chinese Academy of Sciences
展开答案与例子
答案：统一事件数量窗口难区分密集会话和长期断点，时间自适应块更贴行为节奏。全局块、兴趣转移和局部窗口三路再分别捕捉不同尺度关系。
教学例子：例如一天连续浏览与隔月再访，不应只因事件相邻就视为同一局部节奏。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
HCUB为什么让稀疏上下文继承父节点奖励，同时仍保留探索项？
Hierarchical Contextual Uplift Bandits for Catalog Personalization
问答新增：2026-10-27 · Dream11
展开答案与例子
答案：细粒度用户群体数据少，完全独立估计会高方差；继承父节点提供较稳定起点，随着本地反馈增加再提高专属信息权重。动作选择依据增量收益并加入不确定性探索，避免永久锁定早期看似最好的动作。层级共享也可能掩盖少数群体差异，因此不能用父节点平均值替代所有局部证据。
教学例子：新出现的某设备用户群只有几次反馈，可先借更大地域群体经验；后续若本地偏好不同，估计应逐渐改写，而探索让这种差异有机会被发现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
HCUB 父子奖励混合时，怎样避免稀疏子节点反向污染全部父节点？
Hierarchical Contextual Uplift Bandits for Catalog Personalization
问答新增：2026-10-27 · Dream11
展开答案与例子
答案：应明确局部估计与父级先验的更新范围，混合读取不等于把一次子反馈复制到整棵树。η 和探索不确定性要随定义使用，动作身份保持一致；没有观测的动作不能随意记失败。否则共享机制会放大噪声而非缓解冷启动。
教学例子：一个新子群偶然点击某动作，可更新其统计并影响合法祖先汇总，但不能给所有兄弟节点都加一次成功，假装它们也获得同样反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
HCUB 的增量收益加 UCB 与按绝对点击率贪心，相比探索目标有什么不同？
Hierarchical Contextual Uplift Bandits for Catalog Personalization
问答新增：2026-10-27 · Dream11
展开答案与例子
答案：增量试图判断动作相对参考改变多少，探索项补偿不确定性，而点击贪心偏向本来就高响应的场景。两者回答不同问题；因果增量需要合适数据支持，置信 bonus 也不是因果识别工具。公开电影代理无法证明真实干预收益。
教学例子：某高活跃群体本来就点，增动作帮助很小；低活跃但可被有效动作改善的群体才可能值得探索，而非总选最高原始 CTR。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
HCUB 的上下文树为什么需要动态选择粗细粒度？
Hierarchical Contextual Uplift Bandits for Catalog Personalization
问答新增：2026-10-27 · Dream11
展开答案与例子
答案：细节点更贴近个体场景却样本稀少，父节点数据多但更粗。动态粒度与奖励继承在冷启动时借用较稳统计，数据积累后增加本地权重。它不是固定人群标签，树结构与混合系数也会影响偏差，不能把细分越多当越准确。
教学例子：新用户的细分节点只有两次反馈，先借上层群体估计；积累百次后再更多依赖本地，避免两次偶然点击决定长期策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
SQL scorer 能算出确定答案，为什么不等于已实现 LifeAgent 的工具推理？
LifeAgentBench: Benchmarking LLMs for Long-Horizon, Cross-Dimensional Lifestyle Health Reasoning
问答新增：2026-10-27 · University of California San Diego
展开答案与例子
答案：scorer 持有规则与记录来验证最终答案，不承担分解问题、检索证据、维护中间统计和修订计划。基准与工具基线的职责不同，不能让行动者直接读参考计算或把通过字段检查当成长期健康记录推理；这里只说明数据任务协议，不提供健康决策建议。
教学例子：例如验证器能计算一周平均睡眠，Agent 仍须自己选时间窗、查询记录并核对缺失项；调用参考答案函数会绕过这些步骤。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
只读SQL与Context Prompting怎样隔离gold？
LifeAgentBench: Benchmarking LLMs for Long-Horizon, Cross-Dimensional Lifestyle Health Reasoning
问答新增：2026-10-27 · University of California San Diego
展开答案与例子
答案：前者模型先生成允许查询，执行结果再回给模型；后者先按用户筛公开证据，金标都在评分端。数字按规定分段容差，多项需同项数匹配，不能改substring凑通过。
教学例子：例如回答包含正确词但还多列错误项，不应因子串命中就算全对。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
SQL可执行、证据完整与最终正确有什么区别？
LifeAgentBench: Benchmarking LLMs for Long-Horizon, Cross-Dimensional Lifestyle Health Reasoning
问答新增：2026-10-27 · University of California San Diego
展开答案与例子
答案：可执行只说明语法和运行，EX在其分母上查证据完整，Acc|EX再看完整证据条件的答案。混用分母会掩盖推理或检索问题。
教学例子：例如查询能跑但少筛了一位用户，仍未取全所需证据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
LifeAgentBench的长期生活记录，为什么不只是对一条事件做分类？
LifeAgentBench: Benchmarking LLMs for Long-Horizon, Cross-Dimensional Lifestyle Health Reasoning
问答新增：2026-10-27 · University of California San Diego
展开答案与例子
答案：任务在饮食、睡眠、活动和情绪等记录上提出跨时间窗口、跨维度或跨用户的问题，通常要先取齐有关证据再计算或比较。输入中的一条记录不足以代表整个问题，记录筛选与统计的范围就是答案条件的一部分。
教学例子：比较某周活动与睡眠的关系，需要同一用户该周两类记录；读到一天步数便直接答复会漏掉证据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HyFormer为什么每层读完历史后还要做Query Boosting，再返回下一层读取？
HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：若先把历史压成摘要再做字段交叉，字段信息无法改变下一次取证方向。HyFormer交替读取序列与混合非序列token，使刚得到的历史证据参与字段交互，再由增强query重新查询历史。这里共同演化的是紧凑query与字段表示，不应理解为每个候选都必须改写整段原始历史。
教学例子：第一层发现用户看过户外内容，结合雨天和商品材质后，下一层query可更关注防水装备；一次性摘要再接MLP就难把这条新问题反馈给历史读取。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HyFormer 实现每层 boosting 后，为什么要将更新后的 query 送回下一次 cross-attention？
HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：若始终使用最初 Q，每层只重复同一问题，就丢掉共同演化。当前层 sequence K/V、decoded queries 与 NS tokens 的布局也需对齐，per-token 变换作用在混合布局。本地两 query 缩比是具体实现，不应宣称与完整生产参数和缓存路径完全一致。
教学例子：第二轮 query 应带上第一轮新获得的预算与用途信息；若代码意外复用 Q0，虽然层数增加、loss 可下降，仍未执行论文的迭代信息回路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
HyFormer 的逐层 query co-evolution 与 LONGER 后接 RankMixer，相比交互时机有什么不同？
HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：串行路径先形成序列摘要再做字段混合，早期历史读取不受后续字段结果调整；HyFormer boosting 后的查询回到下一层重读，形成多轮条件化。更早交流增加表达也可能强化热门偏差，来源本地 head share 大增，不能全归为更好个性化。
教学例子：第一轮发现露营线索，字段混合加入预算条件，下一轮再找轻量装备证据；单次串行摘要完成后通常不能再按新条件回查原历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HyFormer 的 Global Queries 为什么由非序列字段与 sequence mean 初始化？
HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction
问答新增：2026-10-27 · ByteDance / Douyin Search
展开答案与例子
答案：查询需要知道当前全局上下文和历史概况，才能有针对性读取长序列，而不是从固定无条件槽起步。每层解码后再 boosting，逐步将字段与历史结合。初始化摘要可能丢细节，后续重读证据有助补充但不保证完全恢复。
教学例子：场景为旅行、历史概况偏摄影，初始查询可更早关注轻便拍摄需求；若只是固定常量 query，当前场景要等后层才进入解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
准确率提高而ECE变差，为什么Calibration-Aware RL还要单独约束决策概率？
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：正确决策只要求最大概率类别对，校准还要求置信与真实命中频率相符。RLVR可能把已正确的选择推得过度自信，因此两项应分开测量。本地温度只由validation选择，test用于最终报告；事后校准机制并不等于原论文完整RL训练被复现。
教学例子：两模型总选同一类别，但一个每次声称几乎必对，另一个承认不确定；准确率相同不代表概率质量相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
校准温度T允许在测试NLL上选择吗？
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不允许。只在验证NLL上拟合，冻结后报告测试准确率与校准指标；测试调T会把最终评估用于选择。本地实现只覆盖校准轴和隔离协议。
教学例子：例如试遍温度看测试哪点最好，再报告该点，会高估未见数据表现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
本地温度校准与原论文完整RLVR训练有什么差别？
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：温度在已有logits上调整概率尺度，原论文训练会改变决策模型本身。两者都关注校准，但执行环节不同，不能把后处理结果称为完整训练复现。
教学例子：例如冻结模型调T，不涉及重新采样轨迹和策略梯度更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
校准感知RL中的decision token，是整段解释都正确的评分吗？
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
问答新增：2026-10-27 · University of Southern California
展开答案与例子
答案：不是。它关注承载最终决策的词元概率及其校准，不能用该概率直接评价整段推理的事实忠实性。候选决策正确与概率可信也要分别测；一个答案词元获得高概率，并不证明前面每一步解释都可靠。
教学例子：最终选项A的概率很高，只描述这次选择的信心，不能据此给此前一段可能含错误的解释全判正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
为什么只更新 rubric 字符串或对给定分数求均值，不能复现 CoReflect 的反思共演化？
CoReflect: A Reflective Co-Evolution Framework for Improving Conversational Evaluation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：核心需要语义 planner 生成情境、simulator 产生对话、evaluator 评价，再由 analyzer 依据理由发现不足并同时改任务与准则。机械状态转移只实现外壳，没有这些语义判断与真实交互证据；原方法公式用于解释流程，不能被当成本地模块已运行。
教学例子：例如分析器应发现某类同理心评价遗漏再产生新情境，手工把权重从一改成二并不会自动获得这类语义反思能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
CoReflect本地是否实现953场景和完整语义模块？
CoReflect: A Reflective Co-Evolution Framework for Improving Conversational Evaluation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：没有，目前文献收录，不强造低成本heuristic adapter。JSON状态机或对给定数字求均值不能代替真实LLM检查与对话生成，公式只解释原方法。
教学例子：例如循环次数增加不能证明评价器真的学会新判断维度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
CoReflect的persona-scenario一致性检查，与仅保证样本JSON格式合法有什么区别？
CoReflect: A Reflective Co-Evolution Framework for Improving Conversational Evaluation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：格式合法只保证字段可读，不能证明人物设定与情境在语义上相容。原文保留经过真实LLM一致性检查的persona-scenario；该筛选是任务质量的一部分。合法状态机或人为打分并不能补上缺失的语义检查与反思模型。
教学例子：字段齐全却把人物设为“无法上网”又要求其刚完成网络预约，JSON仍合法，语义一致性却需要核验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
CoReflect里的planner、simulator、evaluator、analyzer分别产生什么？
CoReflect: A Reflective Co-Evolution Framework for Improving Conversational Evaluation
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：planner组织模拟任务，simulator形成对话交互，evaluator按当前标准评价，analyzer从评价与反馈中提炼反思，再影响下一轮任务和标准。这些是语义模型职责，不是四个JSON字段；本地未用手写规则假冒这些核心模块。
教学例子：某轮对话暴露评判标准含糊，analyzer提炼问题，后续再调整rubric并规划能检验该问题的新情境。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Engram的稀疏为什么是“条件记忆”，而不是再增加一组MoE专家？
Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：MoE根据输入选择计算网络；Engram把规范化短语的n-gram映射到记忆表，确定性查表后经门控注入状态。常见局部模式可由存储补充，让计算层集中处理组合关系。查表虽然便宜，仍有表容量、哈希碰撞、带宽及融合成本，不能把存储参数都当作免费激活计算。
教学例子：常见固定短语反复出现时，可查到相应记忆向量；要判断这个短语在本句中的含义，仍需要当前上下文与后续网络，而不是只返回一条表项。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
Engram 查回的 m_t 应直接替换 h_t 吗？
Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：文档使用h′=h+sigmoid(W[h;m])⊙m，保留主干残差并按上下文门控注入。哈希桶数、n-gram阶数和新增参数训练预算都需记录；短预算大表可能尚未学好，不能忽略本地负结果。
教学例子：未训练好的记忆不应无条件覆盖原表示，gate可调节其影响。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Engram 的条件记忆，与 MoE 的条件计算主要增加了什么不同资源？
Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：MoE按路由调用计算专家；Engram按n-gram地址读取embedding记忆。前者增加条件计算容量，后者提供确定性查表路径；大表也要存储、训练和搬运，不能把O(1)查找理解为没有成本。
教学例子：调用一个神经专家处理短语，与按地址读取短语向量，是不同的操作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Engram 为什么给常见局部模式单独设一张查表记忆？
Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：静态局部模式若反复由计算层重建，会占用模型计算。Engram把规范化n-gram哈希到可学习表，查回后门控注入，让后续attention/FFN更集中处理组合关系。
教学例子：常见短语的局部表示可查表获得，而复杂的新组合仍由主干计算。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
Airbnb EBR为什么要沿搜索—浏览—预订旅程构造难负例，而不只用随机房源？
Applying Embedding-Based Retrieval to Airbnb Search
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：随机房源往往地域或条件明显不符，模型容易只学到粗差别。旅程内浏览过但未预订的房源提供更接近实际选择边界的对照，训练因此更贴合第一阶段召回；服务时还需结合地理、库存和索引更新。未预订不必然是不喜欢，所以难负例与采样口径必须一起解释。
教学例子：巴黎行程中用东京房源作负例太容易；同区域、相近价格但未预订的房源更能检验细粒度需求，同时要避免把已订满当作不相关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
Airbnb EBR 的对比损失中，难负例和合法候选应如何与目标匹配？
Applying Embedding-Based Retrieval to Airbnb Search
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：同一查询的正房源与旅程中未选的合理房源共同进入分母，使训练学会细粒度区分；目标房源必须来自该请求的正旅程，不能把别人的预订错配进来。服务索引与过滤需使用一致特征版本，本地电影代理不包含真实地理库存。
教学例子：用户看过三套同区公寓最后预订一套，另外两套可构成难负例；另一城市不可订房源即使容易区分，也不能代替全部真实竞争候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
Airbnb EBR 的流量 replay 与只在静态负例集上评估，有何候选分布差别？
Applying Embedding-Based Retrieval to Airbnb Search
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：静态负例可能过易或不反映第一阶段真实候选，离线高命中便未必迁移。replay 按真实请求与旅程重放候选和过滤口径，更接近召回器实际面对的决策范围；它仍不能替代真实线上用户反应，尤其库存与行为会继续变化。
教学例子：在随机全国房源中找对纽约房源很容易，但纽约同日期可订房源之间才是真实竞争。按请求重放能暴露后者的检索难度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
Airbnb EBR 为什么同时需要查询塔、房源塔与地理库存过滤？
Applying Embedding-Based Retrieval to Airbnb Search
问答新增：2026-10-27 · Airbnb
展开答案与例子
答案：双塔把请求与房源映到可检索空间，点积负责相关性，但相似房源可能不在目的地、不可入住或库存已变。索引提供快速候选，地理与库存约束保证候选在当前请求可服务；这两类条件不能仅靠语义模型记住。
教学例子：模型判断一套海边公寓很符合用户，但它在另一座城市且日期已满。相关性高不代表可订，过滤仍应在当前库存口径下执行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
PROMISE 为什么在 SID 中间路径就给奖励，而不等生成完整物品后才评分？
PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：层级生成一旦在早期走错语义分支，后续计算很可能继续细化错误方向。轻量过程奖励模型逐层评价路径，既给训练更稠密的反馈，也在推理中及早剪掉漂移 beam。增加束宽因此有机会探索更多有希望路径，但收益受过程评分可靠性与额外计算制约，束越宽并不保证越好。
教学例子：用户要登山装备，首层路径却进入家居装饰。等生成到具体抱枕才打低分会浪费后续步骤；路径评分可在粗层就淘汰它，把预算留给户外相关分支。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
PROMISE 累积过程 reward 时，为什么要定义不同前缀长度的可比尺度？
PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：越长路径自然多项相加，若与不同深度候选直接比较可能产生长度偏好；同层 beam 应共享计算口径，生成 log-prob 与 λR 也需校准。合法目录约束、重复与终止规则另行保持，不能用高 PRM 分覆盖非法物品。
教学例子：三层有三次正奖励、一层只有一次，直接跨深度比较会偏长；应按定义在同一步或有明确长度处理下比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
PRM 引导加宽 beam 与纯 likelihood 加宽，相比增加哪种判断？
PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：纯束宽只探索模型高概率路径，PRM 另提供任务过程价值，允许低一些似然但更合目标分支保留。额外评估增加计算，也可能被奖励偏差带偏。test-time scaling 是预算与质量曲线，不能说束越宽必然越好。
教学例子：热门路径概率高但偏题，另一条略低却语义对；PRM 可改变保留集合，若它也只爱热门，加宽仍可能围绕同一错误区域。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PROMISE 中 SID 前缀对应什么候选范围，为什么剪掉前缀会排除一整批物品？
PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：层级 SID 像目录地址，前缀确定共享该路径的物品子集，后续码只能在其后继续细分。因此 beam 上一个粗前缀不仅代表一条字符串，也代表一片可达候选；被剪后，其下所有未探索物品都失去本轮机会。这解释了过程评分错误为何可能造成大范围漏召。
教学例子：首层“摄影”下面有相机、镜头和配件；若首层被误剪，即使某个镜头非常适合用户，后层也不会再看到它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
HarmonRank为什么先对齐各任务的名次，而不是直接融合未经处理的预测概率？
Rethinking Multi-objective Ranking Ensemble in Recommender System: From Score Fusion to Rank Consistency
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不同目标的概率尺度与标签频率不一致，直接融合容易受校准或稀疏程度支配。可微rank-sum目标先让任务学习相对次序，再以任务间attention表示购买、评论等依赖并给出统一排序。名次对齐不保留全部绝对概率信息，适用目标和约束仍需单独检查，不能把它当通用概率校准器。
教学例子：购买率通常比点击率小很多，直接相加时点击可能压倒购买；先比较候选在各任务中的相对次序，再学习任务关系，可减少这种纯数值尺度支配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
实现 soft AUC 时，为什么 batch 内必须同时有正负样本并明确无效任务？
Rethinking Multi-objective Ranking Ensemble in Recommender System: From Score Fusion to Rank Consistency
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：排序目标依赖正负比较，只有一类标签的切片无法形成同义 AUC；需按约定 mask 或报告不可估，不能默认满分。目标间模块输入也应对应一致候选身份。可微近似的温度和采样影响梯度，不等于真实全数据 AUC。
教学例子：一批购买标签全零，不能把该任务“排序全对”记为一；应标记无可比较 pair，避免它误导第二阶段目标融合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
目标间 self-attention 与固定加权融合，相比如何处理冲突目标？
Rethinking Multi-objective Ranking Ensemble in Recommender System: From Score Fusion to Rank Consistency
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：固定权重预设全局取舍，attention 可依据目标表示学习依赖与条件组合，让一个目标影响另一个的使用方式。它增加适应性，也可能让高频目标主导，必须按任务与样本检查。来源本地负结果不支持把依赖建模直接等同于更高质量。
教学例子：高点击但低购买的商品需要不同于两项都高的处理，动态依赖可表达这种条件；简单七三加权则对两类始终使用同样系数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
HarmonRank 为什么把各任务从分类分数转到名次关系？
Rethinking Multi-objective Ranking Ensemble in Recommender System: From Score Fusion to Rank Consistency
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不同目标概率尺度与基准率不同，直接相加容易让某项数值主导。可微 rank-sum/AUC 先强调任务内部相对次序，再学习目标之间依赖形成统一序。名次也会丢失绝对价值幅度，不能称为所有业务量纲都已被公平保留。
教学例子：点击率数值大、购买率很小，直接合并可能忽略购买；先比较各自谁更优可减少尺度支配，但无法单凭名次表达收益差多少。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
Podcast 多任务学习怎样借自然推广数据帮助缺少广告反馈的新播客，又为什么需要梯度平衡？
Cold-Starting Podcast Ads and Promotions with Multi-Task Learning on Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：广告与自然推广任务共享用户、内容和上下文表示，使数据较丰富任务提供基础语义与偏好信号；各任务头保留不同的预测目标。样本不平衡和目标冲突可能让强任务压过冷启动任务，因此要调整采样或梯度贡献。共享带来迁移机会，但相关性不足时也会负迁移，不能因共享数据就预设新播客必然受益。
教学例子：新播客还没有广告点击，却有少量自然推荐播放。共享编码器可先学到它适合哪些听众，再由广告任务头适配广告行为，同时限制大流量任务的梯度压制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
Podcast 两任务标签缺失时，为什么不应给另一任务填零？
Cold-Starting Podcast Ads and Promotions with Multi-Task Learning on Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：自然推广样本未必观察广告结果，缺失只是没有同义反馈，mask 对应损失而不是制造负例。共享表示仍可由可观测任务更新。数据构造、头身份与 α 记录需清楚，本地电影替代不代表真实新播客广告点击。
教学例子：用户听了自然推荐播客，并没有看到其广告，不能因此写广告未点击负例；否则模型会把缺少广告机会误学成广告效果差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
梯度平衡与仅按样本数量混合，两种训练会怎样对待小任务？
Cold-Starting Podcast Ads and Promotions with Multi-Task Learning on Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：按数量混合容易让大任务主导共享参数，梯度或权重平衡调节实际训练贡献，让稀疏广告任务仍有学习空间。过度抬小任务又可能放大噪声，需按任务验证。不能通过把所有日志重复采样就保证冷启动改善。
教学例子：一百万自然推广和一千广告样本直接拼接，后者梯度可能被淹没；适当平衡保留它的方向，但不意味着一条广告标签应无限放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Podcast MTL 中“冷启动”是完全没有内容信息，还是缺少目标任务反馈？
Cold-Starting Podcast Ads and Promotions with Multi-Task Learning on Spotify
问答新增：2026-10-27 · Spotify
展开答案与例子
答案：这里关键是新播客缺少广告点击和播放反馈，不表示标题、主题等内容也为空。共享的 user、content、context 可提供已有线索，但不能把这些线索当成已观测广告效果。区分信息缺口，才能知道迁移补的是训练信号，而非凭空生成一份真实点击日志。
教学例子：新节目已有介绍和主持人信息，却还没有广告曝光；模型能使用内容判断相近受众，但不能说它已经验证了这批人会点击该广告。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
HiGR先选语义簇再选物品，为什么还需要整页偏好对齐？
HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：层级ID降低了物品定位难度，但分别选中相关物品并不保证列表互补与顺序合理。Hierarchical Slate Decoder组织粗到细生成，ORPO再用好坏整页偏好调整组合分布。偏好反馈仍只覆盖已评估组合，不能因为有层级结构就声称长尾覆盖或页面效用必然提高。
教学例子：簇级选择都命中运动主题，生成结果却可能全是近似跑鞋；整页偏好可教模型换入袜子或训练内容，而不只是逐个奖励主题相关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
HiGR 的概率进入 logit odds 时，为什么要明确序列概率与数值边界？
HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：页面概率是条件 token 概率的联合，直接连乘易下溢，应在 log 空间按定义计算；odds 又涉及一减概率，需稳定边界处理。不能拿任意未归一分数当概率。层级码映射和重复约束也要与页身份一致。
教学例子：长页面联合概率极小，浮点乘成零后再取 log 会无穷；用稳定 log 概率保留差异，但不能随意换成长度均值而不说明目标变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
HiGR 的 ORPO 与单纯页级 SFT，偏好证据怎样不同？
HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：SFT 模仿正页面，ORPO 还用胜负页的相对 odds 调整，让模型知道哪些组合更好而非仅复制一种。偏好标签与量化结构可能有偏，不能因多样性提高就宣称总体改善。来源本地 NDCG 下降，应连同头部变化一并报告。
教学例子：两页单条都相关，一页重复一页互补，偏好对给出组合差别；只学其中正页未必明确惩罚另一页，ORPO 增加了相对监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
HiGR 为什么在整页生成中先选语义簇再选物品？
HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：层级结构把大物品空间拆成粗兴趣与具体身份，页面可先组织不同簇，再细化对象，有助表达组合。粗码错误会限制后续候选，簇间覆盖也不等于相关性好。整页目标与量化质量都需检验，不能只看列表看起来更多样。
教学例子：先安排教程、工具和案例三个方向，再选具体内容；若误把用户需求归到娱乐簇，后续选再多不同娱乐项目也可能无关。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
mHC为何把残差混合矩阵约束成双随机矩阵，而不是允许任意跨流混合？
mHC: Manifold-Constrained Hyper-Connections
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：多个残差流若用任意矩阵反复混合，深层组合可能持续放大信号并破坏稳定的残差通路。双随机约束要求非负且行列和为1，让残差交换更受控，同时保留跨流沟通。约束的是残差混合部分，不能把它夸成整个含非线性分支的网络输出一定不增长。
教学例子：两个流可按0.7/0.3交换信息，另一行相应保持和为1；若每层都无约束地把两流相加，反复叠加的幅度可能快速放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
mHC 验收时，只检查混合矩阵每行和为1足够吗？
mHC: Manifold-Constrained Hyper-Connections
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：不够。还应检查非负与列和为1，才能对应双随机约束；pre/post映射也有各自约束。残差混合的非扩张性质不能直接延伸为整个非线性网络不会放大或训练必然更好。
教学例子：两行都把全部权重压到同一列，行和虽为1，列和却不满足要求。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
普通 Hyper-Connections 与 mHC 的差异，为什么不只是多加一个归一化层？
mHC: Manifold-Constrained Hyper-Connections
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：mHC直接把残差混合映射约束到非负双随机矩阵集合，同时约束pre/post非负；这限制跨流残差算子的几何性质。单独给hidden做归一化并不能替代这组矩阵约束。
教学例子：输出幅度被规范化，不等于用于残差混合的矩阵行列和都为1。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
mHC 的多条 residual stream，相对普通单流残差增加了什么自由度？
mHC: Manifold-Constrained Hyper-Connections
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：多流允许不同残差表示之间动态交换信息，再为attention/FFN形成输入并把结果写回多个流。增加的是跨流信息组织能力，但混合矩阵也可能放大深层传播，因此需要结构约束。
教学例子：两条流可以保留不同历史表示，再按当前层需要混合，而非始终压成一个累加向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么成功轨迹抽出的技能仍需要在失败时修订或淘汰？
SAGE
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：成功只说明技能在当时条件可用，新任务可能不满足同样前提。执行回报既训练检索选择，也反馈技能内容是否失效，修订与淘汰阻止错误长期累积；若库只增不减，相关但过时的技能可能持续被检索并强化错误行为。
教学例子：例如旧网站的下载技能曾经成功，页面改版后按钮路径失效，应修订或停用，而不是因历史成功继续把它排第一。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 SAGE 与 sage-planner 能因同名共享实现结论吗？
SAGE
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：不能。这里 SAGE 管理 RL 驱动技能库，另一条 sage-planner 关注符号 action gate 与后缀编辑，算法对象不同。本地本条只验证技能状态更新和预算，没有原论文大模型训练或完整 benchmark，名称相似不能补齐缺失实现证据。
教学例子：例如技能库一次修订并未执行任何符号前置条件门，不能借另一 SAGE 的 gate 测试宣称本方法全部验证。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
学习技能检索 qφ 与固定语义最近邻有什么不同？
SAGE
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：语义最近邻按描述相似选项，学习检索可用执行回报调整哪些技能真正有助任务。回报仍受环境和任务难度影响，不能把被调用后成功直接视为独立因果贡献；检索策略更新需与技能库状态和可见信息一起核查。
教学例子：例如两技能描述都像“整理文件”，实际验证更可靠的路线可得到较高学习分，而不只看共享关键词多少。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
SAGE 为什么把“会使用积累的技能”也作为 Agent 的学习目标？
SAGE
问答新增：2026-10-27 · University of Wisconsin–Madison
展开答案与例子
答案：技能文档存在不代表策略能在合适时机找到并正确使用它，甚至可能因错误匹配干扰任务。SAGE 把经验形成的技能与检索使用联系起来，让后续执行反馈影响技能生命周期。研究对象是可持续利用经验的策略，不能只以库大小或成功轨迹数量判断是否学会。
教学例子：教学例：库里有数据库迁移技能，但当前只是查一条记录；能分清何时不该调用这份技能，同样属于有效使用经验。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
RecGPT-V2 为什么用层级多 Agent 和动态 meta-prompt 替代固定多条推理链？
RecGPT-V2 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：固定推理链容易重复覆盖同一兴趣，且难随用户上下文改变分工。层级 agent 先拆解意图，压缩行为表示，再动态构造适配当前任务的提示，使不同路径有更明确职责。多奖励与 judge 进一步调整输出质量，但增加 agent 数不自动带来独立知识，仍需检查重复推理、评判偏差和服务成本。
教学例子：用户近期既准备旅行又关注摄影，系统可分别提炼出行与设备需求，再按当前请求生成综合提示；若只套三条固定模板，可能三次都复述“喜欢摄影”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
RecGPT-V2 的混合 π=Σgkπk 应如何避免路径重复被当额外能力？
RecGPT-V2 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：每路分布需在同一候选空间对齐，gate 对实际路径归一，并检查输出重复与调用成本。相同策略复制几份后加权不会增加信息。层级 memory 和动态提示若只用固定分数替代，应明确是代理，不能把数学混合当完整多 agent 执行。
教学例子：三路都返回同一十件热门物品，混合仍是同一分布；不能因为调用三次就说兴趣覆盖三倍，更需看去重后的候选和证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Agent-as-a-Judge 与真实用户反馈，相比评价偏差为何不同？
RecGPT-V2 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：judge 可快速提供语义或格式评价，真实反馈反映使用行为但也含曝光偏差；多奖励训练结合它们，不能把任何一个当全满意度真值。若 agent 同时提案和自评更可能循环强化偏见，需要独立验证。来源本地代理不证明完整生产 judge/RL。
教学例子：judge 喜欢详细解释，用户可能只想快速得到结果；奖励解释长不代表实际更有帮助，真实数据与语义评价应分开记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
RecGPT-V2 的压缩行为表示与 meta-prompt，分别是证据还是推理指令？
RecGPT-V2 Technical Report
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：压缩表示概括已观察行为，meta-prompt 指示系统当前怎样组织或利用这些证据，二者角色不同。换指令可改变关注点，却不能创造新消费事实；压缩也可能丢掉证据，指令写得再详细不能保证补回。层级 agent 应保持这种信息与控制的边界。
教学例子：同一旅行浏览摘要可配“优先探索”或“优先实用”的指令，结果取舍可变；但不能因指令要求推荐潜水，就声称用户已有潜水经历。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
Online IcePop每批只更新一次后，为什么仍不能删掉训推引擎校正？
Online IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：单次使用新鲜rollout消除了跨更新复用造成的策略陈旧，所以对应policy ratio在采样点为一，不再需要那条PPO裁剪路径。但同一权重在推理和训练引擎中仍可能给出不同概率，双侧IcePop掩码及区间内原始比率仍负责这一差异。
教学例子：刚采样的回答虽然没有过期，推理端与训练端精度仍不同；“新鲜数据”不意味着两个引擎算出的概率完全一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
怎样验证Online IcePop没有暗中复用同一批次？
Online IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：批次需要唯一身份和消费状态，第二次更新应被拒绝；一个candidate group对应一批只是本地调度代理，不包含真实并行通信或采样集群。
教学例子：例如重试回调再次送来同批数据，也不能被当作一批新鲜轨迹。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
Online IcePop与普通IcePop少掉的是哪种校正？
Online IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：少掉重复更新引入的stale-policy ratio与PPO clip，保留训推双侧mask和区间内原比值。若仍多轮优化同一批，就不能沿用纯在线设定的简化。
教学例子：例如省略PPO比值的前提是调度改变，而不是单删一行公式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Online IcePop为什么要求一批rollout只更新一次？
Online IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：单次更新避免同一批被反复利用产生额外策略陈旧，使更新起点的policy ratio为一；它仍保留训练与推理引擎数值失配校正，并非所有比率都消失。
教学例子：例如新批次用完就丢，不再拿已更新策略对旧批次做第二轮。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
MiniRL为什么把训推差异与policy staleness拆开，MoE Routing Replay又处理哪层不一致？
Stabilizing RL with LLMs
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：引擎数值差异与参数更新造成的陈旧是不同来源，不能用同一个未说明的比率混过去。方法对在策略部分做概率校正，对离策略更新结合裁剪，并重放rollout时的MoE路由以减少执行路径变化。概率权重和专家路径都需核对，小核诊断不代表集群验证。
教学例子：相同token在采样时走专家甲，训练重算时走专家乙，即使权重刚同步也会产生差异；仅调陈旧比率未必解决。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
miniRL本地状态核能证明真实MoE集群稳定吗？
Stabilizing RL with LLMs
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：不能。当前验证校正、裁剪和路由状态的机制语义，未复刻大模型分布式训练。实际重放还需记录并对齐每词元路由，不能用标签字段替代真正执行。
教学例子：例如日志写着replay，不表示前向计算已经按记录的专家路径运行。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
MoE Routing Replay与普通ratio clipping各解决什么？
Stabilizing RL with LLMs
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：路由重放约束专家执行路径的一致性，裁剪限制概率比带来的更新幅度。它们作用层次不同，裁剪并不会自动恢复曾经使用的专家分支。
教学例子：例如保留旧专家选择信息，与只把一个过大概率比压小，不是同一干预。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
miniRL为什么同时考虑训推差异和策略陈旧？
Stabilizing RL with LLMs
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：相同权重在不同引擎下也可能给不同概率，旧权重与新权重之间还存在学习漂移。两者来源不同，分解后才能为on-policy与off-policy设置合适校正。
教学例子：例如更换内核造成偏差，与模型训练后概率改变，不能都归因于同一个旧模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
多数投票为什么还必须接受任务 verifier 检查，而不能把一致答案直接当真？
Agent0
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：多个执行者可能共享同一错误先验，投票提高一致性却不提供独立事实保证。可验证任务用外部规则判断候选答案，课程再按当前能力边界升级；若生成器或投票器读取参考答案，训练闭环就变成泄漏，不能作为自主工具能力证据。
教学例子：例如五名执行者都把单位换算错成同一数值，票数很高仍是错误；verifier 应按任务合同检查，而非按赞同人数决定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
Agent0 的任务 verifier 能把内部解法或 Gold 直接返回给执行者吗？
Agent0
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：评测和执行输入应只含公开任务条件，隐藏参考留给验证侧；否则课程成绩混入答案泄漏。还需核对生成任务可执行与反馈来源，不能用mini-suite饱和成功率冒充大模型自进化。
教学例子：任务生成器若把标准动作序列夹在执行prompt里，成功不再证明自主求解。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
多 Agent 多数一致，与独立 verifier 通过提供的是同一种证据吗？
Agent0
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：一致性衡量候选是否相同，verifier检查它是否满足任务；共同错误也可形成多数。群体候选不能自我证明正确，课程升级也不能只以投票一致作为能力已提高。
教学例子：五个Agent都输出同一个错误结果，投票仍一致，但verifier应判失败。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Agent0 为什么让任务生成 Agent 与多个执行 Agent 组成课程？
Agent0
问答新增：2026-10-27 · University of North Carolina at Chapel Hill
展开答案与例子
答案：可验证任务可自动产生训练机会，多个执行候选提供群体反馈，再按当前能力边界提高任务难度。零人工数据不代表没有成功标准，verifier仍是课程质量的重要约束。
教学例子：执行者普遍掌握一类任务后，生成者再提出稍难但可验证的新任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
把每次交互记录成独立 transition，为什么有助于切换 token 或 step 级信用？
Agent-R1
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：状态、动作和下一观察的边界被显式保存，优化器可选择在生成细节或环境步层面归因，而不把所有文本混成一段。可插拔上下文管理处理可见历史，但不能悄悄改变转移语义；工具结果属于环境，不能因统一记录就自动进入策略动作损失。
教学例子：例如一次查询返回长表格，transition 仍只有一项实际查询动作；训练可按步给信用，或只对查询的生成 token 细分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
Agent-R1 的 transition 日志怎样避免把下一观察误当当前动作可见信息？
Agent-R1
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：需保留s_t、a_t、o_{t+1}的时间边界，policy生成a_t时不能提前读取o_{t+1}。优势递推也需按episode终止截断；本地机制状态更新不等于真实多卡Agent训练。
教学例子：工具尚未调用时，策略输入中不能已含它稍后才返回的结果。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
token-level 与 step-level 信用只是改一个 loss 名字吗？
Agent-R1
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：不是。它们对齐的决策单位、价值边界和动作长度处理不同；显式transition使这些选择可审计。若仍混淆工具observation与策略响应，换优化器名字不会修复数据边界。
教学例子：一个由20个token组成的工具动作，可以对应一个环境step而非20次环境反馈。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Agent-R1 为什么把 Agent 与环境的每次交互单独记录？
Agent-R1
问答新增：2026-10-27 · University of Science and Technology of China
展开答案与例子
答案：独立transition把状态、动作及下一observation显式绑定，便于插拔上下文管理和环境接口，并选择token或step级训练信用，而非把整段聊天只当一条文本样本。
教学例子：一次工具调用及其返回可成为清楚的一条训练记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
DualGR为什么分别路由长短期兴趣，而不是把全部历史拼成一条序列？
DualGR: Generative Retrieval with Long and Short-Term Interests Modeling
问答新增：2026-10-27 · USTC / Kuaishou Technology
展开答案与例子
答案：短期兴趣反映当前意图，长期兴趣提供稳定偏好，两者可能在不同请求中权重相反。双路由器让模型按状态融合两种生成分布，前缀约束保证输出可对应物品，曝光感知项再抑制热门码垄断。分成两路本身不能保证分工，仍需检查路由是否坍缩以及两路是否学到不同信息。
教学例子：用户平时爱旅行，今天集中购买厨房用品；短期路应响应当下需求，长期路则保留旅行兴趣，不能让漫长旧历史把最近明显变化完全淹没。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
DualGR 为什么不能直接融合两套列顺序不同的 item 概率？
DualGR: Generative Retrieval with Long and Short-Term Interests Modeling
问答新增：2026-10-27 · USTC / Kuaishou Technology
展开答案与例子
答案：两路必须对同一 item 身份赋值后才能按 gate 相加，码表与候选顺序需对齐；合法前缀也要映到实际可服务对象。曝光项应使用训练可用口径，不得从测试未来热门度构造。本地代理仍不代表生产动态路由全部细节。
教学例子：短期第一列是相机、长期第一列是童装，直接加总虽不报维度错，却没有概率含义；先按物品 ID 对齐才可融合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
双路由与固定指数时间衰减，相比多出什么自由度？
DualGR: Generative Retrieval with Long and Short-Term Interests Modeling
问答新增：2026-10-27 · USTC / Kuaishou Technology
展开答案与例子
答案：固定衰减预设旧事件影响随时间变化，双路可学习不同的统计规律并按请求切换，适应非线性兴趣变化。代价是更多参数与门控校准，短期可能追噪声，长期可能过时。机制灵活性不构成对所有数据效果更好的证据。
教学例子：一次偶然点击可保持低短期权重，连续强需求则提高它；单个衰减常数较难同时表达这两种触发条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
DualGR 为什么保留短期与长期两份生成分布？
DualGR: Generative Retrieval with Long and Short-Term Interests Modeling
问答新增：2026-10-27 · USTC / Kuaishou Technology
展开答案与例子
答案：即时需求与稳定偏好时间尺度不同，单一压缩可能让历史数量最多的方向占主导。两路分别学习，再由 gate 动态混合并施加合法前缀与曝光约束。分布混合不是新增两份重复向量，也不保证自动识别所有新兴趣。
教学例子：长期摄影兴趣仍重要，今天连续出现婴儿用品需求也应独立保留；模型可调整两路比例，而不让多年摄影次数总是压过近期信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
OneTrans 为什么把行为 token 放在非序列字段之前，并让两类 token 使用不同参数共享方式？
OneTrans: Unified Feature Interaction and Sequence Modeling with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：因果顺序允许后面的字段读取此前全部行为，同时行为状态不依赖后置候选字段，因此可复用用户侧计算。行为 token 语义同质，适合共享 QKV 与 FFN；异构字段含义不同，使用位置专属参数保留差异。金字塔逐层缩短行为查询降低后层开销，但缓存复用仍受时间窗口、参数版本和依赖关系约束。
教学例子：历史点击序列先编码，后面再放用户属性和候选商品字段。换一个候选时，之前的行为表示可复用；候选字段读取同一历史，却通过自己的参数解释价格与品类。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
OneTrans 的 NS 顺序与 causal mask 为什么决定可见信息？
OneTrans: Unified Feature Interaction and Sequence Modeling with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：S 放在前使后面的字段可读历史，S 不读后置候选从而公共可复用；不同 NS 位置之间可见性仍依具体掩码，不可假定任意全交互。跨请求 cache 还需检查历史、时间编码和参数版本，不由同一 user ID 自动有效。
教学例子：候选在历史后能查前缀，若把它移到前面，后续历史可能读到候选，缓存条件随之改变，不能只移动数组不改契约。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
OneTrans 的 pyramid S queries 与每层保留完整序列，相比在哪减少成本？
OneTrans: Unified Feature Interaction and Sequence Modeling with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：后层只保留较少近期行为查询，减少输出与后续交互预算，较早历史可通过先前状态或合法 K/V 提供信息。它不是从输入开始完全丢远史，也不是所有层不再有历史依赖。来源小数据高头部集中说明架构正向不等于泛化质量获证。
教学例子：浅层读较长历史，深层重点更新近期查询；若第一步直接截掉全部远史，就没有同样的信息整合机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
OneTrans 为什么让 S-token 共享参数、NS-token 使用位置专属参数？
OneTrans: Unified Feature Interaction and Sequence Modeling with One Transformer in Industrial Recommender
问答新增：2026-10-27 · ByteDance
展开答案与例子
答案：行为事件语义相近，适合共用序列变换；用户、候选等异构字段角色不同，专属参数保留差异。两类统一在因果序列交互，不代表它们变成同质词。更多专属容量也有成本，字段顺序变化须同步参数映射。
教学例子：所有点击事件可共用 QKV，年龄与商品价格则不必用同一 FFN；若字段交换位置却仍沿旧参数，会把价格当年龄处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
IcePop区间外token的更新归零，和把ratio裁到最近边界有什么不同？
IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：裁剪会保留边界权重下的贡献，掩码则直接放弃该token本次策略梯度。IcePop用固定双侧区间排除过大和过小的训推比，区间内仍使用原始校正权重，避免把它们全部改成一。它过滤的是失配程度，不是在判断token内容好坏。
教学例子：某token的训推比极小，单侧上截断几乎不处理它；双侧掩码会排除，而非给它补上一个最小边界权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
IcePop要避免把训推比与policy比写成同一个量吗？
IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：需要。前者描述引擎差异，后者描述当前与采样策略差异，mask只针对规定的训推比。当前候选核未实现真实MoE路由或异步集群。
教学例子：例如把新旧策略变化拿来做引擎mask，会误删正常学习导致的概率改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
IcePop的mask与TIS截断在越界样本上有何不同？
IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：IcePop越界项本次梯度归零，TIS对大比值截到上限后仍保留贡献；区间内IcePop使用原比值，不统一改成一。二者偏差与保留策略不同。
教学例子：例如过大比值在一种方法仍有封顶权重，在另一种方法直接不参与此次更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
IcePop为什么也要屏蔽非常小的训推比？
IcePop
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：单侧上截断只控制巨大权重，严重偏小也可能反映引擎失配，继续保留会给不可靠梯度。双侧区间选择保留可信范围，并不把区间外比值拉回边界。
教学例子：例如训练概率远低于服务概率，也不能因权重小就认定没有问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
CRSD为何让同一学生比较有reasoning和无reasoning的输入，而不是上线时始终携带推理链？
From Reasoning LLMs to BERT: A Two-Stage Distillation Framework for Search Relevance
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：reasoning视图提供更丰富的关系线索，普通视图对应实际低延迟服务输入。自蒸馏与对比目标把丰富视图的判断压入学生，使其不依赖每次生成推理文本；标签监督继续约束任务正确性。若教师理由含答案泄漏或两种视图在服务时分布不一致，蒸馏损失下降也未必意味着有效迁移。
教学例子：训练时给商品相关性学生看一段属性比较理由，再要求无理由输入也作出相近判断；上线只给查询和商品，不必为每个候选额外生成一段解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
CRSD 上线时若仍把 reasoning r 拼进输入，为什么偏离了蒸馏目标？
From Reasoning LLMs to BERT: A Two-Stage Distillation Framework for Search Relevance
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：来源让普通路径 pS(·|x) 学习增强路径 pS(·|x,r)，目标正是移除在线推理依赖。服务再要求 r 会恢复额外成本，也无法说明普通路径已学会。验收需分别检查训练增强损失与无理由推理输出，本地代理结果不能证明完整领域 LLM 训练。
教学例子：把测试样本先送大模型生成理由，再给学生评分，测到的是增强链路；只给原始 x 的结果才对应预期的轻量服务路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
CRSD 的对比式自蒸馏与单纯从外部 teacher 拟合 logits，有什么学生共享关系？
From Reasoning LLMs to BERT: A Two-Stage Distillation Framework for Search Relevance
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：这里同一轻量学生在两种输入视图下形成分布，对比目标还约束表示关系，减少单靠外部教师尺度不匹配的影响。共享不等于没有教师噪声，推理增强数据仍可能错误。两视图的梯度与停止路径需按实现核验，不能只称“自蒸馏”便推断无偏。
教学例子：同一小模型读普通商品信息和附加理由各算一次，学习两者保持一致；这不同于另一个大模型直接给固定分数，后者没有共享学生参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
CRSD 为什么让 reasoning 作为训练期增强视图，而不是永久服务依赖？
From Reasoning LLMs to BERT: A Two-Stage Distillation Framework for Search Relevance
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：推理文本能提供更丰富监督，但实时生成成本高。学生同时面对普通输入与带推理输入，自蒸馏将增强视图的分布知识迁到普通路径；线上只用后者。推理的价值通过训练留下，不能保证学生保存了完整推理过程或解释忠实性。
教学例子：训练时用“用户要轻便通勤”解释辅助判断商品，服务只输入当前特征快速打分；无需每次先写一段长理由再选候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
PLUM 为什么把视频变成层级 SID 并继续预训练语言模型，而不是继续扩大 ID embedding 表？
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：巨型 ID 表把参数花在逐物品记忆上，新物品难共享知识，也不能充分利用大语言模型的网络容量。层级 SID 把输出分解为可组合的码，CPT 再把行为与文本、ASR 和元数据接入语言模型，随后学习 next-SID。线上直接束搜索生成候选，但 SID 的语义与协同质量仍决定路径是否适合推荐。
教学例子：新增一条烘焙视频时，独立 ID 只能从少量点击起步；若它拥有与已有烘焙内容共享的粗粒度码，生成器可先复用主题知识，再在细码上区分具体视频。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
PLUM 的 progressive masking 为什么只重构前 r 层码字和，而不是随机打乱层？
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：残差层有粗到细累积顺序，随机深度训练要求各前缀本身有用，强化层级；任意打乱破坏残差含义。SFT prompt loss 屏蔽只监督目标 SID，catalog trie 保合法。prompt 文字也计 loss 则变成不同目标，不能无说明替换。
教学例子：有时只用粗码重建，有时用粗细码一起，促使首层承载主题；把第三层残差单独当首码，不再是同一渐进层级。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
PLUM 的随机初始化与 LLM 初始化四组消融，为什么要再交叉有无 CPT？
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：只比较预训与随机会混入初始化和继续训练差异，四组分别检查两因素及其相互作用。来源本地 CPT 降 loss 却没提高 Recall，LLM 初始化组甚至零命中，不能把收敛改善当最终检索成功或普遍 scaling 证据。
教学例子：随机无 CPT、随机有 CPT、LLM 无 CPT、LLM 有 CPT分别运行，才能知道是语言初始化帮助，还是额外训练预算作用，而非合并成一个原因。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PLUM 为什么用行为与 SID—元数据混合 CPT，而不只微调下一物品码？
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
问答新增：2026-10-27 · Google DeepMind / YouTube
展开答案与例子
答案：行为序列教消费转移，SID 与文本、ASR 等元数据连接离散地址和语言语义，CPT 将预训语言知识适配到推荐世界，之后 SFT 再专注召回。两类语料配比会影响能力，loss 更低并不保证搜索目标更准。
教学例子：模型既学“这串码是一部露营教程”，也学用户看完后常选什么；只背下一码可能保留协同却无法利用内容常识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么看教程视频需要学习逆动力学，而不是把前后截图差异直接当成鼠标动作？
Watch and Learn: Learning to Use Computers from Online Videos
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：视觉变化可能来自滚动、键盘输入或程序响应，仅像素差无法唯一确定操作。逆动力学模型在前后屏幕上预测动作类型、坐标与文本，再把推断串成轨迹供检索和训练；这些标签仍是模型估计，不能把规则恢复或随意猜动作冒充已训练的 IDM。
教学例子：例如页面向下移动可能由滚轮也可能由按键触发，动作模型需结合画面与监督区分，而非看到内容下移就硬填一次点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
动作、坐标和输入文本为何不能用一个简单规则头代替？
Watch and Learn: Learning to Use Computers from Online Videos
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：原文用动作分类、离散到 0–1000 的坐标分类及 GPT-2 small 文本自回归头，配合 SigLIP-2 和四层 Transformer。三项损失未披露额外权重就不能补造；本地只有资料与成本审查，无 IDM、语料下载或桌面评测。
教学例子：例如能从鼠标位置差猜点击的规则，不会自动学会从两张截图恢复输入文本，更不能替代联合训练的 IDM。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
视频示范检索与用标注轨迹监督训练分别改变什么？
Watch and Learn: Learning to Use Computers from Online Videos
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：检索在当前上下文提供相关演示，不改执行模型参数；SFT 将轨迹模式写入参数。两者都依赖 IDM 标注质量，不能把视频数量直接当正确动作样本数，也不能仅凭相同标题宣称已经完成真实桌面学习。
教学例子：例如同一教程可被放进 prompt 作为范例，也可用于离线训练，但部署成本与错误传播路径不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
Watch and Learn 为什么尝试利用网上教程视频，而不只依赖昂贵的操作轨迹标注？
Watch and Learn: Learning to Use Computers from Online Videos
问答新增：2026-10-27 · The Ohio State University
展开答案与例子
答案：教程视频含有真实软件操作过程，但通常没有机器可直接学习的点击坐标、按键和动作序列。该工作研究把可见演示转成计算机使用训练材料，扩大数据来源。画面本身不是动作真值，遮挡、录制剪辑和输入文本缺失都会影响转化质量与后续执行。
教学例子：教学例：教程显示文件从一个窗口移到另一个，训练前仍要辨别发生了拖动还是复制命令，不能只凭截图差异编一个点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么编排记忆与执行记忆分开，更容易重新组合到新任务？
LEGOMem
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：任务分解与委派描述高层依赖，具体动作模板描述如何落地工具调用，把它们混成整段轨迹会绑死人员和环境。分层后可复用分解结构并替换执行单元；只有经过验证的单元准入，拼接后仍要检查接口与前置条件，不能任意积木化。
教学例子：例如“收集、核对、汇总”流程不变，但某次从数据库读取、另一次从文件读取；编排可复用，底层执行模板可替换。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地 reused_plans 是否验证了真实多 Agent Office 委派？
LEGOMem
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：没有。本地从可验证结构化计划提取 action/domain 单元，分别复用高层和细粒度动作，没有真实 Office 应用、LLM 委派或完整错误恢复。复用计数只证明过程单元被调用，不是 OfficeBench 的执行成功或真实工具成本。
教学例子：例如规则把同一子计划用了一百次，不代表模型能在实际文档和邮件应用间正确分派并完成任务。
依据：核心公式与算法、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
过程积木重组与整条轨迹检索有什么泛化取舍？
LEGOMem
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：整轨迹保留一次执行完整上下文，却可能被具体任务绑死；过程单元可按新需求重新拼接，也容易丢掉跨单元前提。可组合性需要合法依赖和验证，不能因单元单独成功就假定任意组合都正确。
教学例子：例如读取表格单元和邮件发送单元各自可用，组合时仍须确认收件人和数据权限，不能盲目串联。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
LegoMem 为什么关注由多个步骤和角色组成的重复工作流？
LEGOMem
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：办公等任务常共享部分流程，但目标和参与角色会变。LegoMem 希望保存可重新组织的程序性经验，让新任务复用合适步骤，而不是只能照搬一次完整执行。拆分后的单元仍要保留依赖与上下文，否则看似可拼装的步骤可能缺少输入，无法实际完成工作。
教学例子：教学例：周报和项目简报都需要收集数据与核对来源，但审批对象不同，可复用收集步骤，再为当前任务重新编排交接。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
组合水印检查所有循环相位，为什么仍可能漏掉整周期删除？
Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：循环相位检测避免位置整体偏移就破坏匹配，但周期结构本身也产生盲区：删除完整周期可能保留相位与局部模式。全局检测与局部编辑提示须用独立校准阈值控制误报，不能把硬模式诊断外推为软水印完美定位。本地未运行完整模型编辑矩阵。
教学例子：例如周期为红蓝红蓝，删去完整一轮后余下仍与某循环相位吻合；这类编辑可能难以发现，而非把阈值调高就必然解决。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
局部 E(t) 到文本边缘时，能补零并继续按同一检测合同算吗？
Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：文档只在完整interior t=w−1到T−w定义局部统计，不补零边界、不改分母。还要检查所有循环相位，保留整周期删除的不可检测负控，而非声称所有删除必被发现。
教学例子：缺少完整覆盖窗口的开头位置，不应因人为补零被误标成编辑。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
全局 D 与局部 E(t) 的阈值判定，能互相替代吗？
Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：全局均值用于判断整段是否有水印，局部覆盖窗口均值用于提示可能编辑位置；统计范围和阈值方向不同。阈值还需独立校准控制误报，不能用硬pattern样例推导软水印安全保证。
教学例子：整段全局通过，也可能有一小段局部得分低；局部低并不自动精确定位全部编辑。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
组合水印为什么按周期 pattern 给不同词表分区加偏置？
Detecting Post-generation Edits to Watermarked LLM Outputs via Combinatorial Watermarking
问答新增：2026-10-27 · University of Minnesota
展开答案与例子
答案：生成时按当前tag轻微改变相应分区的logits，使序列出现可统计的周期结构；检测器再检查窗口对任意循环相位的匹配，用于水印与潜在编辑诊断。
教学例子：AB周期控制偏置分区，检测并不要求观察文本正好从周期第一个位置开始。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
Autorater输出一个置信概率后，为什么不能把奖励梯度直接穿过文本解析器？
Judging with Confidence: Calibrating Autoraters to Preference Distributions
问答新增：2026-10-27 · Google
展开答案与例子
答案：实际策略先生成概率文本，解析后得到冻结奖励，再用策略梯度更新；文本到浮点的解析没有普通连续反传路径。Brier和对数奖励鼓励校准预测，非法输出走独立惩罚分支。对数值概率求导只检验评分规则，不能据此宣称已完成GRPO训练。
教学例子：模型输出“可信度很高”而非约定格式的概率，应按解析失败处理；不能偷偷改成一个合理数值再把它算作有效预测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
概率裁判生成NaN或区间外数字时，为什么不能先套评分公式再乘零掩码？
Judging with Confidence: Calibrating Autoraters to Preference Distributions
问答新增：2026-10-27 · Google
展开答案与例子
答案：非法值必须先分流，合法概率才进入平方或对数计算。NaN经过非线性后再乘零仍可污染损失，区间外数字也不具有偏好概率含义。原方法为解析失败单独规定奖励；本地严格标签解析器只是接口约定，不代表作者解析器或完整RL训练。
教学例子：文本解析成NaN时直接走invalid奖励分支，不能先算log(NaN)，再希望有效性mask把它擦掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
Brier与对数奖励处理置信错误的方式有何不同？
Judging with Confidence: Calibrating Autoraters to Preference Distributions
问答新增：2026-10-27 · Google
展开答案与例子
答案：两者都可用于概率校准，但平方误差与对数惩罚的尾部形状不同，极自信错误在对数规则下尤其敏感。原方法还为解析失败定义单独奖励，不能只比较合法数字的数学梯度。
教学例子：例如预测几乎必胜却实际落败，两种规则均惩罚，但幅度随概率变化的曲线不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
概率裁判为什么输出偏好概率，而不只输出胜者？
Judging with Confidence: Calibrating Autoraters to Preference Distributions
问答新增：2026-10-27 · Google
展开答案与例子
答案：不同样本可存在真实偏好分歧，概率允许表达不确定程度。Brier或对数奖励鼓励预测匹配偏好频率，而非只压向零一；这依赖监督分布可靠，不意味着任意自信数字都校准。
教学例子：例如评审意见接近均分时，报告中等概率比武断宣布绝对胜者更能表达分歧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
衡量模型自评偏差时，为什么先逐segment排名，并把自身从peer均值排除？
When LLMs Benchmark Themselves: Deconstructing Self-Bias in Automated Evaluation
问答新增：2026-10-27 · Google
展开答案与例子
答案：不同segment的原始分数尺度可能不同，先各自排名再平均，才能保持协议定义的比较。自评位置减去不含自身的peer结果，避免把同一个自评分混回对照。分数方向、轴顺序和并列约定都影响符号；peer共识也不是外部真值。
教学例子：某指标越低越好，另一个越高越好，若不先统一排名方向，会把优势读成劣势；自评对照中也不应再次加入自身。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
计算自评bias时，轴顺序与leave-self-out为什么不能弄错？
When LLMs Benchmark Themselves: Deconstructing Self-Bias in Automated Evaluation
问答新增：2026-10-27 · Google
展开答案与例子
答案：先按每个片段排序，再沿片段平均，最后以对角自身减去排除自身的同伴均值。需声明分数越高或越低越好；负bias表示更有利自排名，不能因习惯把负值解释成更差。
教学例子：例如MetricX-QE越低越好，若直接按降序排，偏差方向会被整个翻转。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
自评优势与模型真实更强，如何在这个协议中区分？
When LLMs Benchmark Themselves: Deconstructing Self-Bias in Automated Evaluation
问答新增：2026-10-27 · Google
展开答案与例子
答案：协议比较同一目标在自身benchmark角色和其他角色下的排名差，尝试分离目标质量与自角色偏好。其他裁判也可能共享偏差，因此该差值是相对审计证据，并非完整能力判决。
教学例子：例如某模型在所有裁判下都靠前，与只在自己评分下突然领先，是不同观察模式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
自评偏差表中的target与benchmark-role分别是谁，哪一格才算自评？
When LLMs Benchmark Themselves: Deconstructing Self-Bias in Automated Evaluation
问答新增：2026-10-27 · Google
展开答案与例子
答案：target是被评价的模型，benchmark-role是用于评价它的模型角色；两轴相同时才是自评的对角格。固定同一个target，再比较自身角色与其他角色，才是在观察评价者变化，不能把不同target的成绩差直接叫自评偏差。
教学例子：模型甲回答、模型乙评价是非对角格；甲回答并由甲评价才是对角格，二者的被测对象应保持甲。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
IntSR怎样同时处理显式搜索词和没有搜索词的推荐意图？
IntSR: An Integrated Generative Framework for Search and Recommendation
问答新增：2026-10-27 · Alibaba / Amap
展开答案与例子
答案：显式查询给出当前表达，隐式会话历史补充未说出的需求，两者共同推断潜在意图，再以统一物品或POI词表生成结果。时间上下文帮助区分需求是否仍有效，减少搜索与推荐之间的语义割裂。统一词表不意味着可以忽略查询约束，也不能把旧会话中的兴趣当成用户现在明确提出的要求。
教学例子：用户搜附近咖啡，历史显示偏好安静环境，模型可同时利用二者；若只是浏览推荐，则从会话推断需求，但不能把昨日地点当成今日仍然有效的位置。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
IntSR 实现无 query 场景时，怎样避免和空字符串真实搜索混淆？
IntSR: An Integrated Generative Framework for Search and Recommendation
问答新增：2026-10-27 · Alibaba / Amap
展开答案与例子
答案：应按模型契约使用缺失标识或对应分支，使搜索存在性清楚；时间条件只能来自请求时刻，目标 POI 不得进入潜意图估计。两入口共享 item 身份但不意味着共享所有标签。来源电影核心代理不能检验真实位置和营业限制。
教学例子：没发起搜索与主动提交空白查询可能有不同日志含义，不能都无说明编码成同一字符串，再把差异全交给模型猜。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
IntSR 的潜意图混合与直接拼接 q、h 做打分，有何可解释分解？
IntSR: An Integrated Generative Framework for Search and Recommendation
问答新增：2026-10-27 · Alibaba / Amap
展开答案与例子
答案：混合写成先估意图分布再按意图和时间生成物品，将不确定的多种需求显式保留；直接拼接可隐式表达但未必形成同样结构。潜变量不保证具有人类固定含义，输出更可分解也不代表真实意图已被识别。
教学例子：“周末活动”可能指徒步或展览，先保留两种意图概率再选地点，比强行当作唯一类别更自然；但概率仍只是模型估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
IntSR 为什么把显式 query 与隐式 session 意图合到同一物品空间？
IntSR: An Integrated Generative Framework for Search and Recommendation
问答新增：2026-10-27 · Alibaba / Amap
展开答案与例子
答案：搜索词明确但可能省略背景，会话行为丰富却不直接表达当前请求，共同估计意图让搜索与推荐利用互补证据。统一词表避免两个入口输出身份割裂，时间再刻画漂移。没有查询时应有定义的缺失路径，而非伪造用户说过的话。
教学例子：用户只搜“附近”，历史显示最近找素食，可共同推断餐饮需求；无搜索入口则依会话推荐，不应随便补一条不存在的真实 query。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
OnePiece 的块级潜在推理与递进多任务权重，为什么比一次性相加所有任务损失更有区别？
OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking
问答新增：2026-10-27 · Shopee
展开答案与例子
答案：块级更新让上下文条件下的中间状态经过多步残差变换，而不是只在末端接多个头。递进权重再控制各训练阶段由哪些任务主导，使共享表示逐步适应召回、点击和价值目标。关键在更新路径与收敛顺序，不是仅增加任务数；本地代理机制不能证明潜在状态具有可验证的语言推理过程。
教学例子：先让表示学会区分相关与无关商品，再逐渐提高购买价值目标权重。相较从第一步就同时强推所有目标，这种安排意在减少早期难任务对基础相关性学习的干扰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
OnePiece 的 H(k+1) 残差更新与 αt(k) 调度，应怎样分别验收？
OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking
问答新增：2026-10-27 · Shopee
展开答案与例子
答案：前者是当前上下文条件下表示逐块更新，后者是训练阶段的任务权重，两种 k 必须按实现定义避免混淆。需看到中间状态传递与实际 loss 权重变化，而不是只在结果表写课程名称。本地固定 scorer 的机制范围不能自动扩展到完整级联训练。
教学例子：增加网络块数不意味着训练权重已递进，调整 loss 也不意味着潜状态多步更新；两条路径需要各自的配置与日志证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
递进任务权重与从第一步固定等权训练，相比影响什么学习顺序？
OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking
问答新增：2026-10-27 · Shopee
展开答案与例子
答案：固定权重始终同等施压，递进方案随阶段调任务贡献，让基础相关性与较难价值目标分步收敛。先后可能减少某些冲突，也可能遗忘早期目标，需分阶段指标核验。来源代理结果不支持任意课程都优于固定权重。
教学例子：早期先学区分无关商品，后期提高价值权重，避免稀疏交易信号过早主导；若后期完全抛弃相关性，也可能学出高价却无关列表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
OnePiece 为什么同时覆盖召回、点击和价值目标？
OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking
问答新增：2026-10-27 · Shopee
展开答案与例子
答案：级联各阶段本来接收不同监督，独立优化会失去共享线索；统一上下文与潜在块更新尝试让表示承接多种需求，再通过递进目标安排学习。多目标仍有冲突，潜在状态不能因叫 reasoning 就视为已验证的语言推理。
教学例子：先理解商品是否相关，再区分是否点击和可能价值，两类知识可互补；但高点击不一定高购买，不能把所有标签合成一个不加区分的正例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
DRL-PUT学习的是推荐物品本身，还是多个utility分数的组合方式？
Deep Reinforcement Learning for Ranking Utility Tuning in the Ad Recommender System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：动作是相关性、CTR、CVR等分数的权重配置，策略依据请求状态决定如何组合已有预测器。这样可以在不替换所有底层模型的情况下适配业务取舍；离线利用日志策略概率校正动作分布差异。若某些权重在历史中几乎没被采用，就缺少可靠反馈支持，不能凭离线大权重宣称线上最优。
教学例子：同一批广告已有点击与转化分，策略可对探索型请求更重相关性，对明确购买请求更重转化；变化的是决策组合，而非重新生成所有广告表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
计算 DRL-PUT 的 π/μ 时，日志中的动作身份为何必须和概率一一对应？
Deep Reinforcement Learning for Ranking Utility Tuning in the Ad Recommender System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：实际执行配比、行为概率、上下文与 reward 要保持同一事件配对，否则重要性权重失去含义。μ 为零时没有支持，不能以任意小常数假装可无偏外推；基线 b 也不能读取测试结果。只存最终列表不足以还原完整离策略更新。
教学例子：执行七三配比却记录四六配比的概率，会给错误梯度倍数；即使 reward 和列表都真实，也无法修复这一动作日志错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
DRL-PUT 的离策略更新与直接拟合日志中最高 reward，有何分布区别？
Deep Reinforcement Learning for Ranking Utility Tuning in the Ad Recommender System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：日志动作来自 μ，目标策略 π 的选择频率不同，概率比试图校正这种差别。忽略它会偏爱旧策略常试的动作。校正要求动作支持与可靠记录，极端比值也增加方差，并非对所有混杂自动免疫；本地公开代理不等于真实广告随机日志。
教学例子：旧系统几乎总用高 CTR 权重，多数高 reward 自然也来自它；这不证明其他配比无效，还需要知道各动作实际获得多少机会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
DRL-PUT 为什么把 utility 权重当动作，而非直接生成物品？
Deep Reinforcement Learning for Ranking Utility Tuning in the Ad Recommender System at Pinterest
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：已有 CTR、CVR、相关性和收益模型继续提供候选分数，策略只决定当前请求如何组合，动作更受控也便于接入。反馈评价权重诱导出的列表结果，不能直接解释成每个物品的独立因果贡献。该方法改变配置策略，不是重建所有评分器。
教学例子：相同候选三份分数可由七二一或四三三权重产生不同排序，策略选择配比；商品表示和底层点击网络可以保持不变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OneRec-V2 为什么只监督最新曝光，并让所有 decoder 层共享一次生成的上下文 K/V？
OneRec-V2 Technical Report
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：最新曝光监督把训练目标集中到请求末端，避免为每个历史位置重复做完整目标解码。Context Processor 一次产生可被多个解码层复用的上下文 K/V，Lazy block 再按需交互并生成短 SID。它减少的是历史编码与逐层缓存的重复成本；后训练的真实反馈对齐是另一条改动，不能把全部效果归给共享 K/V。
教学例子：用户有很长历史，当前只需要预测最新请求的三层物品码。先把历史处理成一份共享记忆，解码各层重复读取它，比每层各自重新构造整段历史缓存更节省。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
DARS 分位数为何必须在同用户、同时长桶内计算，GBPO 分母又为何 detach？
OneRec-V2 Technical Report
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：分位数用于比较类似观看机会，跨用户或跨时长会混入习惯与长度；分母 stop-gradient 避免反传穿过限制项改变预期更新。显式 dislike 的负优势与其他零优势分开。训练标签只在后训练侧，不能作为当前请求输入。
教学例子：十秒与十分钟视频的三十秒观看不可直接排同一分位；分母若也跟概率求导，公式看着相同，实际梯度就不是原定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
GBPO 的动态分母与 PPO clipping，为什么不是同一限制写法？
OneRec-V2 Technical Report
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：PPO 截断概率比区间，GBPO 按优势符号使用不同停止梯度分母，限制更新幅度的机制不同。把它改写成常见 clip 实现会丢定义性行为。来源本地反馈加权概率不是 NDCG 或线上收益，也不是三种子都正向。
教学例子：正优势与负优势使用不同分母，改变当前概率时梯度响应不一样；统一套一个正负对称 clip 不能仅凭名字叫策略优化就视为等价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OneRec-V2 为什么用真实播放与负反馈代替额外 reward model？
OneRec-V2 Technical Report
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：后训练直接利用用户行为减少另训奖励器的成本与误差传播，DARS 校正时长机会，GBPO 控制正负更新。行为仍是代理且有偏，不能因标签真实就当满意度真值。省去奖励模型也不意味着后训练不需约束或数据校准。
教学例子：长视频播放多秒可能只是时长大，先在用户和时长桶内比较，再给正优势，比直接把所有长看当高满意更谨慎。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
MPFormer 的 objective token 如何让同一段历史产生面向不同目标的召回表示？
MPFormer: Adaptive Framework for Industrial Multi-Task Personalized Sequential Retriever
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：目标 token 与历史一起进入序列模型，为编码过程提供当前任务条件，所以同一用户可以形成面向不同行为目标的表示。动态权重和候选配额再根据任务难度调整训练与检索资源。它共享主干却保留目标差异，代价是各目标的权重和配额需要校准，不能把多个目标当作完全相同的下一物品预测。
教学例子：同一段浏览历史，点击目标更关注新奇内容，购买目标更关注近期反复比较的商品。切换目标 token 后，模型可以从同一历史中提取不同信号并分配候选数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
MPFormer 的 qm(h) 在训练加权与候选配额中，为什么要记录具体使用方式？
MPFormer: Adaptive Framework for Industrial Multi-Task Personalized Sequential Retriever
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：连续训练权重和推理候选数是不同对象，前者归一后乘 loss，后者需转换成合法整数并满足总预算。任务空标签应 mask，不能用默认零伪造监督。仅在分数上混合几路代理不等于 objective-conditioned 共享模型实际训练。
教学例子：训练权重零点三不自动对应三十个候选；总预算十时还要定义取整与余量，否则任务集合变多就可能超支。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
MPFormer 动态配额与每任务固定 K，相比服务预算怎样变化？
MPFormer: Adaptive Framework for Industrial Multi-Task Personalized Sequential Retriever
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：固定 K 对所有任务投入相同候选数，动态配额依难度或上下文分资源，可能让困难任务有更多覆盖，也可能挤占其他目标。权重归一不自动保证实际整数预算守恒。来源公开代理不能证明工业多行为目标均受益。
教学例子：点击目标候选易找可少分一点，稀疏购买多给检索机会；若任务难度估错，额外预算也可能浪费而非带来价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
MPFormer 为什么用 objective token 区分召回目标？
MPFormer: Adaptive Framework for Industrial Multi-Task Personalized Sequential Retriever
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：不同反馈需要同一历史的不同切面，objective token 在编码时声明当前任务，使主干共享而输出有条件差异。任务难度进一步影响容量和候选预算。token 只是接口，不能把任务名称与真实标签含义混同，缺少监督时也无法凭空学会目标。
教学例子：同一用户点击喜欢新鲜、购买偏可靠，两种 objective 可形成不同表示；若训练只有观看标签，就不能仅换 token 宣称学会购买。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
模拟用户消息为什么和工具结果一样，不应计算为 Agent 的策略 token loss？
MUA-RL
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：这些文本由环境侧用户策略或工具产生，Agent 无法直接选择它们，拿来监督会混淆动作与条件。把用户放进 rollout 能训练澄清与需求变化下的决策，但最终奖励应评价任务完成，而非奖励模型复述模拟用户；模拟分布也不等于真实用户全部行为。
教学例子：例如用户中途把日期改到周五，Agent 应据此重排，而不被训练成自己生成“改到周五”这句用户话。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
MUA-RL 的模拟用户能直接暴露场景内部的完整隐藏目标给 Agent 吗？
MUA-RL
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：应按交互协议只逐步提供用户可说出的信息，不能把模拟器私有参考或完整解法直接交给策略。loss还只覆盖Agent响应；本地确定性用户和mini工具不是外部LLM或生产数据库。
教学例子：模拟用户只在被澄清后补充限制，而不是开头附上全部标准工具调用序列。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
动态用户模拟与把工具结果当唯一环境反馈，有什么任务差异？
MUA-RL
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：用户消息会改变或澄清目标，工具结果主要反映执行后状态。两者都是环境输入，但作用不同；只重复静态工具轨迹无法覆盖需求持续变化的交互策略。
教学例子：工具说操作成功，用户却进一步说明想要另一种结果，Agent仍需继续理解需求。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
MUA-RL 为什么把用户也放进动态 rollout，而不只使用开头一条请求？
MUA-RL
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：真实用户可能澄清或修改意图，策略需根据新需求调整工具行动。方法让模拟用户与Agent交互，再用最终任务完成奖励学习整个过程，而不是把用户输入视作固定不变。
教学例子：用户在第二轮增加限制，Agent需要据此改变后续工具参数。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
CHORD为什么在RL过程中逐渐减小专家监督，而不一次性切掉SFT？
CHORD
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：专家数据可在探索初期提供稳定方向，但长期过强模仿会限制新策略；动态退火结合词元不确定性权重，让监督与探索平滑交接。它仍需控制专家与当前策略的分布差异，不保证混合必然优于分阶段。本地专家候选只是代理，未训练词元不确定性模型。
教学例子：例如学生开始解题时保留教师步骤指导，逐渐熟练后更多依靠任务奖励；不是到某一步突然完全忘掉专家，也不是始终固定等权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
CHORD本地gold candidate能代表真实token不确定性模型吗？
CHORD
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不能，只是确定性专家代理，未训练LLM词元不确定性。实现需分别记录专家off-policy数据与学生rollout，按规定退火，不能把专家答案泄露到学生评估输入。
教学例子：例如固定候选标签没有提供真实长文本每个位置的不确定估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
CHORD与PIVOT按问题切换是否同一机制？
CHORD
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：CHORD混合目标并退火辅助监督，PIVOT按教师困惑度把问题路由到不同目标。作用粒度和调度依据不同，不能只因都从模仿走向RL就视为等价。
教学例子：例如一法同题可同时承受两项，一法按规则选择该题走哪条分支。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
CHORD为什么让SFT辅助项在RL中逐渐退火？
CHORD
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：早期专家示范提供稳定方向，后期过强模仿可能限制探索。动态权重和词元不确定性使两种信号平滑交接，避免阶段突然切换带来的过拟合或遗忘。
教学例子：例如一开始多学标准步骤，熟练后让任务奖励有更多决定权。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GPPO前向仍像PPO，为什么越界token却能保留反向信号？
GPPO
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：前向裁剪值和反向导数可以通过stop-gradient构造分别指定。GPPO保留PPO形式的数值目标，同时用边界权重恢复原本被截平象限的更新，避免正样本探索和负样本学习同时中断。仅比较loss数值看不出差异，必须检查梯度路径。
教学例子：两个算子打印同一个裁剪后分数，但一个越界时梯度为零，另一个仍有边界加权梯度；训练行为会不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GPPO测试应该只断言clipped loss数值相等吗？
GPPO
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：不够。还需在越界优势象限检查梯度是否保留，并与普通PPO的零梯度区分；stop-gradient边界要明确。本地未训练原文长CoT模型。
教学例子：例如正优势且ratio越上界的输入，是检验恢复反向路径的针对性负控。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
前向损失相同为什么训练更新仍可能不同？
GPPO
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：自动微分图可通过stop-gradient改变导数而不改当前数值。GPPO的关键就是前反向分离，因此只比较loss日志无法判断是否实现其机制。
教学例子：例如两函数当前都输出同一数，detach分支会让它们对参数的导数不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GPPO保留的是PPO哪类原本被清零的信号？
GPPO
问答新增：2026-10-27 · Alibaba Group
展开答案与例子
答案：普通clip在正优势高比值和负优势低比值区域可能切断梯度，GPPO尝试保持相同前向数值却恢复这些反向信号，避免直接停止相关学习。
教学例子：例如失败样本概率已降低很多时，仍可能需要继续学到如何远离它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
核心机制
GLiClass运行时可以换候选标签，为什么不能退化成只看文本的固定分类器？
GLiClass: Generalist Lightweight Model for Sequence Classification Tasks
问答新增：2026-10-27 · Knowledgator
展开答案与例子
答案：候选内容参与评分，才可能在运行时改变标签集合；只对文本输出固定类别编号无法理解新增标签描述。候选交互后形成统一分布，也减少逐候选调用与生成解析开销。本地双线性或中心化打分只验证这两个机制，没有加载完整GLiClass权重或复刻训练。
教学例子：例如同一句咨询在账户标签集合与信用卡标签集合中需要不同选择；新增标签要带语义描述，不能只给一个训练时没见过的编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
实现细节
本地GLiClass的rival-centered版本中心化了什么？
GLiClass: Generalist Lightweight Model for Sequence Classification Tasks
问答新增：2026-10-27 · Knowledgator
展开答案与例子
答案：中心化的是同一问题的候选表示，再与状态交互评分，而不是用其他请求的候选作均值。它只验证候选相对交互，未加载原论文权重或复现PPO流程。
教学例子：例如退款与物流候选共享自己的中心，不能掺进另一张工单的标签向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
方法对比
GLiClass动态候选打分与逐对cross-encoder怎样区分？
GLiClass: Generalist Lightweight Model for Sequence Classification Tasks
问答新增：2026-10-27 · Knowledgator
展开答案与例子
答案：逐对方法对每个文本标签组合分别推理；该接口集中处理候选并统一输出分布，改变调用与归一化方式。本地轻量交互核并非完整Transformer，因此不能从次数直接推断真实速度。
教学例子：例如十个标签不必被理解为十次独立语言模型调用；具体吞吐仍看实际实现。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
结构化决策 / 类型化读出：从生成句子到候选分布
基础理解
GLiClass运行时提供的新标签，是新增一个分类器输出神经元吗？
GLiClass: Generalist Lightweight Model for Sequence Classification Tasks
问答新增：2026-10-27 · Knowledgator
展开答案与例子
答案：不是。标签作为输入文本参与当前请求的打分，变化的是本次候选描述与集合，而不是为每个标签手工扩展一套固定输出权重。因而标签身份应由内容承载；新增描述能否被理解仍需验证，接口允许换标签不等于自动具有任意领域知识。
教学例子：把候选“退款咨询”换为“物流催单”，应传入新的标签内容，而非只改一个永远固定含义的类别编号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
从目标答案反推轨迹为什么只适合数据生成侧，而不能作为评测 Agent 的输入？
ToolGrad: Efficient Tool-Use Dataset Generation with Textual Gradients
问答新增：2026-10-27 · Google
展开答案与例子
答案：反推利用已知答案构造候选工具链，textual gradient 再定位失败调用并修订，目的是减少训练轨迹标注。评测若把目标答案传给行动者，就已经泄漏任务目标值，不能衡量独立取证；训练数据的构造信息与部署时可见信息必须明确分开。
教学例子：例如训练侧已知某城市人口，可反查需要哪些 API；测试时 Agent 应只接到人口问题，不能同时拿到参考数字再安排搜索。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 answer-first 与去重 edit 的证据能覆盖 ToolGrad-12B 和 BFCL 吗？
ToolGrad: Efficient Tool-Use Dataset Generation with Textual Gradients
问答新增：2026-10-27 · Google
展开答案与例子
答案：不能。本地只执行反推路线和去重文本修订 reference，未训练 12B 模型或运行 BFCL。必须保留答案仅训练侧可见、执行结果真实且失败不回填的边界；状态转换通过不等于生成数据质量和下游工具能力已提升。
教学例子：例如同一错误参数被改两次后去重，可验证编辑规则，却没有证明模型能为未知 API 自动生成正确训练轨迹。
依据：核心公式或操作、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
textual gradient 与数值梯度在修订失败调用时有何区别？
ToolGrad: Efficient Tool-Use Dataset Generation with Textual Gradients
问答新增：2026-10-27 · Google
展开答案与例子
答案：textual gradient 是用语言指出参数、工具或顺序问题，再生成文本修改，不是对离散调用直接做可微反传。它依赖反馈质量与真实执行验证，不能因名称有 gradient 就声称完成端到端参数优化，也不能用修订文字代替重跑。
教学例子：例如反馈说“日期格式错误”后把参数改成标准格式，这是文本编辑；是否修好还要实际调用并检查返回。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
ToolGrad 为什么关注生成高质量工具调用训练轨迹的成本？
ToolGrad: Efficient Tool-Use Dataset Generation with Textual Gradients
问答新增：2026-10-27 · Google
展开答案与例子
答案：多步工具任务需要正确接口、参数和结果衔接，人工示范昂贵，模型直接生成又可能积累调用错误。ToolGrad 研究在数据构建侧利用目标反馈修订轨迹，为后续学习提供可执行样本。训练构造时可见的目标不能偷渡给评测 Agent，否则不再是在未知答案下使用工具。
教学例子：教学例：构造数据时可检查查询是否通向预定结果并修订参数；测试时 Agent 应自己获得证据，不能先读标准答案再挑查询。
依据：背景与主要改动、核心公式或操作；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
TIS为什么只上截断训练与推理概率比，而保留小权重样本？
TIS
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：比率用于把rollout引擎采样校正到训练侧分布，特别大的权重会带来重尾方差，上截断限制其支配程度。小比率表示该样本在目标侧贡献较小，仍可保留相应权重。它不是PPO的新旧策略比，也不等于双侧丢弃失配token。
教学例子：一个旧引擎常采到、训练侧罕见的词应少贡献，而不是自动删除；极大的反向失配则需限制其单个样本影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TIS权重应使用哪个引擎概率作分母？
TIS
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：分母是实际生成轨迹的rollout引擎概率，分子是对应训练侧概率；随后还可有独立policy ratio。当前本地用确定性扰动模拟数值差异，未测真实vLLM/FSDP。
教学例子：例如把分子分母倒过来，会把应降低的样本权重反而提高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
TIS为什么只上截断而不像IcePop两侧丢弃？
TIS
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：上截断控制重尾大权重，同时保留小权重贡献；双侧mask则会删除两种方向严重失配。两者保留策略不同，不能把TIS低权重也置零后仍称原公式。
教学例子：例如很小ratio在TIS里仍有小贡献，而不是自动被判无效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TIS为什么在权重相同的训推引擎之间仍有用？
TIS
问答新增：2026-10-27 · University of California, San Diego
展开答案与例子
答案：精度、kernel等数值差异可让采样分布与训练侧重算分布不一致。TIS用两者概率比修正策略梯度，处理的是执行实现差异而非额外任务奖励。
教学例子：例如同一参数在两套计算路径下给出略不同的词概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原始资料 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
训练与执行分离为什么不仅是把日志写到另一台机器？
Agent Lightning
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：统一 transition 合同把框架行为转成可归因的 MDP 数据，训练侧据此计算回报与优势，执行侧可继续使用原有工具编排。若日志缺状态动作边界或混入环境 token，物理分离也无法得到正确策略更新；架构解耦不自动证明任何具体 Agent 已提升。
教学例子：例如同一工具框架输出查询动作和结果，训练器只读取规范转移即可更新；不能把未经切分的整份聊天日志直接当动作序列。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地 Agent Lightning 的真实测试 reward，更新的是哪种 policy？
Agent Lightning
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：文档代码sandbox用测试退出码给patch分配credit，更新受控patch policy并按bug family复用；不是对LLM参数执行LightningRL。应分别检查命令/编辑/测试事件、实际reward及记忆消费。
教学例子：测试失败能改变后续patch选择，却不能据此声称大语言模型权重已完成RL训练。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
执行/训练解耦与仅异步收集日志，有何能力差别？
Agent Lightning
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：解耦还需把轨迹映射成可训练transition、分配credit并把更新后的策略交回执行；异步日志只解决记录与传输。没有真实消费更新的执行路径，就不能宣称闭环已接通。
教学例子：日志不断增加，但下一轮始终使用旧策略，不构成训练影响执行的循环。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Agent Lightning 为什么先把执行事件转换成统一 transition？
Agent Lightning
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：不同Agent runtime的日志形式不同，统一MDP transition与credit拆解可让训练侧理解状态、动作和回报，从而把执行框架与策略训练解耦，而不只是换日志存储位置。
教学例子：一次代码编辑后测试失败，应能绑定到该次patch动作及其状态，而非只留下孤立文本日志。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SaviorRec 为什么冻结 SID，却用零初始化 MBA 码本学习行为残差？
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：先用行为监督训练内容编码并量化，得到可迁移的语义骨架；部署后若直接重写 SID，会影响码的稳定性和历史映射。MBA 从零开始按同一离散码学习当前行为空间的残差，初始不扰动原表示，再逐步适配行为变化。目标与历史双向交互用于 CTR，但稳定编码也可能限制对大幅分布变化的响应。
教学例子：一类露营内容的语义码保持不变，季节变化使用户偏好从夏季轻装转向保暖。残差可调整该码当前的行为表示，而不必让所有内容重新换一套编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MBA为什么从全零码本开始，双向target注意看什么？
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：零起点初始不扰动冻结语义，随后按SID索引学习残差；target查询历史、历史也接收target条件。目标不能泄露未来行为标签，需区别双向交互与时间未来可见。
教学例子：例如target候选可参与匹配，不表示模型能看用户之后真实点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
SaviorRec用行为正对训练内容encoder，与只按内容自身相似性组织表示有何不同？
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：行为正对把平台交互关系作为监督，让内容空间朝推荐需求调整；纯内容相似可能只保留图文表面接近。监督来源不同，并不表示行为标签天然没有曝光偏差。该步骤发生在量化前，不能只增加一个下游残差就宣称已完成内容encoder的行为训练。
教学例子：外观不同但经常共同被用户选择的商品，行为正对可拉近其表示；只看图片相似未必建立这种联系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SaviorRec为什么先用行为监督训练内容encoder？
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：通用图文语义相似不等于平台共点共购偏好，SaviorEnc用真实交互把内容空间转向推荐需求，再离散SID。冷启动仍依赖内容可用与训练覆盖。
教学例子：例如外观相似商品未必服务同一消费需求，行为可补充这种差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
核心机制
Mechanistic ETM为什么用SAE encoder构造主题概率，却用独立decoder做steering？
Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders
问答新增：2026-10-27 · Columbia University
展开答案与例子
答案：encoder把主题方向映射到特征激活概率，服务于计数的二项似然；decoder则把特征组合映回残差空间，服务于干预，二者不能隐式绑权。steering还需移除原有平行分量后注入指定强度，直接加向量会保留未知旧强度。本地公式核不含完整大模型主题实验。
教学例子：例如主题涉及几个稀疏特征，先估计它们出现概率，再用解码方向修改残差；若直接拿编码权重当解码方向，即使维度相容也改变了机制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
实现细节
ETM steering 的 strength=0，是否表示完全不改 activation？
Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders
问答新增：2026-10-27 · Columbia University
展开答案与例子
答案：不一定。文档先移除已有平行分量，再注入λs并加回decoder bias；λ=0仍会去掉原平行分量。它不是简单a+λs，且steering使用独立decoder，不能绑成encoder权重。
教学例子：原activation已沿主题方向投影很大，λ=0会删除该方向而非保持原值。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
方法对比
feature 计数为什么用 Binomial，而不能先归一化成普通 multinomial 词袋？
Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders
问答新增：2026-10-27 · Columbia University
展开答案与例子
答案：每个feature在每token最多激活一次，但一个token可涉及多个feature，计数并非互斥词类别总数。按Ntokens形成独立feature计数模型，与把总计数强制归一化成词袋，是不同似然。
教学例子：同一token同时激活两个feature时，feature计数和可以超过token数量。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 能力证据：评测采样、读出与可靠性
基础理解
Mechanistic ETM 为什么以 SAE feature 而非词项作为主题观察？
Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders
问答新增：2026-10-27 · Columbia University
展开答案与例子
答案：它用稀疏激活方向描述文档概念，主题经冻结SAE encoder形成feature概率，再拟合文档比例与feature计数。可解释对象因此是模型内部方向，不只是高频词列表。
教学例子：不同表面词可激活相近概念feature，而同一词在不同语境中也未必代表同一主题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么当前工作流必需工具必须优先于近期性或历史成功率被保护？
MemTool
问答新增：2026-10-27 · PricewaterhouseCoopers Commercial Technology and Innovation Office
展开答案与例子
答案：启发式保留分数反映过去使用情况，却可能低估接下来尚未调用的必需工具。先保护工作流依赖，再在其余工具中淘汰低分项，才能避免执行中途失去关键接口；如果必需集合本身超过容量，也不能靠静默截断假装工作流仍完整。
教学例子：例如归档任务最后才需上传工具，它近期没用过但仍是必需步骤；不能只因低近期性把它从当前上下文删掉。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
近期性与历史成功率的加权分数，应怎样参与非保护工具的淘汰？
MemTool
问答新增：2026-10-27 · PricewaterhouseCoopers Commercial Technology and Innovation Office
展开答案与例子
答案：先限定候选为当前工作流保护集之外的工具，再按 λ 近期性加上一减 λ 的成功率计算保留分，淘汰其中最低者。权重调节近期需求与过往表现的取舍，不是重新定义保护集合。本地使用确定性工具描述，分数和淘汰计数不能换算成真实网络工具的完成率。
教学例子：教学例：两个可淘汰工具中，一个刚用过但常失败，另一个较久未用但可靠；λ 决定偏向，当前流程必需工具不参加这次排名。
依据：核心公式与算法、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
autonomous、workflow 与 hybrid 管理工具描述，决策依据有什么不同？
MemTool
问答新增：2026-10-27 · PricewaterhouseCoopers Commercial Technology and Innovation Office
展开答案与例子
答案：autonomous 让 Agent 自主决定保留或移除，workflow 利用当前流程需要的工具，hybrid 将流程保护与其他工具的动态管理结合。它们区别在于决策自由度和结构约束，不能仅按移除率判断好坏；省下描述却丢失必需接口，任务仍会失败。
教学例子：教学例：Agent 自主删掉很少用的支付接口，当前流程却即将付款；workflow 信息能指出它的必要性，hybrid 再处理其余工具。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
工具描述为什么也需要有界动态记忆？
MemTool
问答新增：2026-10-27 · PricewaterhouseCoopers Commercial Technology and Innovation Office
展开答案与例子
答案：大量 MCP schema 与说明会占上下文，全部常驻影响成本，静态截断又可能删掉正在使用的工具。MemTool 将当前工作流必需项设为保护集，再管理其他描述，重点是保留可执行所需接口；移除率高本身不是成功目标。
教学例子：例如当前流程要先查订单再退款，即使退款工具最近没调用，也不能在中途因近期性低被淘汰。
依据：背景与主要改动、核心公式与算法；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GSPO为何先平均token log-ratio再指数化，而不逐token各裁一次？
GSPO
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：完整回答接收一个结果奖励，逐token异常可能引发不一致裁剪。GSPO把平均log-ratio变成单个序列权重，让整条回答共享相对优势与裁剪决定。它缓和局部噪声，但改变了信用聚合粒度，也不能因此推断所有长度偏置或MoE路径差异已经消失。
教学例子：一段正确回答只有一个词的ratio异常，逐词裁剪与整段共享一个几何平均权重，会给出不同的更新分配。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GSPO的clip应逐token执行还是按响应执行？
GSPO
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：规定对每条响应的单一序列比clip，整条共享权重。有效响应mask决定长度，不能计入padding；本地候选没有真实词元轨迹，也未复刻MoE路由与集群。
教学例子：例如先把各词元裁剪再取平均，通常不会得到先平均再裁剪的同一结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GSPO几何平均序列比与真正序列概率比相同吗？
GSPO
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：不相同。前者对log-ratio取长度平均，后者是求和后指数，即词元比连乘。平均改变长度尺度与目标定义，不能把它描述成只为避免溢出的同值计算。
教学例子：例如重复同一个小偏移很多步，连乘会累积放大，几何平均保持平均程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GSPO为什么让完整响应共享一个重要性比？
GSPO
问答新增：2026-10-27 · Alibaba Qwen Team
展开答案与例子
答案：终局奖励在序列级给出，词元局部异常可能导致零散裁剪。平均词元log-ratio后形成序列比，把更新决策提升到完整响应层，减少局部比值主导。
教学例子：例如一个罕见词偏移很大，不必直接决定整条长回答所有位置分别怎样被clip。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RLCR输出答案再报置信，为什么需要proper scoring rule而不是只奖励答对？
Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：二元正确奖励不区分恰当谨慎与盲目自信，模型即使经常出错也可能报高置信。proper评分规则把预测概率与结果共同计分，在其假设下激励诚实概率。训练与报告应分开准确性和校准；本地Brier梯度实验不是论文完整rollout强化学习。
教学例子：一个答题器对不熟悉的问题总说“完全确定”，仅按对错奖励未必纠正这句话；概率评分会让无根据自信付出代价。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
本地RLCR的Brier梯度应覆盖哪些类别？
Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：对完整softmax候选分布与one-hot目标计算多类平方差并反传，不只针对选中类别或展示置信值。hybrid还组合CE；未运行论文检查点RL。
教学例子：例如未被选中的类别仍分走概率质量，也应参与分布评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
RLCR与训练后仅显示一个confidence字段有何区别？
Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：字段若不进入目标就没有校准学习压力，RLCR把合适评分规则加入奖励。本地Brier与hybrid是机制实现，不能据此声称原文rollout栈已执行。
教学例子：例如界面写出九成信心，不代表模型曾因信心不准受到训练惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RLCR为什么让模型同时输出预测和置信度？
Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty
问答新增：2026-10-27 · Massachusetts Institute of Technology
展开答案与例子
答案：只奖励答对不能约束报出的概率是否诚实，proper scoring rule把概率与结果一起评价，让真实概率在相应假设下获得最优期望激励。
教学例子：例如知道自己常错时报告中等信心，比一律宣称确定更符合校准目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
RankMixer 为什么设置 head 数 H 等于 token 数 T，并要求隐藏维度可整除？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：每个输入 token 被等分为 H 个长度 D/H 的片段，混合后得到 H 个长度 TD/H 的新 token。取 H=T 才恢复 T×D 形状，能与原输入直接做残差相加；D 也必须能被 H 整除。这里是张量布局条件，不是注意力头的语义约束，随意换 token 数却保留原 reshape 会改变或破坏结构。
教学例子：四个64维 token 各拆四份，每份16维；同号四份拼接后仍是四个64维 token。若改成三个 head，64无法等分，原样重排和残差就不成立。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
固定TokenMix没有学习权重，为什么后面的独立FFN仍能学到跨字段交互？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：TokenMix先按head切开每个输入token，再把各输入的同号片段拼成新token，让不同字段的信号进入同一个非线性FFN。学习发生在混合后的专属变换中，而非动态相似度权重；原文取head数等于token数并要求维度可整除。它替换字段交互，不意味着序列模块也应取消attention。
教学例子：用户、商品和场景各拆三块，同号块被送到一起；FFN可联合判断其中的年龄、品类和时段关系，固定搬运本身不需要先计算相似度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
RankMixer 的 per-token FFN 参数是对应原字段还是 TokenMix 后的位置？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：FFN 接收的是重排后 token，每个位置含所有原 token 的同号 head，因此专属参数服务混合子空间，而非永远一套只管年龄、一套只管价格。输入字段 token、head 和输出位置需正确对应；旧字段名称不能直接解释所有深层专家语义。
教学例子：四字段各取第一片拼成新 token，一号 FFN同时看四字段片段；说它只处理第一个原字段，就误读了真正信息流。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
RankMixer 的 ReLU 路由和双路由 DTSI 分别解决什么问题，为什么只做稀疏 top-k 不够？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：ReLU 加稀疏正则允许不同 token 激活不同数量专家，处理固定 top-k 分配预算过于僵硬的问题。DTSI 另设训练与推理路由，稀疏正则只加在推理路由上，使专家训练不因稀疏选择长期饥饿。两者分别控制动态激活和专家训练覆盖；本地稀疏路径尚不能视作原文双路由方案的等价验证。
教学例子：信息复杂的 token 可用更多专家，简单 token 少用；训练时仍给较少被选专家足够学习机会。若从头只更新固定少数专家，其余专家即使参数很多也可能一直没有学好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
RankMixer 本地 Dense 对 Shared FFN 的大提升，为什么不能全归无参数 TokenMix？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：两组本来都执行 TokenMix，主要差异含共享与混合 token 专属 FFN，并且参数量明显不同。比较支持该缩比配置变化，不能隔离重排本身；稀疏组又未追平 dense。公平结论应同时说明预算、头部偏置与 sparse 差距。
教学例子：两辆车都有同样传动器，换更大独立引擎后提速，不能全说传动器发明有效；本地数值也不能替原文 MFU 与生产 A/B。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
RankMixer 去掉的 attention 到底是哪一部分，序列输入还能用注意力吗？
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：替换的是异构字段 feature interaction，输入的行为序列可先经独立序列模块处理，该模块不必去掉 attention。TokenMix 将字段通道重排后交给独立 FFN 学关系。将论文称为整个系统完全无注意力会忽略前置序列建模和特征来源。
教学例子：历史先用序列注意力提取摄影兴趣，再与价格、候选字段进入 RankMixer；字段交叉无 QK 注意力，不代表第一步也被禁止。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
ARGUS先预测feedback token再预测物品，和直接预测下一个物品有何差别？
Scaling Recommender Transformers to One Billion Parameters
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：直接next-item把消费对象与反馈类型混在一个目标里。ARGUS将联合概率拆为先判断用户会产生何种反馈，再在该条件下选择物品，使多种反馈共享主干却保留条件差异；推理时预测反馈不能偷读真实未来行为。本地对应消融出现负结果，因此不能把这种分解视为必然更优。
教学例子：同一历史既可能接着长看纪录片，也可能快速划走短视频；先区分预期反馈，再选对象，表达的是联合行为，而不是只猜物品名字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
ARGUS 本地比较中，为什么要区分 DIN 与 next-item-only 两个基线？
Scaling Recommender Transformers to One Billion Parameters
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：DIN 是统一跨模型参照，next-item-only 则隔离是否加入反馈分解。两者回答的问题不同：前者比较整体模型，后者检查定义性模块。本地两种口径都未验证收益，不能挑较好的一种数值，把反馈分解本身的负结果隐藏掉。
教学例子：即使某整体模型接近 DIN，也可能是其基础骨干较强，新增反馈路径反而退化；只有同骨干去掉该路径的对照才能识别模块变化。
依据：本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
ARGUS 的条件分解与简单增加一个并行反馈辅助头，有何信息流区别？
Scaling Recommender Transformers to One Billion Parameters
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：并行头可给共享主干额外监督，但物品头未必使用反馈预测。ARGUS 的分解要求物品分布显式以反馈为条件，改变生成路径而非只改变损失数量。反馈预测错误会传给物品选择，因此需要分别检查反馈质量和条件物品预测，不能只看总 loss。
教学例子：一个模型同时输出“会点赞”和候选电影但两头不相连，只是多任务；若电影分布实际接收反馈 token，才会随反馈条件变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
ARGUS 把下一步分成 feedback 与 item 两部分，联合分布如何理解？
Scaling Recommender Transformers to One Billion Parameters
问答新增：2026-10-27 · Yandex
展开答案与例子
答案：先由历史估计反馈类型概率，再在该反馈条件下预测物品，两项相乘组成下一步联合分布。反馈不是事后附加标签，而是决定物品分布的一部分；训练可以用已发生反馈作监督，推理却不能提前知道用户真正会做出的反馈。
教学例子：同一历史在“点赞”条件下可能偏向有共鸣视频，在“长看”条件下偏向完整教程；上线需要模型预测或指定条件，不能偷读下一次真实动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
用户点击商品A后购买B，为什么不能把购买收益全部当成A自身转化？
Click A, Buy B: Rethinking Conversion Attribution in E-Commerce Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：点击对象和购买对象可能不同，last-click同商品归因会漏掉跨商品的影响。论文把Click-A-Buy-A与Click-A-Buy-B分成任务，并借taxonomy表示A与B的类别关系，让模型学习从入口到最终商品的不同路径。这是在改进观测归因与预测，并不自动识别A导致B购买的因果效应。
教学例子：用户先看入门相机，比较后买了更高型号；若只统计同商品成交，入口相机被当作无价值，实际上它参与了一条跨商品决策路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
CABB 本地连续观影代理应怎样记录，才不把购买标签伪造出来？
Click A, Buy B: Rethinking Conversion Attribution in E-Commerce Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：需要明确将先后观看映射为 Click-A/Buy-B 的替代任务，保留相同数据、候选与基线比较，并将结果限定在该代理。taxonomy 权重只连接对应 A、B，不能读取测试目标提前确定候选类别，也不能把公开评分解释成真实交易金额。
教学例子：报告可写“以连续观看模拟跨物品路径”，不能写“用户实际点击 A 并购买 B”；若正确答案类别只在测试后可知，它也不能进入推理输入。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
CABB 与普通 next-item 预测相比，为什么还需要区分行为类型与商品层次？
Click A, Buy B: Rethinking Conversion Attribution in E-Commerce Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：普通下一项只描述序列相邻，未必区分浏览、点击与购买，也未明确 A、B 的商品关系。CABB 的任务定义将跨商品购买路径单独监督，taxonomy 帮助组织可迁移关系。若用连续观影代理，只保留相邻关系，不等于验证真实购买归因。
教学例子：电影甲后看电影乙可模拟跨项转移，却没有广告点击和交易闭环；这能检查模型连接，不应直接称为电商归因效果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
Click-A-Buy-B 为什么把点击物品与购买物品视作可能不同的对象？
Click A, Buy B: Rethinking Conversion Attribution in E-Commerce Recommendations
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：用户可通过 A 发现需求，再因价格、规格等转向 B，购买与点击并不总是一对一同物品转化。分别学习 CABA 与 CABB 能保留自身成交和跨商品引导两种路径，taxonomy 提供它们的关系线索。观测协同仍不自动证明 A 对 B 有因果促进。
教学例子：点开一台相机后买了另一品牌，A 不是自身成交却可能参与决策；把购买只归为 A 的转化会学错商品结果，也丢失跨商品路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
PinFM 的 DCAT 为什么能保留候选早融合，同时避免每个候选重算用户上下文？
PinFM: Foundation Model for User Activity Sequences at a Billion-scale Visual Discovery Platform
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：早融合让候选在模型内部与历史交互，但把同一用户历史为每个候选重复展开会浪费大量计算。DCAT 先对去重后的上下文做一次自注意力并缓存各层 K/V，再让候选侧查询读取这些状态。复用的前提是上下文计算不依赖被替换的候选；预训练收益与这种服务优化是不同问题，本地负结果也需保留。
教学例子：一位用户有五百条历史、待评一百个候选。先算一份历史记忆，再让每个候选读取相关部分，比复制一百份历史各算一次更省，而候选仍能在层内接触历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
DCAT 全库推理为何要确认真正复用 context K/V，而非每个候选重算后丢弃？
PinFM: Foundation Model for User Activity Sequences at a Billion-scale Visual Discovery Platform
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：分解要求公共 context self-attention 一次形成缓存，候选层只计算其查询与合法候选侧部分。数值输出相同不代表效率路径相同，需检查执行次数与依赖。缓存受历史和版本约束，不能把候选相关状态误放公共区。
教学例子：循环一千个候选每次重算历史再取最后输出，可能与缓存版分数接近，却没有摊销成本；只看 NDCG 无法证明复用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
PinFM 的 scratch DCAT 与预训后微调，对照为何不同于 DCAT 对普通 Transformer？
PinFM: Foundation Model for User Activity Sequences at a Billion-scale Visual Discovery Platform
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：两组都用 DCAT 时隔离的是预训练知识增量，换结构对照才检验缓存分解或早融合方式。来源本地预训版本选择后 test 为负，不能因为 DCAT 数学保真就声称预训有效。效率与表征迁移的证据应分别记。
教学例子：两辆车同底盘，一辆先做跨域训练，差异检验训练配方；不能把结果解释成底盘优于另一种从未参与比较的结构。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
PinFM 的 next、multi、future token 目标为什么共同用于用户基础表征？
PinFM: Foundation Model for User Activity Sequences at a Billion-scale Visual Discovery Platform
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：紧邻下一项、未来窗口与从指定位置看后续分别提供不同时间粒度监督，减少只记最近行为的局限，再迁到各排序任务。辅助未来属于训练目标，不可提前输入。跨场景预训也可能负迁移，不能由基础模型称谓预设所有场景改善。
教学例子：下一次点击教即时意图，窗口多个内容教并存兴趣，较远目标补长期方向；三类标签都只用于训练，线上仍只读已发生行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
SPIRAL的出题者与解题者零和对抗，为什么仍需要可自动判定的游戏规则？
SPIRAL
问答新增：2026-10-27 · Apple
展开答案与例子
答案：对抗让双方随着对手变强而调整策略，可形成动态课程；但输赢必须由独立、明确的游戏规则决定，不能让出题者自己宣称解题者失败。零和奖励定义激励关系，不保证课程一定覆盖通用推理。本地只验证状态与目标，没有复刻大模型多轮自博弈训练。
教学例子：例如出题者设计一个规则明确的文字博弈局面，解题者尝试获胜，程序裁定结果；不能允许出题者临时改规则把任何回答判输。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
SPIRAL实现为什么必须保持两方零和奖励对应？
SPIRAL
问答新增：2026-10-27 · Apple
展开答案与例子
答案：同一结果的双方优势方向应相反，规则与角色状态需对齐；若两方都因同一获胜得正奖，就改了博弈。当前本地核未复刻大模型多轮自博弈训练。
教学例子：例如出题方获胜时，解题方不能同时被记录成同样成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
自博弈课程与固定难题库各有什么边界？
SPIRAL
问答新增：2026-10-27 · Apple
展开答案与例子
答案：自博弈随对手变化可适应，但也可能陷入局部游戏套路；固定题库覆盖清楚却缺少动态对抗。游戏中进步不能直接外推全部开放推理能力。
教学例子：例如赢了某种文字博弈，不代表数学、检索和工具任务都同步提升。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
SPIRAL为何让同模型扮演出题与解题两方？
SPIRAL
问答新增：2026-10-27 · Apple
展开答案与例子
答案：零和可判定游戏让对手变化形成动态课程，不必人工逐题增加难度。同模型角色不同仍需明确奖励与合法规则，不能让出题者自行宣布胜负。
教学例子：例如一个角色设计局面，另一个尝试破解，程序按同一规则裁决。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
CISPO裁剪的是importance weight，为什么不像PPO那样让部分越界token直接没有梯度？
CISPO / MiniMax-M1
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：它把裁剪后的比率当作策略梯度的权重，优势方向和log-prob更新仍被保留；PPO的min-surrogate则会在某些越界象限形成平坦区。两者即使采用相似裁剪区间，反向路径也不同。测试需要检查梯度，不能只比前向目标或把优势本身截断。
教学例子：一个负优势token已经很少出现，PPO可能不再继续压低；权重式裁剪仍可给它受限的负向学习信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
CISPO的裁剪比值若直接参与反传会有什么风险？
CISPO / MiniMax-M1
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：会引入额外权重导数，改变把校正权重用于策略梯度的目标。实现应核对固定rollout、权重及logp路径，不把本地机制通过写成MiniMax规模训练完成。
教学例子：例如应由当前动作logp承担策略梯度，而非同时沿用于构造权重的支路重复求导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
CISPO与普通PPO都出现clip，为什么不能当成同一目标？
CISPO / MiniMax-M1
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：PPO比较未裁剪和裁剪surrogate的较小值，CISPO用裁剪权重乘优势与logp。反向路径与越界行为不同，不能只检查clip上下界一致就判断等价。
教学例子：例如两者前向都含一个边界值，但一个切断学习、另一个仍能更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
CISPO为什么把裁剪对象放在importance weight上？
CISPO / MiniMax-M1
问答新增：2026-10-27 · MiniMax
展开答案与例子
答案：它希望限制权重幅度却保留优势方向与有效学习信号，区别于PPO在部分越界区域通过min分支直接清零梯度。关键在冻结权重与可微logp路径的分工。
教学例子：例如一个正样本权重封顶后，仍可通过logp项继续产生强化信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
MGOE显式建立任务关系图，相比MMoE的样本级gate增加了什么信息？
Macro Graph of Experts for Billion-Scale Multi-Task Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：MMoE可按样本组合专家，却未必直接表达任务之间较稳定的结构。任务图让相关目标在图底座和专家层传播信息，再由各自任务塔预测，把宏观关系与局部路由分开。图边如果估计错误也会传播负迁移，因此显式关系不等于天然正确，需要检查相邻任务及不相关任务的表现。
教学例子：点击、加购、购买有较强联系，举报可能关注另一套因素；任务图可控制长期共享路径，而不是要求每个样本的gate从零重学所有任务关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
MGOE 的归一邻接与任务索引为什么要和 expert 张量保持一致？
Macro Graph of Experts for Billion-Scale Multi-Task Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：A 的行列定义任务或图节点身份，传播 H 后的任务塔需读取正确位置；归一、自环与层数影响混合强度，不能任意换邻接仍称同算法。任务标签只用于训练，不能在测试用实际反馈重建图再评分。
教学例子：邻接第二行是购买，H 第二行却放长看表征，矩阵乘能运行但共享对象错了；检查维度不能代替节点身份对齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
MGOE 与 MMoE 独立 task gate，相比多了哪种共享归纳偏置？
Macro Graph of Experts for Billion-Scale Multi-Task Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：MMoE 通过每样本选择专家隐式共享，MGOE 又用任务图约束跨任务信息如何传播，提供更稳定结构。该偏置可帮助稀疏任务，也会传错误关系造成负迁移。来源总体改善伴随头部变化，不能据图显式就称各任务都更好。
教学例子：稀疏购买任务可沿图借点击知识，若退货任务被错误强连，也可能继承不适合的方向；独立 gate 则没有同样固定传播路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
MGOE 为什么先建 Macro Task Merging Graph，再让专家传播？
Macro Graph of Experts for Billion-Scale Multi-Task Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：样本级 gate 不显式表达稳定任务结构，图把哪些目标可共享的信息关系写入传播路径，Macro Graph Bottom/Experts 再组合后接任务塔。任务相关性可能随场景变化，图先验不必永远正确，也不能把边连接解释为因果关系。
教学例子：点击、长看与购买有不同联系，图可让相关目标交换表征；但若用一条边就认定点击一定导致购买，则超出了任务共享含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
核心机制
RADAR 为什么把本次请求后异步运行的排序结果，用作下一次请求的召回补充？
RADAR: Recall Augmentation through Deferred Asynchronous Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：完整排序器通常比召回器表达更强，却无法在实时请求中遍历全部物品。RADAR 把昂贵全库计算移到请求后，缓存高价值结果，下次与实时召回合并，使排序知识提前影响候选覆盖。代价是缓存依据上一时刻历史，可能变旧，因此需要实时通道补充新意图，不能把异步结果当作当前请求的完整最优答案。
教学例子：用户看完一次推荐后，后台用完整模型筛出一批可能喜欢的电影。下次打开时直接把这批加入候选，同时实时召回根据刚发生的新点击补充变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
实现细节
RADAR 合并 live 与 cached Top-K 时，为什么必须去重并检查当前资格？
RADAR: Recall Augmentation through Deferred Asynchronous Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：缓存中物品可能已下架、被消费或资格变化，旧高分不能绕过当前规则；合并要按身份去重，保留来源便于测补充贡献。缓存生成时间与历史截止也需记录，不能让下一次真实目标提前进入异步任务。
教学例子：昨天预选的房源今天已满，仍应过滤；同一电影被两路召回也只算一个候选，不能靠重复项虚增覆盖与命中。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
方法对比
RADAR 的上一请求缓存与预测未来 pair latent 的缓存，复用对象有何不同？
RADAR: Recall Augmentation through Deferred Asynchronous Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：RADAR 保存上一历史条件下筛出的候选结果，pair latent 方法预计算特定用户物品的深交互状态。两者都异步但对象、命中与失效条件不同，不能用一个缓存命中率替代另一方案成本。机制差别本身不支持效果排名。
教学例子：缓存一张电影名单与缓存用户对每部电影的中间向量不同；新请求可复用名单提名，但仍可能需要重新评分当前价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 自动研究与高效上线
基础理解
RADAR 缓存的 Top-K 已经由强排序器筛过，为什么仍只是候选而非保证展示？
RADAR: Recall Augmentation through Deferred Asynchronous Retrieval
问答新增：2026-10-27 · Meta
展开答案与例子
答案：它依据上一请求历史筛出供下次补充的对象，进入当前候选池后仍面对实时召回竞争、资格变化和当前需求。缓存高分不是展示承诺，更不是本次已观测点击。区分提名与最终曝光，才能正确计算覆盖、时效与实际下游价值。
教学例子：后台挑出一部电影，下次用户已转向儿童内容，或电影刚看完，缓存提名仍可被当前链路过滤，不能因进过 Top-K 就算一次成功展示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TransAct V2 为什么候选检索终身历史时仍保留一段原样近期行为，并增加 Next Action Loss？
TransAct V2: Lifelong User Action Sequence Modeling on Pinterest Recommendation
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：相似度检索擅长找到与当前候选相关的旧事件，却可能遗漏刚形成但尚未显式相似的新意图。保留近期分支保证即时信号可见，再用共享 Transformer 融合检索片段。Next Action Loss 让状态直接学习下一正向互动，补充 CTR 监督；检索选不中的远期事件仍不可见，服务优化也需单独验证。
教学例子：候选是帐篷，旧露营浏览被检回，同时保留最近突然关注亲子出游的行为。辅助下一动作目标促使状态理解需求变化，而不只判断当前这次曝光是否点击。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
Next Action Loss的标签可以进入当前序列输入吗？
TransAct V2: Lifelong User Action Sequence Modeling on Pinterest Recommendation
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：不可以，下一正向行为只作训练目标，当前表示只读过去；负样本也需合法。当前实现聚焦模型，未覆盖SKUT与request dedup等生产serving，不能由NAL通过推断系统吞吐。
教学例子：例如预测下一次点击时若已把它拼进历史，会使辅助loss轻易作弊。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
强制recent保留与全历史纯top-k检索有什么不同？
TransAct V2: Lifelong User Action Sequence Modeling on Pinterest Recommendation
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：前者确保新近信号不会因相似度低被滤掉，其他部分再按候选检索；纯top-k可能遗漏新兴趣。更多保留也增加成本，效果取决于候选与数据。
教学例子：例如用户刚转向新主题，旧相似度模型可能尚未把新行为排进top-k。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TransAct V2为什么把lifelong与recent历史一起用？
TransAct V2: Lifelong User Action Sequence Modeling on Pinterest Recommendation
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：近期表达即时意图，候选锚定检索从长期找相关证据，两者互补。统一Transformer再early fusion候选，不是用长历史简单替换所有实时信息。
教学例子：例如最近一次浏览可与多年前相似兴趣同时帮助当前候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
SCAR为什么保留负Shapley贡献，并只把span信用放在该段末token？
SCAR: Shapley Credit Assignment for More Efficient RLHF
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：某段文字可能降低冻结奖励模型对整体的评分，负贡献是合作价值分解的一部分，截零会破坏总量关系。span末token是其信用落点，与原顺序coalition构造共同定义奖励散布。总奖励等价还有折扣条件，局部精确枚举不能冒充大规模Owen近似或完整RLHF。
教学例子：一个多余段落引入矛盾，加入它使整体价值下降；若把这段负贡献清零，其他段落的信用总和就不再对应原奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
SCAR为什么把span credit放在末token，且保留空位顺序？
SCAR: Shapley Credit Assignment for More Efficient RLHF
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：外部RM按原顺序评分，未入选位置填空格；信用按规定落到span末位置。负值不截断，空集合价值为零，总奖守恒只承诺相应γ为一的条件，不能随意推广。
教学例子：例如删掉中间段后把两端拼成新句，会改变原先定义的coalition文本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
精确Shapley组件与论文SHAP/Owen大流程有什么边界？
SCAR: Shapley Credit Assignment for More Efficient RLHF
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：完整枚举成本指数增长，本地只接受小规模完整值表；原方法还有自适应分段和近似层次结构，不能把小枚举通过当成这些模块已实现。
教学例子：例如三个span可枚举全部组合，长回答几十段就不是同一计算规模。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
SCAR为什么考虑文本span组合的边际贡献？
SCAR: Shapley Credit Assignment for More Efficient RLHF
问答新增：2026-10-27 · McGill University
展开答案与例子
答案：一个片段的价值依赖其他片段是否存在，Shapley对不同组合的增益加权，尝试分配终局奖励。贡献可以为负，不能把所有出现过的片段都视为有益。
教学例子：例如一段解释只有与前提一起出现才有价值，单独评分可能误判其作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
INTUITOR的self-certainty能直接换成负熵吗，KL方向为什么重要？
INTUITOR
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：原文self-certainty使用均匀分布到下一词分布的KL，即KL(U||p)，与KL(p||U)或负熵不同，对全词表低概率区域的敏感性也不同。本地采样候选log-ratio是另一种诊断，不能当成原文token级实现。内部置信提供学习线索，不意味着答案已经正确。
教学例子：两个分布最高概率相近，但一个给其他词极小概率；不同KL方向会以不同方式放大这种尾部差异，不能随意互换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
当前intuitor源码是否实现了原文全词表self-certainty？
INTUITOR
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：没有。采样候选logp加logN作为奖励，诊断还是相反方向KL(p||U)，缺少逐词元全词表KL(U||p)。历史指标应保留诊断身份，不能因README公式已修就宣称源码升级。
教学例子：例如改正文档方向不会自动改变训练分支，测试候选奖励仍是另一对象。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
INTUITOR的内在KL与训练reference KL能合并成一项吗？
INTUITOR
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：不能。内在KL从均匀分布到当前下一词分布衡量确定性，reference KL约束策略漂移，参照和作用都不同。把内在奖直接当正则会改变训练目标。
教学例子：例如一项鼓励形成明确分布，另一项限制偏离旧模型，可能方向并不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
INTUITOR不使用外部verifier时，奖励从哪里来？
INTUITOR
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：从每个生成前缀的完整下一词分布计算自确定性，再沿回答平均。它是内部学习信号而非正确标签，高置信仍可能稳定地错，需要独立任务评估。
教学例子：例如模型分布很尖但算术结论错，内部奖高不代表验算通过。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么多轮网页 GRPO 需要动态上下文，而不只是把单轮回答重复训练几次？
WebAgent-R1
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：网页状态会随点击、输入和跳转改变，后续动作必须看到真实最新页面及必要历史。完整多轮 rollout 才能把终局成功回报连到这些生成动作，动态保留控制 HTML 膨胀；行为克隆与初始化也影响探索，不能把一个组内优势公式当成完整网页交互训练。
教学例子：例如点击登录后页面结构变化，下一步必须读取新表单；只反复训练最初截图上的答案，无法学会真实状态转换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
网页状态压缩之后，怎样避免仍把旧页面 DOM 当成当前可操作状态？
WebAgent-R1
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：应将每步动作与当时observation及压缩上下文绑定，动态状态不可由固定初始页替代。当前mini-suite只有确定性文本工具观测，没有真实DOM副作用或Qwen/Llama参数更新。
教学例子：上一页按钮的标识在跳转后可能失效，不能只因历史中出现过就继续点击。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
行为克隆 warm-up 与随后 M-GRPO，分别解决什么训练问题？
WebAgent-R1
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：warm-up提供基础交互行为与初始化，M-GRPO再根据完整任务成功的组内相对反馈优化策略。两阶段监督不同，不能仅注册一个GRPO名字就省略论文强调的行为与长CoT起点。
教学例子：先学会合法点击和输入，再利用任务结果改进长程选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
WebAgent-R1 为什么把完整多轮网页过程作为训练轨迹？
WebAgent-R1
问答新增：2026-10-27 · University of Virginia
展开答案与例子
答案：网页状态、HTML和历史动作随交互变化，最终成功依赖多次决策。方法动态管理近期与任务相关上下文，采集完整轨迹并以组相对结果更新，而非重复优化单轮答案。
教学例子：点击后页面换了，下一动作需依据新状态，不能继续假设初始页面不变。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么 micro advantage 要在重复到达同一 anchor state 的动作间比较？
GiGPO
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：不同状态的可选动作与剩余难度不同，直接比较回报会混入起点差异。共享锚状态提供更相近的局部条件，micro 信号补充整条轨迹 macro 优势；同状态后仍有随机续跑，局部差异不是无噪声因果值，也不能取代最终成功约束。
教学例子：例如两条轨迹都站在锁门前，一条找钥匙、一条重复推门，才适合比较该处动作；不能拿已到终点的状态当同组对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
GiGPO 记录 micro advantage 时，为什么要保存 anchor 身份与对应动作？
GiGPO
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：公式均值取同一G(s_t)，若anchor键错误或混入其它状态，局部基线就变了。应同时保留macro与micro日志、实际组成员和状态代理边界，而非只报最终合成优势。
教学例子：两个界面标题相同但底层任务状态不同，不能仅凭标题把它们合成一个anchor。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
按相同 anchor state 建 micro group，与把所有 step 混在一起排名有什么不同？
GiGPO
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：同状态比较更有可比性，混合不同状态会把任务难度和行动后果混在一起。共享计划步骤只能作为本地代理，不能自动等价于真实环境中状态完全合流。
教学例子：一个容易状态的高回报动作，不应直接拿来当困难状态动作的相同基线。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
GiGPO 为什么既要 macro trajectory advantage，又要 micro step advantage？
GiGPO
问答新增：2026-10-27 · Nanyang Technological University
展开答案与例子
答案：终局结果反映整条轨迹，却不容易定位哪个环境step贡献更大。方法先比较轨迹组，再在重复到达的anchor state动作组内比较，把整体与局部信用相加。
教学例子：两条轨迹最终都失败，但在同一中间状态的一次动作仍可能明显更有帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
SORT-Gen 为什么用累计行为数的 ordered regression 估计前缀价值，而不把单品 CTR 相加？
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
问答新增：2026-10-27 · Alibaba / Taobao & Tmall
展开答案与例子
答案：单品分数忽略已选列表对下一物品的影响。ordered regression 在每个前缀预测累计行为是否达到各档，从分布估计加入候选后的边际价值；目标队列减少搜索候选，张量掩码加速批量评估，MMR 直接参与选择。它建模的是列表条件价值，仍依赖代理标签和搜索范围，不能把加速队列当作全局最优搜索。
教学例子：前两条已经是相似手机，再放第三条手机未必增加多少互动。模型比较加入耳机后的累计行为分布，而不是只看第三条手机独立 CTR 是否略高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
SORT-Gen本地单批模型调用等于原文19ms kernel吗？
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
问答新增：2026-10-27 · Alibaba / Taobao & Tmall
展开答案与例子
答案：不等于，只是PyTorch批量mask计算路径，未包含生产优化。MovieLens评分与流行度代理点击交易及上游分，不是真GMV；prefix累计目标和候选mask须正确对齐。
教学例子：例如一个批次函数只调用一次，不表示设备内部执行成本与专用kernel相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
MMR进入生成选择与生成后再去重有什么区别？
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
问答新增：2026-10-27 · Alibaba / Taobao & Tmall
展开答案与例子
答案：选择时就权衡边际价值与相似性，会影响后续前缀；事后删除只修最后列表，可能留下空位或错过早期更优组合。两者并不等价。
教学例子：例如第一步选了高重复内容，后处理删掉它也不能完全重现另一条生成路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
SORT-Gen的ordered regression预测的是下一件商品ID，还是前缀累计行为达到各档的概率？
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
问答新增：2026-10-27 · Alibaba / Taobao & Tmall
展开答案与例子
答案：它为列表前缀预测累计点击或支付数是否达到各档，再从这些结果估计前缀价值；不是直接把档位当物品编号。档位轴与列表长度轴都有各自含义。先分清预测对象，才能理解为何加入一个候选后需要重新评价整个前缀。
教学例子：长度为三的列表可预测累计点击是否至少一次、至少两次；这两个输出并不是推荐商品一和商品二。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Gated Attention的门为何放在SDPA输出之后，而不是先改attention分数？
Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
问答新增：2026-10-27 · Qwen / Alibaba
展开答案与例子
答案：先完成每个头的注意力聚合，再用由当前输入产生的sigmoid门调制聚合结果，最后进入输出投影。这样门控制的是“当前头已经读出的信息该送出多少”，并在原本较线性的聚合到投影之间引入非线性。它与改变某个历史位置的softmax权重是不同控制对象。
教学例子：一个头读出了格式标记，另一个头读出了答案证据；当前查询的门可以抑制前者的整段输出，而不是重新指定每个历史token的注意力概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
逐头 query-dependent gate 能直接复用一个固定常数吗？
Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
问答新增：2026-10-27 · Qwen / Alibaba
展开答案与例子
答案：固定常数没有当前输入依赖，也失去按头选择性调制。应由当前hidden产生对应头的sigmoid门，在输出投影前乘到SDPA结果上；本地门值统计只能说明实际路径没有退化为恒等旁路。
教学例子：两个问题即使读同一篇文章，也可对同一个头给出不同gate，而非始终乘0.5。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
把 sigmoid 门放在 SDPA 前后，为什么不是同一件事？
Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
问答新增：2026-10-27 · Qwen / Alibaba
展开答案与例子
答案：在score或value处门控，会改变参与聚合的权重或内容；post-SDPA门控调制的是聚合完成后的输出。文档把这一位置列为消融选出的关键配置，不能随意挪动却仍称为同一实现。
教学例子：先把两条证据合并再整体缩小，通常不同于先分别缩小其中一条再重新聚合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Gated Attention 的门在决定“读哪里”，还是“读出多少”？
Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
问答新增：2026-10-27 · Qwen / Alibaba
展开答案与例子
答案：这里的门作用于每头SDPA已经聚合出的结果，由当前输入控制信息送出多少。历史位置的匹配仍先由attention完成，门再抑制或保留整条读出路径。
教学例子：一个头已读到格式符号，但当前问题不需要它，门可以减小该头输出。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
LONGER 每 K 个 token 合并一次，为什么 K 更大不一定更省总 FLOPs？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：原文§3.4同时缩短序列并增宽合并表示：总 FLOPs 比例含随 K 增长的投影项和随 K 下降的注意力项。因此合并减少位置数，却会提高通道变换与参数成本，存在平衡点。InnerTrans 还用于补足组内交互；不能把这套设计等同于固定维度均值池化，也不能断言压缩越强效果越好。
教学例子：四条行为拼成一个更宽 token，位置更少但后续矩阵更大；再合并到八条可能让投影成本反弹。像减少箱子数量，却把每箱变得更大更难搬。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
LONGER把长历史留给K/V后，后续层还要重复更新整段历史吗？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：论文首层用global与近期token组成较短Q，读取合并后的长历史K/V；输出长度跟Q走，后续层只在这组短状态上做self-attention。压缩因此发生在层间传播状态，而非先完全截掉远期证据。本地同名实现尚未完整保留这条首层路径，历史指标不能证明它已被验证。
教学例子：长历史像一本资料册，首层让几张近期问题卡查阅全册；后续只反复整理这些问题卡，而不是每层重新改写整本资料册。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
LONGER 代码验收为什么要同时检查第一层 Q 长度与后续层状态长度？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：定义性结构是首层 global/recent 短 Q 对长 K/V，输出长度随 Q，后层 self-attention 只接这份短状态。若把 merged、global、recent 全部拼接后每层自注意力，虽名字相同却是另一信息流。应先检查真实张量与掩码，再解释指标，不用旧 README 声称代替代码事实。
教学例子：长 K/V 五百位置、Q 一百位置，首层输出应一百；若第二层仍接六百多位置，就没有执行预期的短查询传播，成本结论也随之改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
LONGER 与先按候选取 Top-K 历史再精编，相比在哪一步压缩信息？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：两阶段检索先删未选事件，后续无法再读；LONGER 首层让短 query 访问合并后的长 K/V，再只传播短输出，保留更广一次取证机会。合并本身仍有信息取舍，不是原始全史完全无损。来源本地首层路径未完整保真，历史指标不能证明该区别已验证。
教学例子：Top-K 先把资料册撕到十页再读，LONGER 更像几张问题卡先翻阅较完整合并资料，再把答案卡交后层；合并资料也可能缺细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
LONGER 的 global token 可含候选信息，为什么仍能使用用户 KV cache？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：原文§3.5.2与§3.6.3用掩码确保用户序列不读取候选特有 global token，用户 K/V 才能先计算并跨候选复用。候选 global token 再与缓存历史交互，相关输出仍逐候选生成。global 代表可汇聚全局信息的角色，不代表所有 global token 都候选无关；缓存资格取决于实际依赖路径。
教学例子：两件商品共用用户浏览序列 K/V，但各有自己的候选 global token 查询历史。若先让用户序列吸收了商品甲信息，再给商品乙复用，就破坏了共享条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
LONGER 的 global token 为什么不应被理解为固定且候选无关的用户摘要？
LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：global 是可汇聚全局信息的角色，可包含 CLS、用户及目标相关字段，是否公共取决于依赖。首层短查询读取长 K/V 后输出随查询长度传播，目标相关 global 仍会逐候选变化。不能因名称里有 global 就把所有状态共享。
教学例子：用户 ID token 可公共，商品价格形成的 global token 则属于当前候选；两者都能参与全局读取，却不能一概放入同一跨候选缓存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
GenRank把action并入item token，为什么能改变HSTU式排序的计算成本？
Towards Large-scale Generative Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：交错item与action会增加序列位置，二次交互成本随长度显著增长。GenRank把同一行为的action作为item位置的特征或监督，保留多行为目标却减少独立token，并用位置与时间偏置补充结构。序列更短并不保证信息完全等价，本地效率改善同时伴随质量变化，需联合报告。
教学例子：十次行为原来对应二十个交错位置，合并后只保留十个item位置及其反馈信息；注意力矩阵变小，但仍要检验是否损失了某些反馈依赖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
GenRank 对当前待预测 action，为什么不能像已发生历史 action 一样输入？
Towards Large-scale Generative Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：历史动作已可知，可与对应 item 编码；当前 action 是监督目标，若直接加入待预测位置就泄漏标签。需要清楚区分输入与输出字段及 causal mask，position/time bias 也只能用请求时可得信息。代码形状相同不能代替可见性检查。
教学例子：已点过的相机可带 click token，当前要猜是否点击的鞋不能预先带真实 click；否则 AUC 很高也只是读到了正确答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
GenRank 与 item/action 交错排序，相比为何需要同时比较延迟和 AUC？
Towards Large-scale Generative Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：序列缩短减少注意力位置，但行为进入方式改变可能损失某些交互表达，因此效率与质量需并列。来源本地延迟下降却 AUC 下降，只验证部分效率路径，不能写成精度持平或优于 HSTU。候选和硬件条件也影响延迟外推。
教学例子：把一百个事件从两百位置缩到一百位置可能更快，但错过行动顺序细节；只报速度会隐藏模型判断上的损失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
GenRank 为什么把 action 和 item 放在同一位置而仍保留多行为学习？
Towards Large-scale Generative Ranking
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：行动类型仍作为特征或监督参与预测，只是不再为每项单独再占一个序列位置，减少交错序列长度。位置与时间偏置补充时序信息。压缩的是表示组织，不意味着行为信息不重要；但是否完全保留原表达能力需实测，不能仅看长度推断。
教学例子：一次商品曝光与其点击反馈在同位置关联，不必展开成两个位置；模型仍要区分点击和跳过，而不是把两者都删成只有 item。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
Absolute Zero的自生成课程为什么仍离不开程序验证器？
Absolute Zero
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：提议者产生任务，求解者给出解答，程序执行提供独立奖励，从而无需人工逐题标注。没有人工数据不表示没有监督来源，验证器与任务可执行性构成信号基础。若用任务自带答案直接馈给求解者，就破坏了闭环；本地机制诊断未复现完整大模型课程。
教学例子：例如模型生成可执行代码任务并预测输出，实际运行程序核对；答案应由执行结果验证，不能把生成任务时保存的标准输出塞进求解提示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
Absolute Zero评估时可把生成时保存的答案给solver吗？
Absolute Zero
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：不能，答案或执行结果应留在验证端，solver只读公开任务。当前本地只验证课程与状态核，没有原规模大模型闭环，不能以内部求解器成绩充当模型能力。
教学例子：例如模型需预测程序输出，不能先将真实执行输出拼回提示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
proposer生成更难题与有效能力边界课程有什么区别？
Absolute Zero
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：单纯更难可能使solver全失败，没有学习信号；课程需围绕当前能力形成可验证挑战。任务形式合法也不等于有教学价值，不能只优化新颖复杂。
教学例子：例如一题复杂到预算内无人能解，未必比适度挑战更适合训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
Absolute Zero为什么还需要程序verifier？
Absolute Zero
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：模型自生成任务与解答不代表自带真值，程序执行提供独立可验证反馈。零人工逐题数据与零监督不同，课程仍受可执行任务范围和验证器质量限制。
教学例子：例如生成代码再实际运行核对结果，而不是相信模型自己写的输出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
reward 方差塌缩为什么不一定说明策略已经稳定学会任务？
RAGEN
问答新增：2026-10-27 · Northwestern
展开答案与例子
答案：策略可能陷入反复输出同类失败或僵化行为，回报缺变化伴随梯度尖峰就是 Echo Trap 的危险征兆。轨迹过滤、critic 基线和解耦 clipping 分别控制数据、估值与更新稳定性；稳定训练还需看真实任务表现，不能把低方差自动写成收敛成功。
教学例子：例如所有 rollout 都重复同一无效命令，奖励全零且方差为零，数值看似一致，实际是探索崩溃而非能力已成熟。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
本地固定频率 Echo Trap probe，能当作测得论文训练坍缩曲线吗？
RAGEN
问答新增：2026-10-27 · Northwestern
展开答案与例子
答案：不能。文档probe是可观测稳定性路径，策略只在确定性候选中选择且未更新LLM参数。应把probe触发、真实梯度行为和大规模训练曲线分开，不用计数代替模型坍缩证据。
教学例子：每隔若干轮主动检查一次，不代表这些轮次实际发生了论文中的Echo Trap。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
StarPO-S 的轨迹质量过滤，与只在 PPO loss 内裁剪 ratio 有何区别？
RAGEN
问答新增：2026-10-27 · Northwestern
展开答案与例子
答案：过滤决定哪些轨迹进入目标，ratio clipping约束已入选样本的策略漂移；critic与梯度稳定又是其它环节。只保留一个clip操作不能替代完整稳定化链路。
教学例子：重复低信息轨迹即使ratio被裁剪，仍可能持续占据大量训练样本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
RAGEN 的 Echo Trap 为什么值得单独监测？
RAGEN
问答新增：2026-10-27 · Northwestern
展开答案与例子
答案：多轮随机环境训练可能进入自我强化的重复模式，表现为reward方差塌缩与梯度尖峰。StarPO-S通过轨迹过滤、critic baseline及梯度/clipping稳定控制，而不是把低方差都当成已学会。
教学例子：策略总走同一条失败轨迹，奖励非常一致也不代表能力稳定提升。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
TTRL用测试题多数票作奖励，为什么必须明确它是无标签适配而非普通固定模型评测？
TTRL
问答新增：2026-10-27 · PRIME-RL author team
展开答案与例子
答案：测试输入被用于采样并即时更新参数，评测对象因此随过程变化。多数票提供伪标签而非gold，可能自我强化错误，所以必须报告采样与适配预算，并把隐藏答案留在独立评分侧。无标签不等于没有测试时学习，更不能与零适配结果混写。
教学例子：模型对一道新题采样多次，再按共识更新后作答；这与直接调用原模型一次不同，即使全过程没有读取标准答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
TTRL的答案规范化能查看测试标准解吗？
TTRL
问答新增：2026-10-27 · PRIME-RL author team
展开答案与例子
答案：不能。等价判断与多数统计只能用允许的预测文本规则，金标用于事后评分。当前本地只验证闭环机制，未执行论文规模真实无标签rollout。
教学例子：例如不能先拿正确数值过滤候选，再说多数票自主找到了伪标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
TTRL与单纯多数投票推理的差别是什么？
TTRL
问答新增：2026-10-27 · PRIME-RL author team
展开答案与例子
答案：多数投票只汇总输出，TTRL还用该伪奖励改变模型参数，后续行为会受更新影响。计算预算和状态传递因此不同，比较时不能忽略训练成本。
教学例子：例如同样抽几条回答，投票返回后结束，TTRL则还执行一次优化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
TTRL在无标签测试题上从哪里得到奖励？
TTRL
问答新增：2026-10-27 · PRIME-RL author team
展开答案与例子
答案：对同题多次采样，以多数一致答案作伪标签，再按是否一致生成奖励并在线更新。它不读取gold，但多数本身可能错，因此仍需独立评测。
教学例子：例如模型几次都猜同一个错误结果，共识只能提供自监督线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
LUFFY把离线示范和在线rollout放在一起时，为什么还要关心行为分布mu？
LUFFY
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：示范与当前策略样本来自不同分布，不能仅因共用一个batch就当成同一种on-policy数据。重要性比及正则化用于控制这种来源错配，同时保留在线探索。示范覆盖不到的状态仍需学生自己访问，且训练示范不能泄漏到最终被评估策略的输入。
教学例子：专家有一条成功推导，学生自己采到几条失败推导；混合使用时要记录每条来源，而非把专家成功记作学生采样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
LUFFY里采样策略μ与参考策略ref各有什么作用？
LUFFY
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：μ描述混合样本怎样生成，ref定义KL锚点，不能混用。实现需追踪示范与在线来源，本地候选诊断不包含原论文真实文本与分布式训练。
教学例子：例如数据从专家来，reference却是初始学生，二者概率没有理由相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
LUFFY混合更新与把示范追加到普通GRPO组有何区别？
LUFFY
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：外部示范来自不同采样来源，需要相应校正与正则；直接当学生采样会错设分母。方法强调统一目标中的来源关系，而非仅增加几条高分文本。
教学例子：例如人工插入成功解法不能伪装成学生当前策略恰好采出的结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
LUFFY为什么要同时保留离线示范与在线探索？
LUFFY
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：高质量示范能提供学生尚难采到的路线，在线轨迹保留当前策略的探索状态；统一支持集并处理来源概率，避免只会模仿专家或只在已有行为中打转。
教学例子：例如专家展示新证明思路，学生仍生成自己的尝试并接受任务反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
不同工具奖励难度不同时，为什么要做工具条件下的动态 scaling？
ToolRL
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：容易工具的高原始奖励可能主导同一批更新，困难工具虽有进步却被淹没。按工具分布中心化和缩放，让相对表现更可比较，同时保留选择、参数、执行与答案多种信号；归一化不自动修正错误奖励定义，也不意味着所有工具实际难度相同。
教学例子：例如计算器多数能成功，数据库复杂查询常失败；分别按各自奖励分布评价进步，避免训练只偏向更容易拿分的计算器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地奖励和状态更新是否证明真实多工具 RL 训练完成？
ToolRL
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：没有。本地只验证论文特有目标、转移与预算，没有原文大模型、多卡 RL 或完整真实工具 benchmark。奖励计算正确可检验公式，但还需策略实际采样、外部执行和参数更新，不能以方法注册或 mini-suite 满分补齐这些证据。
教学例子：例如给定四轴分数算出 advantage 只是目标函数测试，若没有训练模型，就不能声称它已学会参数生成。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
工具选择奖励与执行、答案奖励，为什么不能互相替代？
ToolRL
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：选择奖励检查接口是否匹配任务，执行奖励检查调用能否实际运行，答案奖励评价是否完成最终目标。正确选择可能因参数错误而执行失败，成功执行也可能返回与问题无关的信息。分开监督能暴露这些不同错误，不能把任一环节高分直接当作端到端能力。
教学例子：教学例：数据库工具选对且查询成功，但时间范围写错，得到另一月份的结果；前两项通过并不意味着最终答案应获奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
ToolRL 为什么不能只检查最后一句答案对不对，就认为工具策略已经学好？
ToolRL
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：最终结果把选工具、填参数、执行和利用返回值混在一起，难判断失败来自哪一步。ToolRL 研究用更细的工具反馈训练策略，使行为本身也接受约束。多项奖励仍需合理校准，不能用格式正确或执行成功掩盖答案错误，也不能把本地奖励计算当成大模型 RL 完成。
教学例子：教学例：选对天气工具却传错城市，返回值格式仍正常；只给最终答案一个分数，很难定位应改的是参数还是工具选择。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
工具调用带成本惩罚时，为什么不能简单训练成“尽量不调用工具”？
ReTool
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：策略目标同时包含答案收益，少调用只有在不显著损害结果时才有价值。交替推理与真实执行反馈让模型学习哪些步骤值得外包、失败后如何纠正以及何时停止；若只优化调用数，模型可能用流畅猜测替代必要计算，反而失去工具使用能力。
教学例子：例如心算两位数可以省调用，但复杂统计应执行代码；一次可靠计算的收益可能远大于为省调用而给出错误答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
工具 observation 能否由模型自行续写来凑完整 reasoning/action 轨迹？
ReTool
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：不能。执行反馈必须来自实际工具或环境，模型只能生成自己的推理与动作；伪造结果会失去学习调用和纠错的真实依据。本地仅验证受控状态和预算，不含论文模型训练及真实数学 benchmark，代理满分不是原文效果复刻。
教学例子：例如模型生成“Python 输出 42”但没有运行代码，不能计为工具成功，更不能给该动作真实执行奖励。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
结果奖励减调用成本与固定每题调用一次有什么取舍？
ReTool
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：固定调用不看题目难度和当前证据，简单题浪费、复杂题不足；成本化回报允许按收益选择次数。惩罚过大也可能压掉必要工具，所以应同时报告答案正确性和完整调用成本，不能用减少次数单独证明方法更好。
教学例子：例如一道心算题零调用可行，多阶段数值题可能需要两次验证，统一一次并非对两者都合适。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
为什么 ReTool 要同时学习调用、纠错和停止？
ReTool
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：工具可以提高计算或取证能力，也会失败并消耗成本，策略需判断何时调用、如何利用报错修正及何时已有足够答案。仅学会输出工具语法不等于会控制整个推理链，停止过早和重复调用都可能损害任务结果。
教学例子：例如数学题中先用代码核算，报错后修参数，得到一致结果后停止，而不是一直调用计算器或未经检查直接结束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
PinRec 为什么把期望 outcome 注入输出头，并在未来窗口预测多个物品向量？
PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：单一 next-item 目标容易重复用户最常见行为，也把同一窗口的消费强加为固定顺序。期望 outcome 提供行为条件，多输出头预测窗口内多个 ANN 兼容向量，使检索能覆盖并存兴趣。向量可接现有近邻系统，但训练需要处理预测与窗口正例的对应，不能把多个头仅当成重复采样同一个最热门物品。
教学例子：希望用户收藏而非随手浏览时，输出条件切换为收藏。一个未来窗口同时有园艺和烘焙内容，多向量可以覆盖两类兴趣，不必认为先看园艺才是唯一正确顺序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
PinRec 的多个 ANN-compatible 输出为什么要逐头归一并处理重复物品？
PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：各输出向量需在索引相同空间与尺度内检索，逐头归一避免范数差异支配，相同物品可被多头取回需按定义去重或合并。目标匹配与窗口正例身份一致。重复多个相同向量不能因为头数多就算已学到多兴趣。
教学例子：三头都检回同一热门相机，看似产生三份候选其实覆盖一件；应统计去重后的命中与兴趣差异，而非只数模型输出了三条向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
PinRec 的 unordered window 召回与严格 next-token 命中，评价对象为何不同？
PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：窗口多正例不要求唯一先后，多个向量可覆盖同时期需求；严格下一项只认可紧邻目标，可能惩罚合理但次序不同的输出。比较需要一致标签与候选口径，来源两类指标都负向，不能换一个更宽容指标隐藏失败。
教学例子：未来一天看相机和帐篷，多兴趣召回同时找到两类合理；若只以首个相机作唯一答案，帐篷命中不算同一意义的 next-token 成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
PinRec 的 outcome 条件为什么与用户实际下一次反馈标签不同？
PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
问答新增：2026-10-27 · Pinterest
展开答案与例子
答案：desired outcome 是希望生成器面向的目标，可作为合法业务条件；实际未来动作尚未发生，只能作训练监督。混淆两者会在评估提前选对条件。多向量输出还针对窗口多兴趣，不代表生成用户必做的一串确定行为。
教学例子：请求希望发现可收藏内容可指定收藏目标，但不能看测试目标确实被收藏后才给条件，再宣称模型自主预测了这次偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
VAPO为什么先改善critic，并让GAE与响应长度相关，而不是直接换成无critic算法？
VAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：长推理中稀疏奖励和长度差异会放大价值估计偏差，VAPO选择修复value-based路径：预训练critic，再让优势估计与actor策略适配长度。它没有声称critic可以省略；本地小价值估计和伪长度也不能代替真实长CoT的训练与稳定性证据。
教学例子：短回答很快看到结果，长回答要延迟很久才获奖；同一优势估计参数可能给它们不同的偏差与方差。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
VAPO的本地critic为何不能叫预训练value model复现？
VAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：本地候选动作和伪长度只模拟价值与长度自适应关系，并非真实长CoT前缀。GAE的λ依响应长度设定需保留，不能用固定λ替代后声称完整方法。
教学例子：例如几类候选的价值表，不等于读入数千词推理前缀的神经critic。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
VAPO与critic-free GRPO主要交换了什么成本和信号？
VAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：GRPO用同题响应组相对奖励省掉value模型，VAPO承担critic训练成本获得前缀价值估计。二者误差来源不同，不能因少一个模型就判定能力更好。
教学例子：例如组内全错时GRPO缺少差异，critic可能仍给估计，但也可能估错。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
VAPO为什么为长推理重新重视value critic？
VAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：长轨迹终局奖励稀疏，critic可为各前缀提供基准，但偏差也会随长度影响优势。预训练value与长度自适应设计希望使这条价值路径更可靠。
教学例子：例如解题中间步骤尚无终局反馈，价值估计可为其后续收益提供参考。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
pixel shuffle 减少视觉 token 时，原来的邻域信息被放到哪里？
SmolVLM: Redefining small and efficient multimodal models
问答新增：2026-10-27 · Hugging Face
展开答案与例子
答案：相邻空间 token 被拼到通道维，再通过 MLP 接到语言模型，所以序列缩短并非简单丢弃每隔几个 patch。它把注意力需要处理的长度换成更宽的局部表示与连接器加工；压缩后是否保留小字和空间关系，仍需按具体任务验证。
教学例子：例如四个相邻 patch 合并成一个更宽向量，token 数变为四分之一，但语言侧看到的空间粒度也随之改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地 r=2 的接口验证包含 SmolVLM 的长视频与高分辨率配方吗？
SmolVLM: Redefining small and efficient multimodal models
问答新增：2026-10-27 · Hugging Face
展开答案与例子
答案：不包含。当前使用 32×32 服饰图像和 2×2 space-to-depth，未执行高分辨率切片、视频采样、长上下文、学习位置 token 或 SmolLM decoder。验证应限于重排与投影机制，不把 token 减少或分类结果推广为完整视频能力。
教学例子：例如十六个 patch 压成四个可检查张量形状，但这没有测试长视频跨帧定位，也没有验证八千 token 的上下文。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
与把四个 patch 直接平均相比，space-to-depth 保留了什么区别？
SmolVLM: Redefining small and efficient multimodal models
问答新增：2026-10-27 · Hugging Face
展开答案与例子
答案：平均在聚合时抹去各 patch 的独立通道位置；space-to-depth 把它们按固定空间顺序拼接，后续投影仍可区分每个子位置。它增加单 token 的输入宽度以换取较短序列，但效果还依赖投影容量和训练，不能仅凭重排保证精细识别。
教学例子：例如左上是黑块、右下是白块，平均后可能与相反排列一样；按位置拼接仍可区分两个局部图案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
SmolVLM的小模型设计，只是把语言模型层数削少吗？
SmolVLM: Redefining small and efficient multimodal models
问答新增：2026-10-27 · Hugging Face
展开答案与例子
答案：不是。它重新安排视觉与语言侧的计算，同时涉及视觉token压缩、图像切片、位置token、长上下文和数据配比。模型参数较少与视觉输入较便宜是不同预算轴；先识别这些组成，才能理解为什么一个局部重排算子并不代表完整小VLM配方。
教学例子：换更小语言骨干后若仍输入大量高分辨率视觉token，视觉编码与上下文成本仍在，不能只看语言参数量。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
答案奖励之外加 citation reward，为什么仍不能只按引用数量给分？
DeepResearcher
问答新增：2026-10-27 · HKU
展开答案与例子
答案：引用的作用是把结论连到真实证据，数量多可能只是重复或无关链接。搜索、浏览与回答组成整条策略轨迹，联合目标应约束证据支持与正确答案，并惩罚无用查询；最终主张与来源的对应关系必须核对，调用一次浏览也不等于认真使用了证据。
教学例子：例如回答含十个无关来源不应胜过两条直接支持结论的引用，否则策略会学习堆链接而不是完成研究取证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
DeepResearcher 的 citation reward 应怎样与实际检索证据对齐？
DeepResearcher
问答新增：2026-10-27 · HKU
展开答案与例子
答案：需核对引用指向真实可获得材料并支持对应陈述，而不是只数链接；N_query也应统计实际搜索调用。当前mini-suite没有真实网页与完整大模型RL，不能把fixture引用当外部证据。
教学例子：答案里列出一个从未检索过且不支持结论的标题，不应仅因格式像引用就得分。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
引用质量奖励与查询次数惩罚，为什么不是同一个效率目标？
DeepResearcher
问答新增：2026-10-27 · HKU
展开答案与例子
答案：引用奖励关注证据支撑，查询惩罚控制调用成本；少查不保证证据可靠，多引用也不保证查询有效。三项权重决定取舍，不能用更短轨迹单独证明研究质量更好。
教学例子：一次错误搜索后迅速作答可能很省调用，却没有可靠证据。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
DeepResearcher 为什么把搜索、浏览、证据与回答视作同一条研究轨迹？
DeepResearcher
问答新增：2026-10-27 · HKU
展开答案与例子
答案：研究答案依赖前面如何找证据与使用证据，分开只看最终文字难分配信用。联合答案/引用奖励和查询成本，使策略在完整搜索过程里权衡质量与开销。
教学例子：有用的一次浏览可让后续回答更可核验，而不是只评价最后一句是否流畅。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
Dr. GRPO为什么同时移除组标准差和响应内长度平均？
Dr. GRPO
问答新增：2026-10-27 · SAIL 研究团队
展开答案与例子
答案：按组标准差会让不同难度问题因局部方差被重新加权，响应内长度平均又改变长短轨迹的相对贡献。移除两项后，保留中心化奖励并按固定口径汇总，从目标层面减少这些偏置。它不是删除所有归一化，也不保证任何任务都自动更好。
教学例子：两个问题的平均奖励差相近，但其中一个组方差极小，标准化后可能被放大；再除响应长度会叠加另一层权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
本地伪长度能证明Dr. GRPO消除真实长CoT长度偏置吗？
Dr. GRPO
问答新增：2026-10-27 · SAIL 研究团队
展开答案与例子
答案：不能。候选策略无自由生成长度，伪长度只能暴露不同归一计算的差别。真实验证还需词元损失与长响应分布，不能把公式测试当成论文训练结果。
教学例子：例如改变一个候选的模拟长度，不会产生真实生成中提前结束的行为。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
Dr. GRPO与GRPO在全组奖励中心化上还相同吗？
Dr. GRPO
问答新增：2026-10-27 · SAIL 研究团队
展开答案与例子
答案：仍减同题组均值，区别是移除规定的长度与标准差归一。不能把去标准差误写成不需要baseline，也不能擅自再用全局标准差而称目标完全相同。
教学例子：例如每条仍相对组平均判断好坏，只是不再除该组波动大小。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
Dr. GRPO为什么审查长度平均和组标准差两种归一？
Dr. GRPO
问答新增：2026-10-27 · SAIL 研究团队
展开答案与例子
答案：这些操作不只是数值稳定，也会改变不同长度响应和不同难度题的训练权重。移除后保留组均值中心化，让奖励差在原尺度上参与更新。
教学例子：例如奖励差相同但组方差不同，标准化会让两组产生不同强度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
DAPO的Dynamic Sampling为什么丢弃全对组，难道正确回答不值得继续学习？
DAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：同组全对或全错时，中心化奖励没有相对差异，继续消耗该组预算难以提供所需优势。动态采样挑选仍有区分的组；Clip-Higher、token级汇总与过长惩罚分别处理探索和长度问题。丢弃无方差组不等于判定这些回答无价值，也不允许用test挑题。
教学例子：同题所有回答奖励完全相同，再算组内相对优势仍无方向；换一组尚有成败差异的训练样本，可能更有学习信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
DAPO词元级分母与逐响应均值有什么差别？
DAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：先汇总有效响应词元再统一归一，避免每条先平均造成另一种长度权重。动态过滤与超长惩罚也需明确；本地伪长度未覆盖真实mask与32B训练。
教学例子：例如长短两条先各自平均，和把全部词元放一起平均，贡献权重一般不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
Clip-Higher与普通对称clip主要放宽哪侧？
DAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：上界更宽，允许正向概率提升保留更多探索空间，下界仍单独控制。它还需与动态采样、词元损失和超长塑形共同理解，单改上界不是完整DAPO。
教学例子：例如让一个有用新动作更易提高概率，并不意味着下降方向也同样放宽。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
DAPO为什么动态跳过全对或全错的响应组？
DAPO
问答新增：2026-10-27 · ByteDance Seed
展开答案与例子
答案：二元奖励组内无方差时缺少相对优势信号，继续占用训练批会浪费有效样本位置。动态采样选择有差异组，但并没有自动解决所有失败题的探索不足。
教学例子：例如四条全错难区分谁更好，需要重新采样而非把同一零信号重复优化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
为什么检索结果 token 必须 mask，哪怕它们也在模型输入序列中？
Search-R1
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：文档由搜索环境返回，不是策略采样的动作，给这些位置算 policy loss 会错误地训练模型生成外部证据。模型只对查询与推理回答等自身 token 负责，检索结果作为后续条件影响决策；多轮检索收益来自闭环调整，不能用静态一次 RAG 代替。
教学例子：例如搜索返回“发布日期为周二”，训练不应把这句环境文本记作 Agent 的行为，而应更新它怎样查询和据证回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
Search-R1 的 loss mask 怎样避免连搜索动作 query 也一起屏蔽？
Search-R1
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：应区分模型生成的reasoning/search指令与环境返回information，前者仍是策略token，后者mask为0。需按来源构建边界，不能仅按某段文本含“搜索”二字一概屏蔽。
教学例子：<search>里的query是Agent动作，后续<information>正文是环境观测，两段训练身份不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
搜索结果作为上下文可见，与把它们当策略生成 token 学习，有何不同？
Search-R1
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：模型可读取文档继续决策，但这些token由环境提供，并非策略动作。训练应mask其loss；否则把环境文本当成学生生成内容，会污染策略优化的行为概率口径。
教学例子：网页返回一千字，不能视作Agent一次生成一千字动作并获得相应策略梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
Search-R1 相对一次性 RAG，为什么需要在推理中反复决定是否搜索？
Search-R1
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：中间证据可能暴露新问题或修正当前判断，策略需要根据反馈调整下一次query。方法将搜索引擎当环境，让reasoning与search交替，最终用答案outcome训练。
教学例子：第一次检索发现实体有歧义，Agent可再查限定条件，而不是立即固定回答。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
数据库最终状态正确，为什么仍可能在 SOPBench 判失败？
SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：服务还需被允许，必要 helper 验证也要实际且按规定顺序发生。And、Or 与 Chain 表达不同前提逻辑，不能仅凭猜中结果绕过流程；完整通过要求资格、数据库与程序共同成立，把三者合并成最终状态检查会遗漏协议遵循能力。
教学例子：例如退款金额碰巧正确，但 Agent 没先验证订单资格，仍违反 SOP；Chain 要求先查资格再操作，事后补查不能抵消。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
SOPBench helper调用记录能由Agent自报替代吗？
SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：不能，procedure_complete需可信执行轨迹，验证必须真实发生且时序满足图。gold状态只供评分，不向代理泄露；当前协议组件不等于完整生产服务Agent能力。
教学例子：例如回答我已验证不代表日志里真的有有效helper调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
And、Or与Chain约束对验证顺序有什么不同？
SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：And要求各条件但不强制子次序，Or允许已验真分支，Chain要求前后顺序。把三者统一为无序集合会放过先执行后检查等流程违规。
教学例子：例如身份核验后才可转账，是Chain，而非事后补验证也能凑齐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
SOPBench里的服务约束图，节点是在记录聊天步骤，还是规定服务前要验证什么？
SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints
问答新增：2026-10-27 · University of California, Santa Barbara
展开答案与例子
答案：它把服务连接到约束，再把约束连接到可执行的helper验证；结构表达服务何时被允许以及需要哪些前置检查，不是按聊天轮数排列的摘要。先找到服务依赖的约束，才能知道Agent该验证什么，而非只看最后回复是否顺畅。
教学例子：某项服务要求先核验资格，图中应能沿服务找到资格约束和对应helper，而不是只出现一句“我已检查”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
COBRA已经生成了稀疏SID，为什么还要按SID条件生成稠密向量？
Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：语义量化保留粗结构，却会丢失码内的细节。COBRA先用离散路径缩小搜索范围，再让用户上下文与该路径共同产生稠密查询，区分共享粗码的物品；稀疏与稠密目标联合训练以减少接口错位。后级细排只能区分前级保留的候选，无法保证找回已被beam排除的正确路径。
教学例子：粗码先选中运动鞋，条件稠密向量再区分越野鞋与公路鞋；若第一步误去了家电分支，第二步再精细也难把正确鞋款补回来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
COBRA 推理时为什么要保留 code 的 beam 分与条件向量点积分，而不只看后者？
Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：点积分衡量所选码条件下的物品匹配，beam 分保留该语义路径本身的先验可信度，两者组合才能跨码比较。系数需要统一尺度与验证选择，不能把各码局部最高分当作同等可信。训练 dense loss 也应真实更新条件向量，不以固定打分混合替代。
教学例子：一条低概率码中有很高局部点积，另一条高概率码局部分数稍低；丢掉路径分会使前者无条件胜出，改变级联模型的原始判断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
COBRA 与纯连续双塔、纯 SID 生成相比，分别借用了哪部分能力？
Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：连续双塔易对接 ANN 但通常把用户压成较少向量，纯 SID 可分层生成却有量化误差。COBRA 用码提供多区域提名，条件向量提供区域内细分。级联增加模块与校准成本，来源的内部 sparse-only 消融与跨 DIN 比较回答不同问题，不能互相替代。
教学例子：用户有摄影和烘焙两种兴趣，beam 先取两类码，分别生成细向量检索；相较只输出一个平均向量，区域划分更明确，但要维护两级得分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
COBRA 的 sparse code 与 dense vector 为什么分两阶段生成？
Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
问答新增：2026-10-27 · Baidu
展开答案与例子
答案：离散码先定位语义区域，后续条件向量在该区域内保留细粒度差别，弥补量化损失。检索先用 beam 选码，再以条件向量近邻细排，把离散结构与连续精度结合。第二阶段仍受第一阶段覆盖限制，不能恢复未被选入任何区域的目标。
教学例子：先定位“科幻电影”，再用连续向量区分硬科幻与动作科幻；如果首层误选家庭喜剧，细排再精确也可能找不到目标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
OneRec 为什么从当前模型生成的完整 session 中选 self-hard 胜负对，而不是逐个物品做偏好训练？
OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：完整 session 把项目之间的连贯性与多样性纳入同一生成对象，奖励模型也据此评价整段推荐。当前模型产生的较难区分胜负对，能把偏好更新集中到模型实际容易混淆的方案上；DPO 比较胜负 session 相对参考模型的概率变化。奖励误差仍会影响方向，本地小规模结果也没有验证线上收益。
教学例子：两组五条视频都单条相关，但一组内容重复，另一组节奏更连贯。把整组作为胜负对象，模型才有机会学到“这几条放在一起更合适”，而非只提升某条视频概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
OneRec 合法 SID 前缀约束为什么不能修复语义碰撞带来的全部身份问题？
OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：约束只保证路径在 catalog 中存在，多物品同码仍需明确展开或区分，唯一率不足可能影响评估。胜负 session 应来自当前模型而非注入 gold。目录合法、奖励有效与排序质量是三项不同检查，本地负结果不可被通过合法性覆盖。
教学例子：两个电影共用一串码，beam 合法也未确定是哪部；若测试先挑正确电影展开，就会用答案替模型消除碰撞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
OneRec 的 self-hard DPO 与仅加宽 beam，改变的是模型还是搜索？
OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：加宽 beam 只探索现有分布，DPO 利用当前生成 session 的胜负改变策略概率，属于训练更新。奖励模型弱时更新也可把质量拉坏，来源本地 DPO loss 迅速下降而 NDCG 归零，说明偏好拟合不等于推荐进步。
教学例子：搜索更多清单可找到好例子，但若训练把错误 judge 选出的清单强化，后续分布会更糟；loss 小不能替代真实排序验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
OneRec 为什么将多个 item 的 SID 串成 session 自回归目标？
OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：单 item 生成不直接看到同组搭配，session 目标让后面的物品受前面已选内容影响，可学习连贯与重复取舍。层级 SID 提供可组合地址，reward model 再评价整组。完整 session 不是一个无顺序集合，也不自动保证多样性。
教学例子：先放基础摄影教程，后面可接进阶实操；若三条都独立生成，可能重复选三份入门教程，单条相关却缺少整体进展。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
FilterLLM为什么从商品文本直接预测用户分布，而不逐用户问LLM是否推荐？
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：逐对判断的成本随用户数量扩大，新商品需要接触海量潜在用户时尤其昂贵。FilterLLM把一次内容编码映射到压缩用户词表上的概率分布，再用历史行为监督，让一个商品侧计算覆盖更多受众。词表压缩引入共享与分辨率取舍，预测分布也不意味着每个具体用户都已经获得可靠个性化判断。
教学例子：一篇新文章先产生对几类用户兴趣的分布，再把它接入候选流程；无需为每位用户重新生成一次LLM回答，但细粒度差异仍可能在压缩中丢失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
FilterLLM 的目标用户分布为什么要避免把未曝光直接当不喜欢？
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：历史交互分布受曝光机会影响，未互动可能根本没见过商品。q(u|i) 的归一、词表映射和训练截止应明确，测试交互不能用于构造目标分布。否则会把旧政策或未来答案写入训练，无法检验新品是否真正找到潜在人群。
教学例子：某用户没看过帐篷不代表厌恶露营；若给所有未曝光者硬零概率，新分发器只会复制旧受众，错失本来可能喜欢的新用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
压缩用户词表与逐用户二分类，输出规模与个性化细度怎样交换？
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：逐用户配对规模巨大，压缩词表将相近用户组织为较小输出空间，一次分布覆盖多人，代价是组内差异难表示。分组与数据变化会影响映射，不是无损压缩。来源本地 genre 文本代理退化，不能仅凭可扩展设计宣称冷启动效果更好。
教学例子：摄影初学者群总体高分，其中刚买完相机的人也许暂时不需要新品；压缩组概率不能替代每位成员当前状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
FilterLLM 为什么从新品文本预测受众分布，而不是下一物品？
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：冷启动商品缺交互，目标是主动找到可能喜欢它的用户。一次商品编码输出压缩受众分布，摊销逐用户判断成本，再映回真实人群。概率代表模型倾向而非已观测反馈，低概率也不能直接当作用户明确拒绝。
教学例子：新帐篷上线先估计露营与旅行人群的兴趣，再接入分发，不必给十亿用户分别生成一次语言模型回答；这仍需要后续真实反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
Muon为什么把梯度当矩阵处理，而不是像AdamW那样逐坐标调步长？
Muon is Scalable for LLM Training
问答新增：2026-10-27 · Moonshot AI / UCLA
展开答案与例子
答案：它对带动量的隐藏矩阵梯度做近似极分解，调整更新的谱几何，再配合权重衰减与形状缩放。处理对象是矩阵整体的方向关系，不只是每个标量自己的二阶矩。论文大规模方案对非隐藏矩阵参数仍使用AdamW，因此不能把整个训练器简单写成所有张量都调用同一个正交化函数。
教学例子：两列梯度几乎共线，逐坐标缩放与矩阵极分解会给出不同更新方向；词表或一维参数是否适合该规则，也需要按论文参数分工处理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
Muon 的 Newton–Schulz 输入为什么先除以 Frobenius 范数？
Muon is Scalable for LLM Training
问答新增：2026-10-27 · Moonshot AI / UCLA
展开答案与例子
答案：归一化控制迭代输入尺度，再按给定多项式系数近似polar方向；还需处理零或极小范数，并保留形状相关缩放。只做归一化或只报正交误差，都不能替代真实优化效果与耗时测量。
教学例子：把同一梯度整体放大很多倍，不应直接让迭代落到完全不同的数值尺度。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
本地 Muon 与“所有参数都使用同一个 Muon 更新”有什么差别？
Muon is Scalable for LLM Training
问答新增：2026-10-27 · Moonshot AI / UCLA
展开答案与例子
答案：文档对hidden矩阵走Muon，对embedding、norm、bias和head等非隐藏参数继续使用AdamW。混合优化器身份是比较的一部分，不能忽略辅助AdamW后声称完全替代。
教学例子：一维norm参数并不适合直接套用矩阵Newton–Schulz迭代。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Muon 为什么把隐藏矩阵的更新方向看成一个矩阵几何问题？
Muon is Scalable for LLM Training
问答新增：2026-10-27 · Moonshot AI / UCLA
展开答案与例子
答案：隐藏权重各坐标共同构成线性映射，Muon用动量矩阵的近似polar方向组织更新，而非只逐坐标调尺度。它关注更新方向的谱结构，并配合形状缩放及weight decay。
教学例子：矩阵中一个相关方向很强时，处理整张矩阵与给每个元素独立调步长不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
为什么 pairwise sigmoid 对齐还要加入局部自蒸馏与 masked prediction？
SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：全局图文匹配主要约束整张图与描述的兼容性，未必充分训练局部位置与稠密特征。局部自蒸馏及掩码预测补充空间细节监督，captioning 与数据筛选又改善语义来源；这些组件的贡献要通过对照区分，不能都归因于单一 sigmoid 损失。
教学例子：例如整图描述只说“街上有车”，局部训练还能要求遮住的车轮附近表示可恢复，帮助保留更细的空间线索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
实现 sigmoid 配对损失时，z 的符号和偏置如何进入公式？
SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：正负 pair 的标签为加一或减一，统一放入负号内的 log(1+exp(-z·score))，其中 score 包含缩放点积和偏置。把标签误写成零和一而不改公式会让负例失去约束；本地还只做了类别文本与 masked-view 一致性。
教学例子：例如负 pair 取 z=-1 时，高相似度会增加损失；若误取 z=0，损失恒定，模型便收不到排斥负例的梯度。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
pairwise sigmoid 与 CLIP 的批内 softmax 在配对约束上有何不同？
SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：softmax 在一行或一列的候选之间归一化，让正配对与同批其他项竞争；sigmoid 为每个图文 pair 使用正负标签与独立二分类形式。两者的归一化及温度、偏置作用不同，但损失形式的差别本身不是跨数据集效果结论。
教学例子：例如一个批次的猫图与猫文是一对正例，猫图与狗文是一对负例；sigmoid 分别给两对施加二分类约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
SigLIP 2的NaFlex动态分辨率，是在调整类别标签数量吗？
SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：不是。动态分辨率处理视觉输入如何表示与分配计算，类别文本或其他下游标签是另一维。SigLIP 2同时涉及输入适应性、图文语义和局部表示训练，不能把改变图像尺寸的路径理解成扩展类别词表，也不能以单一固定尺寸的损失核代替完整输入配方。
教学例子：同一组猫狗标签下，可以给模型不同尺寸的图片；图像输入改变，并不意味着类别从两种变成更多种。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
SERAL 为什么引入 LLM 与人工的 CDI 偏好，再用 IPO 对齐，而不直接最大化历史命中？
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：历史日志倾向重复已有曝光，单纯拟合会把未见但可能合适的内容排除。多层认知画像提供压缩上下文，CDI 补充日志外的偏好判断，IPO 对齐胜负并保留 SFT 约束，近线生成缓存降低服务成本。相关性与未见性需分别验证；本地排序提高但新颖度下降，不能只凭命中改善就称为更惊喜。
教学例子：用户一直看熟悉导演，日志只教会重复推荐。人工与模型可比较一部未看过却题材合适的新片和普通熟片，为探索提供信号，但仍需验证用户是否真的接受。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
SERAL为什么nearline生成并缓存而不每请求生成？
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：把重生成成本移出在线关键链路，在线ranker消费缓存候选；需记录画像和缓存版本及刷新，陈旧候选不自动适应即时需求。本地模块不代表生产库存与人类CDI全量实现。
教学例子：例如用户兴趣转向后应更新缓存，而非永远复用旧候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
SERAL在本地命中提高但新颖度下降时，能称为惊喜推荐全面改善吗？
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：不能。惊喜目标同时涉及相关性与未见性，历史命中只覆盖部分要求。若一种指标改善、另一种下降，应分别报告并讨论取舍，不能用单一排序分数替代整个目标；本地代理也不能外推真实用户惊喜或生产转化。
教学例子：推荐更多用户熟悉的热门内容可能更易命中，却更少带来未见内容；这两种变化应同时展示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
SERAL为什么把惊喜推荐定义为相关且未见？
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：只新奇可能无关，只相关又易重复反馈环；多层用户画像与额外偏好对照尝试兼顾两者，再nearline生成候选供排序。新颖不等于用户一定满意。
教学例子：例如推荐陌生但契合长期兴趣的内容，而不是随机冷门物品。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
MoBA选择少数远程block时，为什么还要保留当前的因果block？
MoBA: Mixture of Block Attention for Long-Context LLMs
问答新增：2026-10-27 · Moonshot AI
展开答案与例子
答案：块级路由负责寻找远处相关区域，当前块则承载尚未完成的近邻上下文。保留当前因果块可避免路由遗漏局部连续信息，并通过因果掩码限制可见位置；命中块内部仍执行token级attention。稀疏收益来自少读一些块，不意味着任意删块都能保持相同分布。
教学例子：当前句子的主语刚出现在本块，而远处章节包含背景知识。即便路由更偏爱远程章节，也不能把刚出现的主语一起排除，更不能读取当前块尚未生成的后缀。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
实现 MoBA 时，选中当前块是否就可以忽略块内因果约束？
MoBA: Mixture of Block Attention for Long-Context LLMs
问答新增：2026-10-27 · Moonshot AI
展开答案与例子
答案：不能。当前块里仍包含查询之后的位置，必须保留token级因果屏蔽。文档的本地参考用8-token块和top-2选择，属于具体缩小配置，不能直接当成百万上下文fused kernel。
教学例子：同在第一个8词块，第3词依然不能读取第7词。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
MoBA 的按内容选块，相对固定最近窗口保留了什么可能性？
MoBA: Mixture of Block Attention for Long-Context LLMs
问答新增：2026-10-27 · Moonshot AI
展开答案与例子
答案：固定窗口按位置截断，窗口外再相关也不可读；内容路由有机会选回远处相关块，但可能遗漏没被选中的证据。代价由块大小和选块预算共同决定，不能理解为无损裁剪。
教学例子：开头出现的人名可以因内容匹配被选回，而不是因太旧必然被丢掉。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
MoBA 为什么把历史划成 block，而不是给每个 query 都读完整历史？
MoBA: Mixture of Block Attention for Long-Context LLMs
问答新增：2026-10-27 · Moonshot AI
展开答案与例子
答案：它把块作为路由单元，先为query挑少量相关历史，再在命中的块内做精确attention。这样减少候选配对范围，同时保留块内的细粒度读取。
教学例子：当前问题只需要两段相关材料时，不必对整篇每一个词都建立attention配对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
NSA已经有压缩历史，为什么还要选择原始块和保留滑动窗口？
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：压缩块提供便宜的全局轮廓，却可能抹掉关键token细节；选择分支再根据当前查询读取重要原始块，滑窗保留近期精确信息。三条路径承担不同信息粒度，从预训练起一起学习并融合，不是训练结束后临时删掉部分attention。三路都必须保持因果性。
教学例子：压缩摘要能告诉模型某章讲日期，却可能分不清两个年份；选中该章后读取原始token来区分，同时从滑窗保留当前句子的限定条件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
NSA 三条分支都需要遵守因果边界吗？
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：需要。压缩块、选中的细块和局部滑窗都不能包含当前查询的未来信息；各分支输出还需对齐维度再门控融合。本地edge proxy只计连接数量，不代表已经实现论文Triton吞吐。
教学例子：被选中的块若跨过当前位置，仍要屏蔽块内尚未出现的词。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
NSA 与训练完成后简单裁掉低 attention 权重，有什么关键差别？
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：NSA从预训练起联合学习三路算子及其门控，而非只在已训练的dense模型上删除连接。它改变了训练时的信息通路；后处理裁剪不能自动获得同样的适应过程。
教学例子：模型从一开始就学会在摘要与细块之间取舍，区别于训练后突然拿走一部分历史。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
NSA 为什么同时保留压缩、选择和滑窗三条注意力路径？
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
问答新增：2026-10-27 · DeepSeek
展开答案与例子
答案：压缩块提供全局轮廓，按query选中的细块补回细节，滑窗保留近期精确信息。三路承担不同信息职责，再由可学习门融合，避免仅靠一种稀疏方式覆盖全部需求。
教学例子：主题摘要、远处关键句和当前短语细节可以分别来自三条路径。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
SessionRec 为什么先把一次访问聚成 session token，再预测下一 session 的多正例？
SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：同次访问的多个物品常共享一个意图，逐物品训练会把它们硬排成唯一先后关系。ISE 先聚合会话内部内容，SSE 再学习会话之间的兴趣迁移，目标将下一会话全部正反馈作为正例，并利用真实未点击曝光区分难负例。它改变了监督单位，不是单纯缩短序列；会话划分错误也可能混合不同意图。
教学例子：一次访问同时看帐篷、睡袋和防潮垫，下一次访问关注徒步鞋。先用一个会话 token 表达露营采购，再预测下一组需求，比认定“睡袋后唯一应看防潮垫”更贴近组消费。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
SessionRec困难负例可以从全库随机补成未点击曝光吗？
SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：不可以，困难负例来自同session真实曝光未点击。当前训练轮采正例做CE但评估保留完整集合，不能把轮采一个误报成只剩单正例任务。
教学例子：例如没展示过的电影不能伪标为用户看见却拒绝。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
SessionRec的ISE与SSE分别处理哪种顺序？
SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：ISE聚合会话内物品，SSE处理会话间时间迁移；均值ISE弱化会话内先后，不能说整个模型无顺序。SSE可用Transformer或HSTU，不限定一个骨干。
教学例子：例如午间与晚间两会话次序重要，午间同意图几次浏览未必需强行排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
SessionRec中的session token是一件商品，还是同次访问的一组物品表示？
SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：它由会话内多个物品经ISE聚合得到，代表一次访问，再交给SSE建模会话间迁移。下一session也可能包含多条正反馈，不是给每个token重新取一个商品ID。先分清物品级与会话级单位，才能读懂多正例目标。
教学例子：一次访问看了甲乙丙，可先聚成一个session表示；下一次访问的丁戊仍可以共同成为目标集合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
LUM中的condition为什么要放在即将预测的item之前，而不是当上一item的反馈？
Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：condition表达接下来选择发生的场景、查询或类别，它应约束未来物品分布；若附在上一物品上，就改变为解释过去行为的信号。LUM用条件化生成建立可查询的用户知识，再离线抽取多种兴趣特征供DLRM使用，而不是要求线上直接运行大生成模型。两种token语义不能只因形式相似就互换。
教学例子：用户接下来进入厨房品类，condition应帮助预测将看的锅具；若把它当成上一双跑鞋的反馈，训练就会学到完全不同的条件关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
LUM 离线一次追加多个 query condition，为什么要屏蔽 query-query attention？
Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：各查询应在同一公共历史上独立取证，互读会让一个条件结果依赖其他查询顺序，破坏可复用查询语义。训练目标落在 condition 输出以预测紧随 item，不是 item 后附 action。缓存特征需绑定同一前缀与条件版本。
教学例子：查询“高评分”和“低评分”一起计算时，两者不能交换预测线索；否则只改变查询排列就可能改变用户知识，无法当独立条件接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
LUM 的多个条件查询与一个固定用户 embedding，信息组织有何不同？
Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：单向量压缩所有需求，多条件查询可提取不同场景或偏好切面的知识，再由下游结合目标使用。更多查询增加容量和缓存成本，且可能冗余。来源相对无序列 ID-DLRM 的增益含多种新增信息，不能只归给条件 token 本身。
教学例子：同一用户在“高评分”“低评分”条件下可得到不同物品倾向，下游看二者差别；一份平均向量可能把喜欢与回避混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
LUM 为什么把用户知识生成和在线 DLRM 排序分为三步？
Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：大生成模型先学用户条件关系，再离线查询不同兴趣并缓存，最后把知识向量及目标匹配分接到成熟判别模型，避免请求时重跑大模型。知识服务任意 DLRM 的接口并非自动无损迁移，缓存时效与条件定义仍重要。
教学例子：后台为用户按多个兴趣条件准备知识，线上原 DLRM 读取并与当前商品匹配；不用为了引入大模型知识替换全部实时特征系统。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
FuXi-α为什么用多个交互通道和逐级FFN，而不是只把单路attention堆得更宽？
FuXi-α: Scaling Recommendation Model with Feature Interaction Enhanced Transformer
问答新增：2026-10-27 · Huawei / USTC
展开答案与例子
答案：单一路径可能把不同字段关系挤进同一表示，增加宽度未必改善交互组织。多个自适应通道先表达不同关系，multi-stage FFN再逐级融合，使参数扩展与特征交叉相配合。但通道数量增加也可能重复建模，不能因参数更多就宣布更有效，需与单通道及同预算配置比较。
教学例子：用户—商品、场景—商品、行为—候选的关系可先由不同通道捕获，再逐步组合；若所有通道都学成相同注意力，扩大它们只会增加成本。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
FuXi-α 递进残差融合时，通道输出需要满足什么形状与更新顺序？
FuXi-α: Scaling Recommendation Model with Feature Interaction Enhanced Transformer
问答新增：2026-10-27 · Huawei / USTC
展开答案与例子
答案：不同通道可有各自 Q/K/V，但拼接后经 FFN 必须映回主状态维度才能残差相加，层号和旧新状态应保持一致。通道权重训练需真实更新，不能用几份固定相似分拼接冒充自适应交互；本地对照仅针对实际实现预算。
教学例子：三个通道各输出 d 维，拼接连同主干变成多倍宽，FFN 需投回 d；直接把拼接结果与原向量相加虽想法相近，数学结构不成立。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
多阶段融合与把多路 attention 输出一次拼接到最终头，相比信息交换在哪发生？
FuXi-α: Scaling Recommendation Model with Feature Interaction Enhanced Transformer
问答新增：2026-10-27 · Huawei / USTC
展开答案与例子
答案：逐级 FFN 在中间层融合当前状态与各通道，再把结果传给后续层，关系可以继续组合；末端拼接只给最终头一次融合机会。前者增加深层容量与成本，不能从结构复杂推出效果更好，来源本地 NDCG 下降需保留。
教学例子：先形成“夜间场景”与“价格敏感”关系，再在后层组合为夜间优惠需求；末端拼接只能基于两路最终摘要做一次整合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
FuXi-α 为什么认为特征交互通道需要分工？
FuXi-α: Scaling Recommendation Model with Feature Interaction Enhanced Transformer
问答新增：2026-10-27 · Huawei / USTC
展开答案与例子
答案：异构字段之间包含多种关系，单一交互空间可能只学到最强模式，扩宽未必让弱关系出现。多个自适应通道分别建模，再由多阶段 FFN 融合，让网络有机会保留不同结构。通道数量不是语义多样性的保证，仍可能学成重复表示。
教学例子：用户与商品匹配、场景与价格关系可走不同通道；如果三个通道最后都只看热门度，增加通道也没有得到互补知识。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
核心机制
leave-one-out baseline 为什么把当前轨迹自己排除？
LOOP
问答新增：2026-10-27 · Apple
展开答案与例子
答案：用其他同组结果作基线，减少把本条回报直接混进自身参照的影响，在无 critic 条件下形成相对优势。长 rollout 成本高，因此逐 token ratio 裁剪和复用同批更新有价值；但多次更新仍受策略漂移约束，不能无限重复把旧轨迹当新 on-policy 数据。
教学例子：例如三条回报为一、一、零，第一条与另外两条平均比较，而不是用包含自身的整体均值；局部漂移 token 再单独裁剪。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
实现细节
LOOP 的 leave-one-out baseline 在 K=1 时还能直接计算吗？
LOOP
问答新增：2026-10-27 · Apple
展开答案与例子
答案：公式分母K−1为0，单条轨迹不满足该组基线定义，需显式处理或拒绝。复用多epoch时还需固定对应旧策略概率和episode身份，不能临时把当前回报又放回其自己的基线。
教学例子：只有一条样本时，“其它样本平均值”并不存在。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
方法对比
LOOP 的逐 token clipping，与发现一个漂移 token 就丢整条轨迹有什么差别？
LOOP
问答新增：2026-10-27 · Apple
展开答案与例子
答案：逐token约束局部策略漂移，让长轨迹其它有效部分仍能被利用；整条丢弃会损失更多昂贵交互数据。多次复用仍需保留旧行为概率，不是把off-policy样本当全新on-policy。
教学例子：一百步轨迹只有一个token ratio异常，不应无条件删除其它所有已采反馈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 交互策略学习：把轨迹反馈变成更新
基础理解
LOOP 为什么用同任务多条轨迹代替独立 value network？
LOOP
问答新增：2026-10-27 · Apple
展开答案与例子
答案：多条轨迹的回报可构造leave-one-out基线，减少critic训练维护，并与PPO trust region结合复用昂贵rollout。无value network不表示无需重要性比或漂移控制。
教学例子：一条轨迹用其它同题轨迹的平均回报作比较基线。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
MIM先做多模态遮盖重建后，为什么还要content-interest-aware SFT？
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：重建能学习内容内部结构，却不告诉模型哪些语义与用户偏好有关。后续SFT用消费兴趣对齐内容空间，再融合内容兴趣和ID兴趣，让新品知识与已有协同信号相互补充。若只完成内容重建，就不能声称已学到推荐相关性；ID与内容融合也需避免一侧完全压过另一侧。
教学例子：模型能补回商品图片的颜色，不代表知道用户关心轻便还是耐用；兴趣对齐把这些消费差异引入内容表示，之后再与有行为的老商品ID知识结合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MIM 的 mask 重建和推荐 target，为什么要使用不同的可见性规则？
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：训练可遮住部分内容再重建，但推荐输入必须截止当前用户历史，未来物品及其反馈只能作目标。内容模态 mask 不能掩盖时序泄漏；若完整目标 item 提前进入用户兴趣，重建再困难也不是合法 next-item 评估。
教学例子：遮住历史海报的一块是内容训练，先把测试电影全向量放进历史再预测它则泄漏；两者都叫 mask，不代表约束相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MIM 双兴趣融合与只用 ID 共现，相比对新品增加哪类可用线索？
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：ID 共现依赖反馈，内容兴趣能从多模态共享知识迁移到少交互物品，两者互补。内容噪声和兴趣映射错误也可能拖累排序；来源 NDCG 略升而 Hit 下降，不能挑一个指标称全面获益。新品表现还需独立分组。
教学例子：新电影无共现，内容分支仍可识别科幻主题；但若海报误导成动作片，加入内容也可能让原本稳定的 ID 评分退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MIM 为什么在多模态重建后还要做内容—兴趣对齐？
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
问答新增：2026-10-27 · Alibaba / Taobao
展开答案与例子
答案：重建学习内容可恢复信息，却不直接教模型哪些内容差别对应用户偏好。content-interest-aware SFT 连接语义和协同，CiUBM 再融合内容与 ID 兴趣。内容理解与推荐选择是不同任务，重建 loss 低不能代替推荐效果证据。
教学例子：模型能复原电影海报颜色，不代表知道用户偏好硬科幻还是轻喜剧；对齐阶段需要真实行为监督把内容特征变成兴趣信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
AdaF²M²的多种mask前向，和只随机丢一次特征有什么区别？
AdaF²M²: Comprehensive Learning and Responsive Leveraging Features in Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：多路mask让模型在不同信号缺席时分别学习互补表示，而非只拿一次受扰结果训练。state-aware adapter再根据当前用户或物品状态分配各路权重，使强特征可用时利用它、脆弱时依赖其他路径。收益来自条件化融合，不能把多路简单平均视为同一机制。
教学例子：老商品可重用行为路，新商品更依赖内容路；同一次请求分别计算遮掉行为、遮掉内容的表示，再由状态决定组合比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
实现 AdaF²M² 的融合时，softmax 应沿哪个维度计算？
AdaF²M²: Comprehensive Learning and Responsive Leveraging Features in Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：对同一样本的多个 mask 分支计算权重，softmax 沿分支维归一，使各分支表示按权重求和得到一个输出。批次中不同样本应各有自己的权重，不能把用户混在同一归一化轴；各分支输出维度也要一致才能相加。
教学例子：批内两位用户各有三份表示，应各生成三个和为一的权重，而不是把六个数一起归一，使一位用户的权重依赖另一位用户。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
AdaF²M² 的多前向融合与单模型特征 dropout，训练和服务目标有何不同？
AdaF²M²: Comprehensive Learning and Responsive Leveraging Features in Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：单次 dropout 主要迫使同一网络适应缺失输入，多前向则保留多种遮罩对应的表示，融合器学习它们在当前状态下的互补性。额外分支带来计算成本，不能只按参数量认为与一次前向等价；来源的局部比较也不证明任意部署预算下都更优。
教学例子：一次随机删掉价格只训练抗缺失；同时保留含价格与不含价格两种预测，再依商品状态融合，才是在使用两个视角作决策。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
AdaF²M² 中的 state-aware 融合为什么不是给所有样本固定使用同一套特征？
AdaF²M²: Comprehensive Learning and Responsive Leveraging Features in Recommendation System
问答新增：2026-10-27 · ByteDance / Douyin
展开答案与例子
答案：不同用户活跃度和物品反馈量决定哪些信号可靠。多种 mask 产生互补表示，state-aware 权重再依据当前状态分配贡献，避免强特征在所有情形都占主导。状态是选择信息的条件，不能把一次融合权重理解为永久特征重要性。
教学例子：老用户历史丰富时重视行为分支，新用户只有内容线索时提高内容分支权重；两人的输入字段种类相同，也可得到不同融合比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
REINFORCE++为什么保留组内中心化，却把尺度归一化放到全局？
REINFORCE++
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：组内中心化消除同题共同难度，但局部标准差可能把偶然小方差组放大。跨batch的全局尺度提供更一致的更新量纲，在不增加critic的情况下减少局部重新加权。全局统计的窗口与分布也有影响，小batch EMA诊断不能当作大规模稳定性证明。
教学例子：两道题都出现一点奖励差，只有一道题的组方差特别小；统一全局尺度可避免它因偶然方差而获得异常大权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
REINFORCE++的EMA状态在评估中能用金标重估吗？
REINFORCE++
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：训练统计应按规定批次顺序更新并保留状态，不能用测试答案调尺度。当前小候选批EMA只验证统计与更新语义，不代表原文大batch分布。
教学例子：例如把全测试集奖励先扫一遍定分母，会把评测信息带回训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
全局EMA归一与组内GRPO归一为什么不是交换顺序而已？
REINFORCE++
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：分母统计范围不同，组内均值仍描述同题相对表现，全局二阶量提供共享尺度。改统计范围会改变题间权重，不能仅称为相同优势的更快计算。
教学例子：例如两组奖励差一样、方差不同，共享尺度与各除本组方差会产生不同结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
REINFORCE++为什么不用每个prompt自己的标准差？
REINFORCE++
问答新增：2026-10-27 · Independent researchers
展开答案与例子
答案：局部方差由少量采样决定，可能随机放大某些难度组。保留组内中心化、使用全局优势尺度，试图减少这种跨题重新加权，而不增加critic。
教学例子：例如某题偶然只有一点奖励波动，不应因此被局部归一放得特别大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
BLT直接读byte，为什么全局Transformer不必给每个byte都付同样计算？
Byte Latent Transformer: Patches Scale Better Than Tokens
问答新增：2026-10-27 · Meta FAIR
展开答案与例子
答案：局部模块处理字节，熵信号决定在哪里形成新patch；全局Transformer只在patch级进行交互，局部解码再恢复字节预测。规则允许简单片段聚成较长patch、困难片段使用更细粒度。因此省的是全局交互次数，并非跳过所有字节处理，也不等同于使用固定的分词表。
教学例子：重复格式可以被局部模块概括成较长patch，难预测的片段触发更多边界；两段字节长度相同，调用全局模型的次数可以不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
本地 surprisal boundary 路径，为什么还不能称作完整 BLT？
Byte Latent Transformer: Patches Scale Better Than Tokens
问答新增：2026-10-27 · Meta FAIR
展开答案与例子
答案：文档当前使用512-symbol tokenizer近似byte字母表，执行可学习边界和latent共享，但未复刻完整local encoder/decoder与8B训练。复用时必须保留这一区别，不能把近似符号表称为原始byte实现。
教学例子：一个小模型能按边界合并位置，不代表已经包含论文从byte编码到byte解码的全部模块。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
BLT 的动态 byte patch 与固定 tokenizer 切词，边界来自哪里？
Byte Latent Transformer: Patches Scale Better Than Tokens
问答新增：2026-10-27 · Meta FAIR
展开答案与例子
答案：固定tokenizer使用预先建立的词片段规则；BLT根据当前前缀的next-byte entropy决定patch边界，使计算粒度随内容不确定性变化。两者都分段，但并非同一分词算法。
教学例子：同一类字符序列在不同上下文中的预测难度不同，动态patch边界也可能变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
BLT 为什么在 byte 与全局 Transformer 之间引入 patch？
Byte Latent Transformer: Patches Scale Better Than Tokens
问答新增：2026-10-27 · Meta FAIR
展开答案与例子
答案：直接逐byte做昂贵全局计算成本高。BLT按next-byte不确定性形成可变patch，把全局计算集中到patch级，再由局部编码器/解码器连接byte级输入与输出。
教学例子：容易预测的连续字节可以合成较长patch，复杂位置则需要更细的分段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
PRECISE 为什么先冻结文本表示训练 ID，再解冻联合训练？
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：预训练文本表示一开始可能远强于随机 ID 分支，优化器容易直接依赖文本，使 ID 得不到足够学习，协同信息因而缺席。先固定文本侧迫使 ID 学到可用差异，再联合训练让两者互补。全场景预训练到稀疏目标任务适配则解决迁移范围；总体指标改善并不保证长尾或冷启动子集同步改善。
教学例子：两部题材相近的电影文本很像，用户群却不同。若模型一直靠文本完成训练，ID 难学到群体差别；分阶段训练让 ID 先获得区分能力，再融合语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
PRECISE 从 causal UT 切到非 causal TT，为什么依然必须排除目标 item？
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：TT 可双向读取已知历史，并不允许看到待预测事件。最后目标须在构序列前留出，拼接所有位置的 MLP 只能处理合法输入。重复 item 的 in-batch 目标也需避免假互斥，源码修复过这一点，不能因切 mask 就放宽测试隔离。
教学例子：历史甲乙可互读，测试丙仍不能放进 TT 输入；非 causal 只改变历史内部可见性，不是给模型使用未来答案的权限。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
PRECISE 的 token attention MoE 与单独平均文本向量，相比保留哪些可选择细节？
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：顺序 token 表示允许专家关注不同词段，top-k gate 组合多种语义视角，平均向量提前压平差别。它增加容量也可能重复或由强文本压制 ID，因此先冻结文本训练 ID。更多专家不能代替实际互补和冷尾证据。
教学例子：标题里“初学者”和“专业版”小词可由不同专家聚焦，简单均值可能淡化；但若所有专家只盯热门演员名，细节仍未真正保留。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
PRECISE 的 UT 与 TT 为什么分别面向全场景兴趣和稀疏目标？
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：全场景训练利用更丰富序列获得基本偏好，目标训练再适配较少标签的具体需求，使稀疏任务不完全从零开始。两阶段目标与注意力规则不同，迁移也可能伤冷尾。来源总体提升而 Cold Recall 下降，不能宣称全面改善冷启动。
教学例子：所有正反馈训练兴趣后，再学高评分偏好；学到热门模式可提高总命中，却未必让新电影更易被推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
MSD 为什么先蒸馏大模型的关键词与推理，再对学生做 CTR 对齐，而不只缓存大模型 embedding？
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：静态 embedding 能降低推理成本，却不会随点击目标调整。MSD 先让小学生通过自回归蒸馏学到教师的语义输出，再用 LoRA 和推荐适配器学习 CTR 相关表示。高频物品优先使用缓存，未命中部分在线编码，并只融合相关历史；这同时处理语义迁移、任务适配与服务成本，而非一次静态特征提取。
教学例子：教师离线解释一件外套的保暖与通勤属性，学生学会这种语义。CTR 阶段再根据用户行为调整表示；热门外套直接读缓存，新商品才触发在线编码。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
MSD 本地历史 top-3 与缓存 gate，为什么要分别检查候选相关和共享部分？
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：历史选取依 target 相似度，每个候选可得到不同子集；item 缓存则是可复用语义，不应夹带用户或目标专属交互。冻结 student 主干后仅更新约定 LoRA，需核对真实参数范围。两路混淆会让缓存污染或候选相关性消失。
教学例子：相机选摄影历史、跑鞋选运动历史，二者不能共用相机选过的 top-3；同一商品基础语义可共享，但筛选结果属于当前配对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
MSD 高频缓存、低频在线与全部在线编码，相比依什么分摊计算？
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：常出现物品预计算复用收益大，低频和未命中内容走在线补充，兼顾成本与覆盖；全部在线更及时却重复高频工作。缓存表示与当前 LoRA 版本可能不一致，刷新与命中率影响收益。来源本地未复刻生产 embedding 服务，不能按结构推真实效率。
教学例子：热门外套一天被评百万次可缓存，新上架雨衣先在线编码；若 LoRA 更新后缓存仍旧，频次门控就可能选择过时语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
MSD 的 MKDM 与 MKIM 为什么分成知识蒸馏和 CTR 适配两步？
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
问答新增：2026-10-27 · Meituan
展开答案与例子
答案：先自回归学习教师关键词与推理，让小学生取得可迁移语义，再用 LoRA 和推荐 adapter 连接实际点击目标，避免静态知识不能随任务调整。两个阶段的监督和参数范围不同，蒸馏 loss 降低不等于 CTR 一定提高。
教学例子：先教学生理解外套保暖和通勤属性，再用用户点击训练如何组合这些属性；只复制描述向量不会自动完成后一任务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
LEADRE为什么用意图prompt、语义辅助任务和DPO共同训练广告SID生成？
LEADRE: Multi-Faceted Knowledge Enhanced LLM Empowered Display Advertisement Recommender System
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：单独预测离散码可能只记住曝光ID，难利用广告内容与跨域需求。意图prompt整理长期与实时信号，语义和商业价值目标赋予码更明确的推荐含义，DPO再调整偏好取舍。偏好优化不保证每项检索指标都提高，内部SFT到DPO的变化应单独报告，而非借整体模型对另一基线的提升遮盖。
教学例子：同属家电类的两个广告可能一个符合当前装修意图、另一个只是高频曝光；语义与价值监督帮助区分，但DPO过度偏商业反馈也可能损害新增相关候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
LEADRE 构造 DPO 胜负广告 SID 时，为什么 reference 与上下文必须固定对应？
LEADRE: Multi-Faceted Knowledge Enhanced LLM Empowered Display Advertisement Recommender System
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：概率差比较同一用户意图下胜负路径相对参考的变化，错用另一请求或不断变化参考会改变目标。SID 合法映射与辅助任务标签应按截止构造，不能由测试答案生成 prompt。长期缓存与实时输入的版本也要一致。
教学例子：用户甲偏好的广告对不能配用户乙历史计算 reference；两个序列都是合法码也不意味着这份偏好比较仍有意义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
LEADRE 的完整系统与 DPO 阶段消融，为什么可能一个正向一个负向？
LEADRE: Multi-Faceted Knowledge Enhanced LLM Empowered Display Advertisement Recommender System
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：完整系统包含 SID、语义与价值辅助任务等多个变化，DPO 对照只检验在同一 SFT 基础上增加偏好更新。整体强于 DIN 不代表每个新增阶段都有效。来源本地 DPO 相对 SFT 退化，收益不能全部归给偏好对齐。
教学例子：先预训带来大收益，随后 DPO 损失一部分，最终仍高于弱基线；只报最终比较会让读者错以为 DPO 也已被验证。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
LEADRE 的 intent-aware prompt 为什么组合跨域、长期总结和实时行为？
LEADRE: Multi-Faceted Knowledge Enhanced LLM Empowered Display Advertisement Recommender System
问答新增：2026-10-27 · Tencent / WeChat
展开答案与例子
答案：跨域提供本广告域缺少的线索，长期总结保留稳定兴趣，实时行为反映当前变化，多源意图使 S-ID 生成不只记广告编号。总结和缓存都有时效损失，来源不同也可能冲突，不能把它们拼长就当作完整理解用户。
教学例子：长期摄影偏好、最近旅行搜索和当前相机浏览可共同支持便携装备广告；若只看本域点击，新广告可能没有任何可用连接。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Hymba为什么在同一层并行放attention和SSM，而不简单轮流堆两种层？
Hymba: A Hybrid-head Architecture for Small Language Models
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：并行分支让同一份当前输入同时获得显式历史读取和递归状态摘要，再融合两种输出。attention可补充直接检索，SSM提供另一种历史压缩路径；两者在一次层更新中协作。这样安排并不意味着两个分支免费运行，融合方式、KV缓存与状态预算仍共同影响成本。
教学例子：当前词既需要找回前文的一个名字，又依赖持续累积的语法状态；同层可分别读取具体位置与递归摘要，再把两种信号交给下一层。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
本地 Hymba 路径已经覆盖原论文所有结构与吞吐优化了吗？
Hymba: A Hybrid-head Architecture for Small Language Models
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：没有。当前文档记录的是causal attention与深度卷积状态分支的并行融合，未复刻meta tokens、1.5B规模与fused kernel。实现或复用时应明确这些边界，不能由分支可执行推导论文吞吐。
教学例子：小模型里门控融合能前向通过，只证明这条本地路径可运行，不证明完整Hymba部署速度。
依据：复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
同层并行的 Hymba，与交替堆 attention 层和 SSM 层有什么结构差异？
Hymba: A Hybrid-head Architecture for Small Language Models
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：并行结构让同一输入在一次层更新中进入两条分支，再融合输出；交替堆叠则让后一类层读取前一层已经变换的结果。两者的计算图和信息融合时机不同，不能仅按层数视为等价。
教学例子：并行时两位读者同时看原输入再合议，交替时第二位只先接到第一位整理后的表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Hymba 为什么同时需要显式历史读取和递归摘要？
Hymba: A Hybrid-head Architecture for Small Language Models
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：显式attention适合直接找回某些位置的信息，状态空间分支把历史压缩为递归状态。混合架构希望在同层结合这两种访问方式，而不是要求其中一种承担所有依赖。
教学例子：找回上文姓名与维护持续语法状态，可以分别受益于具体位置读取和递归累积。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
TWIN-V2 为什么把生命周期行为聚成带规模信息的虚拟物品，再做候选相关检索？
TWIN V2: Scaling Ultra-Long User Behavior Sequence Modeling for Enhanced CTR Prediction at Kuaishou
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：极长历史无法逐事件在线精算，离线层级聚类先把重复或相似行为压成代表簇。在线 GSU 选择候选相关簇，ESU 再做 cluster-aware 交互，并考虑簇规模，避免把大簇仅因人数多而重复放大。压缩提高可服务性，却可能掩盖簇内稀有事件，不能把虚拟物品看作无损替代全部历史。
教学例子：用户多年里反复浏览相似跑鞋，可聚成一个带次数的虚拟物品。候选是越野鞋时检索相关簇，再利用规模信息，而不是把几千次近似浏览逐个计算注意力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
TWIN V2本地公开全库排序能证明百万行为服务吗？
TWIN V2: Scaling Ultra-Long User Behavior Sequence Modeling for Enhanced CTR Prediction at Kuaishou
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：不能，当前只执行候选相关检索和层级压缩参考路径，没有私有全生命周期日志或serving。簇成员、规模与时间mask应一致，线上A/B仅作原文引用。
教学例子：例如小MovieLens簇检索跑通，不代表生产百万条历史延迟已测。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
簇检索与SIM直接检索原始行为有何区别？
TWIN V2: Scaling Ultra-Long User Behavior Sequence Modeling for Enhanced CTR Prediction at Kuaishou
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：一个在压缩原型层筛选后还原或聚合细节，一个直接从行为选子序列；覆盖、精度与成本不同。聚类误差可能丢细节，不能只看支持更长历史就断言全面更准。
教学例子：例如稀有兴趣被大簇合并后，原始行为检索或许仍能找到它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
TWIN V2为什么用带规模的虚拟item压缩生命周期历史？
TWIN V2: Scaling Ultra-Long User Behavior Sequence Modeling for Enhanced CTR Prediction at Kuaishou
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：百万行为逐项在线匹配太贵，离线层次簇概括相似历史并记录规模，在线候选检索相关簇再精排。簇大小影响代表意义，不是把所有行为无权平均。
教学例子：例如用户多次类似行为形成一簇，需与仅一次偶然行为区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
统一 event stream 为什么有助于把终端、编辑器和浏览器串成可检查的软件工作流？
OpenHands
问答新增：2026-10-27 · All-Hands-AI
展开答案与例子
答案：每个动作与 sandbox 返回都进入同一时序记录，后续策略可依据真实反馈继续，审阅者也能追踪修改和验证的来源。统一事件不意味着各种工具语义相同，更不等于代码已安全或正确；执行隔离、权限和实际测试仍承担各自职责。
教学例子：例如编辑事件修改文件，终端事件跑测试，浏览器事件核对页面；统一记录能判断测试究竟发生在修改前还是修改后。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地浏览器接口语义是否表示网页交互已经接通？
OpenHands
问答新增：2026-10-27 · All-Hands-AI
展开答案与例子
答案：没有。本地真实写入 editor 事件并在独立临时目录跑固定回归，浏览器仅保留接口语义，未连接网页环境或完整 controller。应依据实际事件和结果声称验证范围，不能把一个 browser action 类型存在写成真实导航测试通过。
教学例子：例如日志允许记录 browser_open，不等于已打开页面、获取 DOM 并点击控件；这些交互还需要真实浏览器证据。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
平台 runtime 与具体 Agent controller 为什么不能当同一贡献？
OpenHands
问答新增：2026-10-27 · All-Hands-AI
展开答案与例子
答案：平台提供动作、观察与隔离接口，controller 决定如何规划和使用这些接口，不同策略可共用平台。运行一段 editor/terminal 链路只验证执行能力，不能自动代表完整 OpenHands 模型推理或官方 SWE-bench resolved rate。
教学例子：例如同一 sandbox 可以由规则脚本或语言模型控制，二者共享工具却不具有相同 issue 理解与修复能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
OpenHands 为什么把软件 Agent 做成能编辑、执行和浏览的工作平台？
OpenHands
问答新增：2026-10-27 · All-Hands-AI
展开答案与例子
答案：真实软件任务不止生成代码，还需要查看文件、运行命令、检查页面和接续长过程。OpenHands 提供把这些操作与反馈连接起来的基础设施，让控制策略有一致的工作环境。平台支持接口与具体 Agent 能否完成任务是两层证据，接通工具也不等于所有控制策略可靠。
教学例子：教学例：修改前端后需启动服务并看页面，再根据报错回到代码；只有代码生成接口无法覆盖这条完整工作链。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
核心机制
CDM把MMR教师蒸馏给学生，学生为什么必须看同请求候选的上下文？
Contextual Distillation Model for Diversified Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：一个物品是否被MMR选中取决于其他候选及其重复程度，单看物品本身无法恢复这种集合关系。CDM学习目标物品相对上下文的入选倾向，再与原推荐分结合，把昂贵的逐步去冗余知识转成可服务的评分。学生近似不保证完全复刻教师列表，本地缩小实验也不能推出生产多样性收益。
教学例子：同一段旅行视频，在十段近似视频里可能被淘汰，在全是做饭视频的列表中却很独特；不输入候选上下文，学生无法区分这两种情况。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
实现细节
CDM 教师生成序列时，为什么选出一项后要更新相似度惩罚？
Contextual Distillation Model for Diversified Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：MMR 惩罚相对当前已选前缀的最大相似度，每次加入新项都会改变剩余候选的边际分。若一次算完固定分再排序，就不是同一上下文决策。学生训练标签也应对齐相应前缀，不能把不同阶段的收益混成一个静态单品目标。
教学例子：选中第一条露营教程后，另一条近重复教程应被重新降权；若仍使用空列表时的得分，两条可能相邻出现，失去教师的去冗余作用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
方法对比
CDM 蒸馏与每次在线直接运行 MMR，相比节省了什么又引入什么误差？
Contextual Distillation Model for Diversified Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：直接 MMR 每步根据已选集合重新计算惩罚，蒸馏学生将这种规则近似写入可快速预测的模型，减少在线迭代成本。近似可能在新候选分布或长列表下失真，需要核验精度与多样性，而非只看延迟；来源代理改进不证明教师规则已被无误复现。
教学例子：教师反复比较候选和已选项，学生一次近似给出边际分；若遇到训练没见过的高度重复候选，学生可能低估冗余，仍需检查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 列表与业务控制：重排、出价和长期价值
基础理解
CDM 为什么把多样性理解为当前已选前缀下的边际收益？
Contextual Distillation Model for Diversified Recommendation
问答新增：2026-10-27 · Kuaishou Technology
展开答案与例子
答案：同一物品是否有增量价值取决于列表已有内容：第一条科幻片可能丰富，第四条相似科幻片则冗余。MMR 教师显式结合相关性与重复惩罚，学生学习该上下文收益以便低延迟服务。多样性不是给某个物品永久增加固定分数。
教学例子：列表已有两部同导演作品，再放第三部的边际价值可能低；若列表尚无该导演，同一影片则可能是很好的补充。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
用反事实观看时长打分，为什么比直接比较实际观看秒数更贴近偏好？
Counteracting Duration Bias in Video Recommendation via Counterfactual Watch Time
问答新增：2026-10-27 · Kuaishou Technology / Renmin University of China
展开答案与例子
答案：实际观看秒数同时受内容吸引力和视频长度限制，长视频天然有更多累积空间。CWM尝试在统一时长干预下比较潜在观看收益，将机会差异与偏好信号分开。这个估计依赖反事实建模假设，并非简单用秒数除以时长；本地代理机制不能证明已消除真实曝光与时长混杂。
教学例子：一个短视频被完整看完20秒，另一个长视频看了30秒就划走，直接按秒数会偏向后者；统一观看机会后，二者的偏好排序未必相同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
实现 CWM 的 do(D=d0) 目标时，训练与预测的时长变量要如何区分？
Counteracting Duration Bias in Video Recommendation via Counterfactual Watch Time
问答新增：2026-10-27 · Kuaishou Technology / Renmin University of China
展开答案与例子
答案：观测 D 可用于拟合时长机制，预测比较时应按约定固定 d0，再输出相应潜在量及定义的偏置项。若每个候选仍用自身长度却声称统一干预，就没有完成目标。来源本地电影代理缺少真实短视频观看数据，不能当作潜在观看收益实测。
教学例子：比较三十秒与五分钟候选时都设相同 d0；一个用三十、另一个用三百再称公平时长比较，会把原来的长度差重新带回。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
CWM 与按完播率排序相比，消除时长影响的假设有什么差别？
Counteracting Duration Bias in Video Recommendation via Counterfactual Watch Time
问答新增：2026-10-27 · Kuaishou Technology / Renmin University of China
展开答案与例子
答案：完播率是观测比例，对短内容更容易达到高值，也没有显式反事实。CWM 目标是对统一时长干预估计潜在结果，试图区分偏好与长度机制。两者偏差来源不同，不能从数学目标直接断言因果方法总优于比例，也不能忽略模型误设。
教学例子：三秒广告轻易完播，长教程很难百分百看完；完播率可能偏向前者，反事实模型则尝试问相同时间条件下谁更有价值。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
CWM 中“统一时长干预下的潜在观看收益”为什么不同于观察到的观看秒数？
Counteracting Duration Bias in Video Recommendation via Counterfactual Watch Time
问答新增：2026-10-27 · Kuaishou Technology / Renmin University of China
展开答案与例子
答案：视频长度限制了可观看时间，也与内容类型有关，实际秒数混合偏好和时长机会。统一干预希望比较在相同曝光时长条件下的潜在结果，减少长视频天然占优。该潜在量不可直接观察，需要模型和识别假设，不能把简单除以时长就称为因果估计。
教学例子：看完十五秒短片和看两分钟长片，秒数更长不必然表示更喜欢；若在同一时长机会下比较，排名可能不同，但结果需要可信建模。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
SimPO去掉reference model后，怎样避免直接用整句概率偏爱短回答？
SimPO
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：整句对数概率随token累加，长度本身就会改变奖励尺度。SimPO用平均token对数概率构造隐式奖励，再要求优选回答超过拒绝回答一个margin，因此不需要额外reference前向。长度归一化减少特定偏置，但并不自动保证长短回答质量公平。
教学例子：简短错误答案与较长正确解释，直接比较累积log-prob可能偏向前者；平均token分数让长度不再直接作为求和惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SimPO实现时哪些词元应该进入长度与log-prob求和？
SimPO
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：应使用对应响应的有效词元，求和与长度掩码需一致，不能把padding计入长度或把提示混入响应奖励。偏好损失只更新策略；本地token目标存在不代表原文大模型评审矩阵完成。
教学例子：例如一个短答案补了许多padding，若也进分母，会人为改变平均奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SimPO训练时的目标margin，与推理时降低温度是一种调节吗？
SimPO
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：不是。margin在偏好训练中规定两条回答的长度平均隐式奖励应拉开多少，直接影响参数梯度；温度在推理时重新缩放给定前缀的logits。二者可共同使用，却不等价，也不能把某个温度下回答更短当作目标margin有效的证据。
教学例子：训练比较完整回答甲乙的平均logp差；推理温度只作用于当前下一词分布，不读取这对训练回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
SimPO的reference-free指没有训练反馈吗？
SimPO
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：不是。它仍需要chosen与rejected偏好对，只是不常驻参考模型，而用长度平均的策略对数概率作为隐式奖励，再加入固定偏好间隔。反馈来源与是否使用参考模型是不同维度。
教学例子：例如两篇回答仍需知道哪篇更好，只是训练时不用再计算冻结参考模型的分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
LEARN为什么冻结LLM内容编码，却训练因果PCH来学习用户偏好？
Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：冻结内容编码保留开放世界语义并降低更新成本，但内容接近不等于共同消费。PCH在历史内容向量上学习顺序与下一物品目标，再投影到推荐空间，把通用语义转成偏好表示。模型仍需遵守历史时间边界；冻结LLM不意味着整个系统没有训练，也不能仅凭语义相似度判断迁移完成。
教学例子：两部电影文本都写冒险，用户却偏好其中一种叙事风格；固定内容向量给出基础语义，训练过的PCH可从其真实观看顺序中学习更细偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
PCH 预测下一物品时，内容缓存冻结是否足以防止未来泄漏？
Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：不够。即使内容向量固定，PCH 输入序列仍需因果 mask 和截止，下一物品只在目标侧出现，池化也不能包含它。内容 encoder 版本与投影一致。冻结参数只说明没有梯度更新，不说明数据可见性正确。
教学例子：把测试电影的固定内容向量先放入历史，再猜它，依旧泄漏；“LLM 冻结”无法抵消模型已经读到目标这件事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
LEARN 相对 frozen semantic mean 的大增益，为什么不能直接称冷启动收益？
Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：均值基线缺少可训练偏好建模，PCH 增加序列学习可提高排名，但来源同时显示强烈头部集中。改善可能依赖热门协同而非更好理解新品。需要冷启动分组与匹配对照，不能把总体 NDCG 大百分比当所有群体受益。
教学例子：模型学会总推热门电影就可能大幅胜过语义均值，却未必帮新电影获得合适受众；总体指标与冷启结论不能互换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
LEARN 为什么冻结内容 LLM，却允许 PCH 学习偏好？
Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：通用 LLM 提供稳定内容语义，用户行为关系仍需推荐目标适配；PCH 读取内容序列并学习因果偏好，再投到线上空间。冻结减少成本但限制内容端调整，不能把预训知识直接等同协同偏好，也不能假设所有迁移都改善冷启动。
教学例子：两部同题材电影语义相近，但人群消费不同，PCH 可从观看序列学差别；如果只是均值冻结向量，偏好结构没有被任务训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
专门 ACI 为什么可能比给模型无限制 shell 更有效？
SWE-agent
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：动作空间过宽和冗长输出会增加选择与定位负担，专门界面把搜索、查看、精确编辑和测试变成更易理解的操作反馈。改进的是 Agent 与仓库的交互合同，不是给模型偷偷提供正确 patch；界面约束也不能替代真正执行测试与检查任务完成。
教学例子：例如只展示目标函数附近行并提供精确替换，比把整个文件打印进提示更易定位，但仍要运行回归测试确认修改有效。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 swebench-local 的初始失败与固定 unittest 各证明什么？
SWE-agent
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：初始真实失败表明任务确有待修问题，编辑后退出码验证这组回归是否通过；本地只暴露读文件、写 solution.py 与固定测试。它是可执行 micro benchmark，非官方 SWE-bench Lite 容器，测试通过也仅支持当前用例覆盖。
教学例子：例如把一个算术函数修到固定测试通过，可证明编辑执行链路有效，但不能改称解决真实 GitHub issue 的官方 resolved rate。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
ACI 与原样暴露 shell 的比较为什么要固定底层模型和任务？
SWE-agent
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：否则收益可能来自模型更强或任务更简单，而非接口本身。ACI 改变观察与动作边界，评估需控制其他条件并看真实 patch 与测试结果；不能用一次顺利编辑证明所有代码修复能力，或将命令格式正确当 issue 已解决。
教学例子：例如同一模型面对同一 bug 分别用窄编辑器和原始 shell，才较能观察接口对定位及修改的影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
修复 GitHub issue 的 Agent 为什么需要一个便于反复查看和修改仓库的接口？
SWE-agent
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：模型要在未知仓库里定位问题、读取必要上下文、做小改动并验证，原始终端输出可能过长或难以稳定操作。SWE-agent 研究面向这类流程的交互界面，使行动和反馈更适合模型。界面降低操作负担，不替代任务理解与测试，也不能凭命令执行成功认定 issue 已解决。
教学例子：教学例：查看命中文件后定位相关行再修改，比一次打印整仓库更容易保持上下文；但修改后仍必须检查目标测试。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
BAHE缓存原子行为的浅层编码，为什么还需要在线训练的高层聚合？
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：浅层主要提取单个行为文本的语义，可被不同请求重复使用；高层需要结合当前历史组合和候选判断兴趣，不能冻结为一份通用答案。分层把重复文本计算移出训练与请求路径，同时保留跨行为交互。缓存刷新过慢或压缩过强仍可能损害质量，效率改善不自动意味着准确率提高。
教学例子：一条电影标题只编码一次，但用户把它与科幻片还是家庭片一起看，会改变高层兴趣判断；遇到不同候选时也应重新聚合这些行为向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
BAHE 本地两层 BERT-tiny 怎样划分缓存层和训练层？
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：来源用第一层生成 MovieLens 标题原子向量并缓存，复制上层处理 CLS、十二条历史与候选；对照逐样本运行冻结低层和可训练上层。两边需共享数据与预算，缓存也应绑定相同浅层版本。小模型仅两层，不能由该耗时比例推算生产大模型收益。
教学例子：若缓存由旧版第一层生成，上层却换成另一版编码器，接口语义会失配；应把向量版本与上层配置一起记录，而非只保留一个裸数组。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
BAHE 与每个样本都重新跑完整文本模型相比，节省来源与效果代价怎样区分？
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：节省主要来自不再重复执行相同文本的浅层编码，上层处理的是行为数量而非全部词 token。压缩边界减少细节并改变模型容量，因此需要同时测耗时与质量。本地耗时下降伴随 AUC 下降，只支持效率机制，不能写成效果无损的等价替换。
教学例子：十个历史标题原有上百词，缓存后上层只读十个行为向量；运行更快，但某个关键措辞若被压掉，排序可能受损，两种指标应一起看。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
BAHE 的原子行为缓存与最终用户表示为什么不是同一种缓存？
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
问答新增：2026-10-27 · Ant Group
展开答案与例子
答案：原子缓存保存单条内容经过浅层模型的编码，可跨历史组合复用；最终用户表示还依赖行为顺序、当前候选和高层交互。浅层异步更新把重复内容理解移出主路径，上层仍学习具体用户的组合。缓存粒度越细复用机会越多，但也要维护版本一致性与内容压缩损失。
教学例子：同一电影标题可只编码一次，不同用户按各自顺序读取该向量；用户甲和乙的最终兴趣仍不同，不能因共享原子缓存就共用最终评分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
Data Mixing Laws怎样搜索没真正训练过的数据配比，依据又有什么限制？
Data Mixing Laws: Optimizing Data Mixtures by Predicting Language Modeling Performance
问答新增：2026-10-27 · University of Cambridge / Shanghai AI Laboratory
展开答案与例子
答案：先用多组小预算混合训练观察各评测域损失，再拟合配比、规模与性能关系，最后在拟合模型上搜索目标加权最优配比。省掉的是穷举每个大预算配方的成本，预测可靠性仍取决于试验覆盖和拟合假设；验证选择不能使用最终测试结果反复调配。
教学例子：已经测过代码占比20%、50%、80%的小模型，可预测中间配比的表现，再选择少量候选验证；不能把曲线预测值直接当成该大模型配方的实测成绩。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
搜索数据混合时，怎样避免把 test 目标写进配比选择？
Data Mixing Laws: Optimizing Data Mixtures by Predicting Language Modeling Performance
问答新增：2026-10-27 · University of Cambridge / Shanghai AI Laboratory
展开答案与例子
答案：拟合、域权重和候选选择需使用预先规定的训练/validation协议，最终才测test；配比还必须满足非负与总和为1。本地unigram proxy不是RedPajama多模型缩放曲线，边界需保留。
教学例子：不能看完test各域损失后，再调整w_i直到同一test上的加权分数最好。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
拟合 mixing law 搜索配比，与对每个配比直接训练评测，有何证据差别？
Data Mixing Laws: Optimizing Data Mixtures by Predicting Language Modeling Performance
问答新增：2026-10-27 · University of Cambridge / Shanghai AI Laboratory
展开答案与例子
答案：前者在未训练点使用模型预测，节省试验但引入拟合与外推误差；后者给出对应配置实测，成本更高。预测最优仍需独立实验复核，不能把曲线最小值直接写成已测收益。
教学例子：预测某个70/30组合最好，不等于该组合已经完成目标规模训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
Data Mixing Laws 为什么先花小预算训练多组数据配比？
Data Mixing Laws: Optimizing Data Mixtures by Predicting Language Modeling Performance
问答新增：2026-10-27 · University of Cambridge / Shanghai AI Laboratory
展开答案与例子
答案：这些pilot实验为各评测域的性能预测提供观测，再拟合配比与训练规模的关系。目标是减少每个候选都完整训练的成本，但预测依赖pilot覆盖与模型假设。
教学例子：先试十组小配比，再用拟合曲线筛选其它候选，而非把未训练点当成实测结果。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
LSVCR上线不用生成式LLM，为什么训练时还让LLM提供个性化偏好？
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：视频和评论包含不同语义，纯ID序列难以充分理解，LLM偏好可在训练中补充内容关系。双序列模型通过交叉融合及对齐目标吸收这些知识，部署时只保留可服务的推荐模型。两种任务可能相互牵制，本地评论与视频指标方向不同，不能只报告某一路改善就宣称整体成功。
教学例子：一条评论表达反讽，视频点击本身看不出来；训练期教师可补充语义，但上线学生仍需仅凭可用双序列作判断，不能每次暗中调用老师解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
LSVCR 的随机位置编码为什么要抽有序子集而非打乱位置顺序？
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：短 alignment 序列要覆盖完整位置表的跨度，但仍应保留行为先后；有序子集表达不均匀位置采样，随机打乱则改变时间关系。双向跨序列融合也只能用当时已发生记录，测试目标评论或视频不能提前进入任一侧。
教学例子：从完整位置一到一百抽三、二十、八十给三条历史，先后仍正确；赋八十、三、二十则让旧事件在位置上变成新事件。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
LSVCR 的 SSC 与 VCC 分别约束哪些关系？
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：SSC 对齐序列推荐器与 LLM 的用户偏好，VCC 联系视频或商品偏好与评论偏好，前者跨模型、后者跨消费对象。两个目标不能互代，可能带来任务冲突。来源本地评论端提高但商品端退化，必须按两任务报告而非概括整体提升。
教学例子：小模型要学懂 LLM 的摄影偏好是一项，判断摄影商品兴趣与评论阅读是否一致又是一项；一项对齐好不代表另一项无害。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
LSVCR 为什么分别编码视频消费与评论消费，而不把评论只当视频文本属性？
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
问答新增：2026-10-27 · Kuaishou
展开答案与例子
答案：评论有自己的阅读行为和语义偏好，不等同于视频附属元数据。双序列先保留两类行为，再交叉融合，LLM 训练期补充个性化语义。共同消费可有关联也可冲突，不能默认评论端变好就说明视频端同样改善。
教学例子：用户不喜欢某视频却爱看其讨论，评论消费与视频点击方向可能不同；只把评论拼进视频介绍会丢掉这种独立偏好。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
ORPO把SFT与odds-ratio放在同一目标里，两部分分别约束什么？
ORPO
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：SFT项提高优选回答的似然，odds-ratio项扩大它相对拒绝回答的赔率差，两者一起训练同一个策略，不需要独立reference模型。赔率对接近边界的概率更敏感，因此数值处理很重要；附带计算reference KL作诊断，不意味着训练目标使用了reference。
教学例子：只提升优选答案也可能顺便提升相似的坏答案；额外的赔率比较要求两者拉开，而不是只把所有候选概率一起推高。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
ORPO 实现 log-odds margin 时，为什么要处理概率靠近 0 或 1 的数值边界？
ORPO
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：单个log-odds是log(p)减log(1−p)，两响应再相减。边界会触发log零或极大比值；本地候选内核给p与1−p项加1e−12，并用logaddexp计算偏好损失。这是本地数值保护，不能用普通概率差替换原目标，也不能把候选概率等同逐token响应概率。
教学例子：p从0.9升到0.99，概率只增0.09，odds却从9升到99；直接相减概率不是同一个训练信号。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
ORPO的单阶段训练，与先SFT再开启独立偏好阶段在流程上有何不同？
ORPO
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：ORPO在同一次策略训练中同时使用优选回答NLL和偏好赔率项，不需要为独立偏好阶段常驻冻结reference。两阶段流程则先得到SFT策略，再切换偏好目标与参照。阶段合并是训练组织方式的区别，不能据此推断任意初始化和数据下都更优。
教学例子：一批偏好数据同时产生NLL和赔率梯度，而不是先完成一轮只学chosen，再另开reference-relative训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
ORPO里的odds和概率有什么直观区别？
ORPO
问答新增：2026-10-27 · KAIST
展开答案与例子
答案：概率p表示事件占全部可能结果的份额，odds=p/(1−p)则比较发生与不发生的相对量。odds不是另一个仍在零到一之间的概率；ORPO比较的是优选和拒绝回答的赔率关系，阅读目标前先分清这两个量，才能避免把数值大小直接当置信百分比。
教学例子：教学用p=1/2时odds为1，p=3/4时odds为3；odds为3并不是概率300%。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
NoteLLM 为什么让压缩状态同时接受共读对比学习和内容生成监督？
NoteLLM: A Retrievable Large Language Model for Note Recommendation
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：共读对比学习把用户实际共同阅读的内容拉近，让表示获得协同关系；但单独追求相似度可能丢失细粒度文本语义。内容监督从同一压缩状态生成标签和类别，要求它保留可生成的内容信息。两个目标共同塑造瓶颈表示，使向量既适合检索，又不轻易退化为只记共现关系的编码。
教学例子：两篇都被露营用户阅读的笔记应在向量空间接近，但一篇讲帐篷、一篇讲炊具。生成各自标签的任务迫使压缩表示在共享兴趣之外仍保留内容差别。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
NoteLLM 的对比向量与 CSFT 初始状态如何确认来自同一个 compression 位置？
NoteLLM: A Retrievable Large Language Model for Note Recommendation
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：应按特殊 token 身份读取同一 hidden state，而非一个用末尾、另一个用均值。batch 配对与因果生成 mask 需一致，padding 不进入池化。冻结基线与联合训练对照回答表征学习问题，不能描述为完整排序网络相对 DIN 的提升。
教学例子：若对比用标题均值、生成用独立 CLS，两项都能训练却不再共同约束同一瓶颈；需检查实际索引而不是只看损失名字。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
GCL 共读正例与纯文本相似正例，相比学到哪种不同关系？
NoteLLM: A Retrievable Large Language Model for Note Recommendation
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：文本相似由内容决定，共读反映用户共同消费，可连接表面不同却同兴趣的笔记，也可能受曝光和热门度影响。CSFT 维持内容约束以免只追协同。两种信号互补不等于天然无偏，来源简化标签任务也不能代替真实 hashtag 生成。
教学例子：帐篷评测与露营食谱文字差异大，但同群用户共读；相似文本则可能只是两篇重复评测，二者提供不同检索关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
NoteLLM 的 compression token 为什么同时承担检索与生成接口？
NoteLLM: A Retrievable Large Language Model for Note Recommendation
问答新增：2026-10-27 · Xiaohongshu
展开答案与例子
答案：内容先压到一个特定状态，对比学习用它作为向量，生成任务也从同状态恢复标签类别，迫使压缩兼顾协同与语义。若生成器能绕过瓶颈读所有原文，约束含义就不同。压缩仍有损，不表示整个笔记细节可完整恢复。
教学例子：一枚状态既要把同兴趣笔记拉近，又需生成“露营装备”标签，不能只编码共读热门度而忘掉内容在讲什么。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
HSTU为什么去掉softmax，却还要在聚合后归一化并加U-gate？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：softmax把历史权重归一成总和固定的分布，容易弱化相关行为数量携带的偏好强度。HSTU用逐点SiLU聚合保留这种变化，再靠聚合后归一化稳定数值；U分支按当前token调制聚合结果。它仍在输入窗口内做因果历史交互，并没有因此变成线性复杂度模型。
教学例子：两位用户分别出现一次和十次同类行为，归一化平均可能看起来相似；逐点聚合允许区分强度，再由门控决定向下一层传多少信息。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
M-FALCON 缓存了哪些用户计算，为什么不能把整个 ranking 分数缓存给所有候选？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：原文§3.4与附录H把候选放入隔离的微批，复用各层候选无关历史 K/V；候选之间不互读，各自仍计算投影、目标到历史的交互和输出。缓存摊销历史编码，并未取消目标依赖。跨请求复用还要求历史、特征与模型版本等条件适用；本地 HSTU 没有实现该服务优化。
教学例子：一千个候选可分批读取同一份历史记忆，但相机和跑鞋各自的查询与分数仍不同。历史新增购买或模型更新后，也不能直接沿用旧缓存假装用户状态未变。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
HSTU 的 all-position 训练如何同时利用多个目标又保持因果性？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：每个有效位置只读取其可见前缀，下一物品作监督，padding 与无效目标不进入 loss；这样一次编码服务多个位置目标而非逐条重算历史。候选 ranking 的动作交错是另一输入契约，本地 next-item 路径不能自动声称已实现所有异构动作任务。
教学例子：序列甲乙丙可在甲位置预测乙、乙位置预测丙，但甲状态不能读取乙丙；若整条无掩码先编码再预测，多目标训练会泄漏答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HSTU 的历史 token 之间会不会交互，和只让候选读取一份静态历史向量有什么差别？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：会。HSTU 在有效输入窗口内逐层更新 token 状态，每个位置可聚合此前可见历史；较晚行为因而能结合更早上下文形成新表示。排序时目标 token 再读取这些状态，保留目标相关交互。因果掩码限制的是可见方向，不是禁止历史之间建模；窗口外未输入的事件也不会自动进入计算。
教学例子：先浏览相机再看镜头，镜头位置的状态可结合相机背景；候选三脚架读取的是这类已带上下文的历史状态，而不只是互不交流的原始物品向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
HSTU 与匹配预算 SASRec 的本地负结果，为什么不能解释为工业场景的最终优劣？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：同维度、层数、损失和步数的对照能比较本地 core，但 MovieLens 只有单类评分事件和较短序列，缺少原文异构动作、时间与工业规模。负结果应保留，也不能据它否定论文生产证据；相反生产收益也不能覆盖本地退化。
教学例子：在短电影序列上 HSTU 不如匹配 SASRec，说明这个预算与数据下未见收益；不能因此断言十万动作排序一定失败，或反用线上数值假装本地成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
HSTU 在 ranking 与 retrieval 中预测的对象为什么不同？
Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
问答新增：2026-10-27 · Meta
展开答案与例子
答案：检索预测下一相关物品，排序则需要给定目标后预测动作；原文将 item 与 action 交错，使候选能及早读取历史并输出反馈概率。两者可共用 transduction 思想，却不能把 next-item 全库指标当作完整多任务 ranking 验证。
教学例子：先猜用户会看哪部电影是检索，已给电影后猜点击或长看是排序；后一任务需要候选参与，不能只缓存一个最终物品分布便完成。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
RLOO为什么用同题其余样本的平均奖励作baseline，而把当前样本排除？
RLOO
问答新增：2026-10-27 · Cohere For AI
展开答案与例子
答案：baseline用来降低方差，应避免把当前动作自己的随机奖励混入其参照。leave-one-out使用同prompt其他独立样本，整段回答当一个动作，省去value网络。仍需足够组大小与一致奖励口径；无需critic不意味着无需采样、reference约束或外部评价。
教学例子：四份独立回答中评价第一份时，用另外三份的平均表现作参照；若把自己也算入，参照会随自身奖励一起移动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
RLOO在K等于一时能直接执行同一公式吗？
RLOO
问答新增：2026-10-27 · Cohere For AI
展开答案与例子
答案：不能，分母K减一且没有其他样本形成基线。实现需要求足够组大小并区分KL塑形后的回报，本地K为四的完整候选不是7B生成与真实奖励模型。
教学例子：例如仅生成一篇摘要时，不能把空集合平均偷偷置零后声称仍是同一LOO估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
leave-one-out基线与包含自身的组均值有何差别？
RLOO
问答新增：2026-10-27 · Cohere For AI
展开答案与例子
答案：LOO为当前样本排除自己，避免其奖励直接进入自身baseline；包含自身则有不同缩放和依赖结构。两者都critic-free，但不能忽略组大小后当作完全相同。
教学例子：例如两条回答时，第一条的LOO基线就是第二条，不是两条平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
RLOO为什么把完整response看作一个动作？
RLOO
问答新增：2026-10-27 · Cohere For AI
展开答案与例子
答案：RLHF奖励常在整段回答后给出，完整动作的REINFORCE可避免学习逐前缀value网络。同题其他回答的平均回报作为baseline降低方差，但仍需要多次采样。
教学例子：例如一篇摘要获得终局分数，直接用其相对回报加权整段logp。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
GRPO省掉critic后，同一问题的回答组怎样提供优势，old policy与reference还各做什么？
DeepSeekMath / GRPO
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：组内奖励的中心化与尺度化提供相对优势，代替单独训练的价值估计；old policy记录采样时分布，用于比率和裁剪，reference则提供KL锚点。三者角色不能互换，全同奖励组也不会凭空产生区分信号。本地候选动作更新不等于完整数学模型训练。
教学例子：同题几份回答有对有错，可比较彼此奖励；更换reference只改变锚定目标，不能改写这些回答当时由谁采样。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
GRPO全组同分时优势应怎样处理？
DeepSeekMath / GRPO
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：中心化后为零，标准差也为零，需数值保护且不得用评分器金标硬造组内差异。本地六候选完整动作验证目标，不包含DeepSeekMath自由生成训练。
教学例子：例如四条都错不能按接近标准答案的程度偷偷排序，除非协议本来允许该奖励。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
GRPO的old policy与reference policy为什么不是同一角色？
DeepSeekMath / GRPO
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：old用于采样与近端比值，reference用于长期KL锚定；old可随训练批刷新，reference通常按独立协议固定。混用会把更新限制与偏移正则耦合。
教学例子：例如一轮新采样要更新old，不意味着初始参考模型也必须随之改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
GRPO为什么可以去掉与policy同规模的value model？
DeepSeekMath / GRPO
问答新增：2026-10-27 · DeepSeek-AI
展开答案与例子
答案：它用同题响应组奖励的均值与标准差估计相对优势，不学习前缀value函数。节省的是critic资源，代价是组采样和组内有区分反馈的需求。
教学例子：例如同题多次尝试中好的相对其他尝试获得正优势。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
KTO没有同题chosen/rejected对，如何判断单条满意反馈应该往哪边更新？
KTO
问答新增：2026-10-27 · Contextual AI
展开答案与例子
答案：它用策略相对reference的log-ratio描述回答价值，再以KL期望提供动态参照点，分别构造满意与不满意样本的效用。两类样本可独立采集并调权，无需虚构跨题偏好对。但参照分布与类别不平衡仍影响目标，单条标签不等于绝对奖励。
教学例子：用户分别给两次不同咨询点赞和点踩，可作为单条反馈进入相应分支；不必假装这两个问题的回答构成直接比较。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
KTO的参照点和本地候选策略应怎样解释？
KTO
问答新增：2026-10-27 · Contextual AI
展开答案与例子
答案：参照点来自策略到参考的KL期望，与某条回答的log-ratio不是同一个量。实现需区分总体基准与样本信号；本地六候选线性策略只验证这条计算关系，未训练原文自由生成模型。
教学例子：例如一条回答的高log-ratio要相对移动基准判断，不能把它自己又当作全部KL期望。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
KTO与DPO的差别只在把偏好对拆开吗？
KTO
问答新增：2026-10-27 · Contextual AI
展开答案与例子
答案：还包括效用与参照点的定义：KTO围绕KL参照处理得失，DPO比较同提示下两回答的相对间隔。单样本反馈不能任意配成不存在的偏好关系，两类权重也影响训练取舍。
教学例子：例如不同用户分别点赞和点踩，不能直接认定前者回答在后者同一问题上更优。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
KTO里的满意类权重与不满意类权重，是反馈出现的概率吗？
KTO
问答新增：2026-10-27 · Contextual AI
展开答案与例子
答案：不是。两类标签描述单条回答被接受或拒绝，λ权重控制两类样本对训练效用的贡献。允许类别数量不平衡，并不表示频繁出现的标签自动更重要；样本数量与显式权重需要分开记录，不能把λ误读成模型预测的满意概率。
教学例子：点赞记录多、点踩少时，可以调整两类贡献；这没有把少量点踩伪造成与每条点赞同题的偏好对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
Medusa的多个future-token head为什么需要候选树验证，而不能各自取最高概率后直接拼接？
Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads
问答新增：2026-10-27 · Together AI / Princeton University / University of Illinois Urbana-Champaign
展开答案与例子
答案：各头从当前状态预测不同未来位置，预测之间未必构成一致的自回归条件链。候选树组织多种组合，主干再验证可接受分支，才可能减少串行步骤。多头训练损失本身不证明任意拼接正确，也不自动给出采样分布保证；本地小模型未复刻GPU树注意力内核。
教学例子：例如第二个头预测名词、第三个头预测动词，各自首选未必能连成句子；树验证检查组合，而不是把独立预测当作已知历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
训练 Medusa 第 k 个 future head 时，监督 token 应怎样位移？
Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads
问答新增：2026-10-27 · Together AI / Princeton University / University of Illinois Urbana-Champaign
展开答案与例子
答案：文档p_k(x_{t+k}|h_t)对应从当前位置hidden预测未来第k个目标，需对齐序列切片与有效边界。错用同一个next-token标签给所有head，会把多偏移训练退化成重复预测同一位置。
教学例子：第2个head在h_10上对齐x_12，而不是仍对齐x_11。
依据：核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
Medusa 的 backbone call 次数减少，为什么不等于同百分比时延减少？
Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads
问答新增：2026-10-27 · Together AI / Princeton University / University of Illinois Urbana-Champaign
展开答案与例子
答案：未来head、候选树构建和tree attention验证也有成本，实际时延还受batch、kernel与接受率影响。文档转移模型里的调用数变化是机制口径，不能直接替代真实GPU速度。
教学例子：backbone调用减半，但单次验证工作变多，端到端时间未必恰好减半。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
Medusa 为什么给同一个 hidden state 增加多个 future-token head？
Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads
问答新增：2026-10-27 · Together AI / Princeton University / University of Illinois Urbana-Champaign
展开答案与例子
答案：多个head分别预测不同未来偏移，能一次产生较多候选，再通过候选树验证减少串行生成调用。它增加的是未来候选提案，不是取消backbone对最终内容的验证。
教学例子：从h_t同时提出t+1、t+2等位置的备选，而非每个位置都先独立运行完整backbone。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
Self-Rewarding LM既写答案又当裁判，新增偏好来自哪里，为什么仍可能自我强化错误？
Self-Rewarding LM
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：每轮模型生成候选并以自己的评审能力排序，新偏好再用于下一轮DPO，形成生成与评价共同演化的闭环。新增的是当前模型给出的判断，不是独立人工真值；如果它持续偏爱某种错误风格，迭代可能放大偏差，必须保留外部留出评估。
教学例子：模型总给长解释更高分，即使算术结论错误，也可能把冗长错误答案反复选成优例；外部验证应能打破这种循环。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
自奖励迭代中的教师轮次与偏好数据应如何留痕？
Self-Rewarding LM
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：记录哪轮策略生成、哪轮裁判评分及选对规则，才能避免把更新后分数倒填旧批次。评估应使用隔离标准；本地只验证循环状态与目标，不包含论文规模裁判质量实验。
教学例子：例如上一轮模型给候选排序，训练下一轮后不能重算高分再假装它是当初的监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
Self-Rewarding与固定外部奖励模型的关键假设差在哪里？
Self-Rewarding LM
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：固定奖励模型不随策略共同进化，自奖励希望生成与评价能力都能自举改善，但也让错误更可能相互强化。两者比较需独立评估与相同预算，不能以自评分越来越高证明能力越来越好。
教学例子：例如模型学会讨自己评分规则喜欢，得分可升高，但外部用户未必觉得答案更有用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
Self-Rewarding裁判给两条候选相同分数时，能据此断言哪条更受偏好吗？
Self-Rewarding LM
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：不能。同分没有提供严格的优劣关系，不能仅按展示顺序制造一对有方向的偏好。该循环依靠评分差选择优选与拒绝候选，因而生成候选数量和可区分的评价是不同条件。即便得分不同，也只是当前模型裁判的判断，不是新人工真值。
教学例子：两条候选均获同一评分时，不能把先显示的那条写成winner；需要有区分的比较信号才形成该胜负对。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
SPIN把上一轮模型回答当负例，和让模型自己评出优劣有什么不同？
SPIN
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：SPIN的正例来自已有人工示范，负例由上一轮策略生成，通过相对上一轮策略的判别目标训练下一轮。它不依赖同一模型再给候选打出偏好分，更新后还要刷新对手。人工示范仍是监督前提，生成回答也不因此被断言为事实错误。
教学例子：固定一批专家示范，让当前模型为相同问题作答并与示范区分；下一轮重新生成对手回答，而非一直训练同一批旧负例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SPIN为什么必须冻结本轮对手并在下一轮刷新？
SPIN
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：损失用上一轮策略作相对参照，采样也来自该对手；本轮训练中随意更新参照会改变目标含义。完成一轮后再刷新，保持生成、评分与更新的轮次一致，本地未做真实文本规模实验。
教学例子：例如一半批次用旧参照、一半偷偷换新参照，便不是同一轮定义清楚的自博弈更新。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SPIN每轮刷新生成负例，与在同一批人工示范上反复做SFT有什么不同？
SPIN
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：重复SFT主要继续提高固定示范的似然；SPIN让上一轮模型在相同提示下生成新的对照分布，再学习区分示范与当前对手行为。变化的不只是训练轮数，还有负例来源和相对参照，因此不能用多跑几轮SFT代替自博弈迭代。
教学例子：第一轮常见的错误被修正后，下一轮对手会产生不同回答；固定SFT数据本身不会刷新这些对照。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
SPIN没有新增人工偏好数据，正例仍从哪里来？
SPIN
问答新增：2026-10-27 · University of California, Los Angeles
展开答案与例子
答案：它保留既有人类SFT示范为正例，让上一轮模型对同样训练提示生成负例。自博弈改变的是负例分布和参照策略，并非完全不需要人工示范或自动知道所有生成都错。
教学例子：例如原训练集中已有标准答，模型生成的新答作为对照，未要求人再给这两条排序。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
Math-Shepherd从中间步骤续写成功率造标签，为什么它不是对该步骤正确性的直接人工判定？
Math-Shepherd
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：续写衡量在给定策略和预算下从该前缀继续成功的可能性，受到后续求解能力影响。正确前缀也可能因续写差而得低分，错误前缀还可能被后续纠正。因此自动步骤标签是一种可达性信号，需要与人工正确性区分；金标只属于训练标注或独立评分侧。
教学例子：前两步都正确，模型却总在最后算错；从第二步续写的成功率低，并不能单凭这一点判第二步本身错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
构造Math-Shepherd训练标签时gold能给生成模型看吗？
Math-Shepherd
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：标准答案只供终局校验，不进入续写策略输入；续写从对应前缀真实采样，不能用已知答案直接构造路径。当前本地机制没有完整大模型数据生成与PRM训练规模。
教学例子：例如评分器知道结果为某数，不代表续写提示也能附上这个数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
续写成功率与步骤本身的绝对正确性有什么差别？
Math-Shepherd
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：后续模型可能修复错误，也可能从正确步骤继续犯错，因此估计混合了当前状态与续写策略能力。它是过程监督线索，不能直接作逻辑证明。
教学例子：例如某步写错但后续常能纠正，较高续写成功不说明该错步应被原样模仿。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
Math-Shepherd怎样无需人工逐步标注得到step信号？
Math-Shepherd
问答新增：2026-10-27 · Peking University
展开答案与例子
答案：从某中间步骤多次续写，用最终答案正确的比例估计该状态的可达成功率，再训练过程验证器。标签来自采样和终局校验，不等同人工判断每句话逻辑是否正确。
教学例子：例如一个步骤之后多数续写能解对，可为该前缀提供较高成功估计。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
Mamba的“选择性”具体改变了SSM的什么，而不只是给输出加一个门？
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
问答新增：2026-10-27 · Carnegie Mellon University / Princeton University
展开答案与例子
答案：它让步长及读写方向随当前token变化，从而改变旧状态保留多久、当前输入写入哪里，以及状态怎样被读出。选择发生在递归更新内部，不只是最后对固定SSM结果做缩放。历史通过有限状态传播，长序列计算可保持线性，但精确找回任意旧token仍受状态容量影响。
教学例子：连续读到无关填充词时可以尽量保留已有状态，遇到关键编号时改变写入方向；之后回答编号仍取决于那部分信息是否被状态保留下来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
用 Python/PyTorch 循环执行 selective scan，就能宣称复现 Mamba 的 kernel 吞吐吗？
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
问答新增：2026-10-27 · Carnegie Mellon University / Princeton University
展开答案与例子
答案：不能。循环版可检查输入依赖参数和逐步状态递推，但并不包含fused parallel scan CUDA kernel。文档还未运行2.8B预训练；需把算子正确性、端到端语言效果和系统吞吐分别验证。
教学例子：七步递推与参考式一致，是机制证据；每秒生成多少token则需要真实优化实现的单独测量。
依据：本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
Mamba 的状态更新，与 Transformer 从全部历史 KV 重新加权有什么差别？
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
问答新增：2026-10-27 · Carnegie Mellon University / Princeton University
展开答案与例子
答案：Mamba把历史影响累积到递归状态，再由当前token相关的读出产生输出；attention可对保留的历史位置直接分配权重。前者改变了记忆与访问方式，不能把线性复杂度理解为逐词历史毫无损失。
教学例子：递归摘要可能保留一个事实的影响，却不等于保留每个历史词都可单独检索的槽位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
Mamba 的“选择性”为什么与当前 token 有关？
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
问答新增：2026-10-27 · Carnegie Mellon University / Princeton University
展开答案与例子
答案：它让SSM步长和读写向量依赖当前输入，从而按内容决定哪些信息保留、更新和读出。递归状态仍然存在，但状态转移不再对所有token使用完全相同的选择规则。
教学例子：分隔符与包含答案的词可以触发不同的状态更新，而非一律按同一强度写入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
核心机制
精确短答案为什么仍能考查多工具推理，而不只是记忆问答？
GAIA
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：简短输出只是评分接口，得到答案可能需要浏览、多模态理解、计算与跨来源核对。规范化匹配把终点判断变得明确，却不显示中间证据质量，也不能独立解释失败来自哪一步；答对率需与真实执行轨迹区分，参考短答案不能提前进 Agent 提示。
教学例子：例如最终只输出一个年份，但需要先从图片识别人名，再浏览资料查事件并核对时间；短输出并不代表求解过程简单。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
实现细节
GAIA normalize能否在看gold后任意放宽？
GAIA
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：不能，应固定允许的规范化和题集合，gold只在评分器出现。当前本地只验证接口或协议，没有完整真实网页和多模态任务运行，不能报告原基准成绩。
教学例子：例如仅因错答案含正确子串就改匹配规则，会改变评测定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
方法对比
GAIA的规范化精确匹配，与让模型裁判按语义给分有何区别？
GAIA
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：前者按固定规范化后的答案相等关系计算命中，后者需要额外裁判判断表达是否等义。两种评分器的容错与偏差不同，不能未经说明用语义裁判放宽匹配后仍报告同一GAIA分数。规范化也应是预先固定规则，而非看到金标后临时改写预测。
教学例子：一种规则只处理允许的表面形式差异；若另请模型把一段模糊描述判为等义，就是更换了验收器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 评测与可靠性：如何知道真的做对了
基础理解
GAIA每题的提交对象是完整推理长文，还是可核对的最终短答案？
GAIA
问答新增：2026-10-27 · Meta AI
展开答案与例子
答案：评分对象是最终答案，经规定的规范化后与金标精确比较；完成题目仍可能需要浏览网页、读图与调用工具。先区分求解过程与提交格式，才能理解为什么写了很多合理步骤也未必获得最终命中，格式失败也不能掩盖为推理成功。
教学例子：题目要求一个人名时，提交应给可核对的人名；大段搜索过程里没有明确最终答案，不能自动算命中。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
BEQUE完成SFT后为什么还要对多个自采样rewrite做PRO？
Large Language Model based Long-tail Query Rewriting in Taobao Search
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：SFT学习示范怎么改写，却未必优化改写后的检索结果。BEQUE让同一查询生成多个候选，由离线搜索反馈形成偏序，再用长度归一化序列分数学习更好的相对选择。反馈同时含相关性与新增召回等目标，因此组合分上涨仍可能牺牲某一子项，不能把流畅改写当检索成功。
教学例子：两种改写都很通顺，一种只召回原有热门商品，另一种补到相关长尾；搜索反馈可提供文字示范里没有的区别，但需同时看新增覆盖是否退化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
BEQUE 本地构造 PRO 偏序时，为什么不能把人工 SFT target 插入候选列表？
Large Language Model based Long-tail Query Rewriting in Taobao Search
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：对齐阶段要评价模型真实生成的改写，插入 gold target 会把生成器当时无法产生的答案混入搜索，改变实验含义。来源只使用模型候选与无标签 fallback，按目录反馈排序；测试和训练偏序也要隔离，避免把目标答案泄漏成候选优势。
教学例子：模型四个 beam 都没覆盖正确类别时，应如实计算反馈；额外塞入正确改写再展示胜者，会把“没生成出来”的失败伪装成成功选中了答案。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
BEQUE 的 PRO 与只取最佳改写继续 SFT，有什么监督区别？
Large Language Model based Long-tail Query Rewriting in Taobao Search
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：只保留最佳结果会丢掉同一 query 下其余候选的相对关系；PRO 对有序候选逐级对比，使模型学习不同质量间的概率排序，并结合 SFT 稳定。长度归一与温度影响比较，排序依据仍受反馈设计约束，不能把组合分提高写成每种召回指标都提高。
教学例子：四个改写有明确好坏，单赢家 SFT 只说第一条值得模仿；PRO 还表达第二优于第三、第三优于第四，提供更细的候选相对监督。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
BEQUE 的 query rewrite 为什么不能只按与人工改写文字相似来评价？
Large Language Model based Long-tail Query Rewriting in Taobao Search
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：不同表达可能召回不同商品集合，文字接近不保证相关性、覆盖和命中都好。BEQUE 用真实搜索系统对模型自采样改写评分，再把偏序反馈训练回生成器，使目标连接检索行为。搜索反馈也只是所选组合目标，不代表所有子指标必然同时改善。
教学例子：把“露营防潮”改成更流畅的“户外生活”可能更像通用文案，却丢掉防潮垫检索；应看实际召回，而不只比较词面是否漂亮。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
IPO为什么让偏好gap贴近有限目标，而不是只要chosen越压过rejected越好？
IPO
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：在可分数据上，logistic式偏好目标可能持续扩大间隔，增加过拟合风险。IPO对相对reference的log-ratio gap做平方拟合，目标由正则参数给出有限值。超过目标后梯度会拉回，因此它改变的是偏好目标形状，不是简单减小学习率。
教学例子：两份回答已被明确区分，继续无限压低拒绝回答未必有益；有限目标会在分离充分时减弱更新，过头时甚至反向校正。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
IPO的间隔为什么要计算策略与reference的交叉概率比？
IPO
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：它衡量优选相对拒绝的变化相对参考有多大，而非只看策略两概率差；目标为一除二τ，τ需为正并与协议固定。真实实现还需正确聚合响应词元，不能把参考项漏掉。
教学例子：例如参考本来就偏爱某种措辞，交叉比能区分继承的偏好与新训练额外引入的变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
IPO拟合相对间隔，是否等于要求chosen自身的绝对概率一定上升？
IPO
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：不等于。间隔比较的是chosen与rejected的策略相对reference对数比之差，可以通过提高chosen、降低rejected或二者共同变化来接近目标。单看chosen绝对概率无法判断目标改善，且完整分布的归一化也会影响其他回答。
教学例子：chosen概率不变而rejected下降，也可能扩大相对间隔；不能仅凭chosen未上升判定本次目标没有变化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
IPO目标中的τ变大时，期望偏好间隔会变大还是变小？
IPO
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：有限目标是1/(2τ)，所以正τ增大时，期望的相对间隔反而缩小。τ不是“优选程度越大”的标注分数，也不能与目标间隔同向理解。这里只说明公式中的控制关系，具体训练效果还取决于数据、策略与优化过程。
教学例子：教学用τ从1变成2，目标由1/2变成1/4；这是目标值演算，不是论文实验指标。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
ReMax用greedy回答奖励作baseline，会不会要求greedy答案一定正确？
ReMax
问答新增：2026-10-27 · 香港中文大学（深圳）/ 深圳市大数据研究院
展开答案与例子
答案：不需要。baseline只是同prompt的参照，用来降低采样更新的方差；随机回答比greedy好或差，决定相对信号。greedy也可能错，且baseline不作为独立真值标签。方法省去value模型，但仍要实际生成并评价greedy与采样两条路径的成本。
教学例子：贪心解法答错，随机解法答对时仍有正信号；如果两者都错，不能因为贪心是baseline就把它称作标准答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
ReMax训练时能把greedy baseline的奖励当可微路径吗？
ReMax
问答新增：2026-10-27 · 香港中文大学（深圳）/ 深圳市大数据研究院
展开答案与例子
答案：策略梯度把baseline作为固定回报参照，不应沿解码决策或奖励重新反传。贪心与随机轨迹需同题同评价协议；本地候选greedy不代表真实模型显存或延迟结果。
教学例子：例如本轮改变策略时，不能同时通过离散argmax奖励支路求一个虚构梯度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
ReMax与RLOO的baseline来源有什么不同？
ReMax
问答新增：2026-10-27 · 香港中文大学（深圳）/ 深圳市大数据研究院
展开答案与例子
答案：ReMax另外生成贪心轨迹，RLOO用同组其他随机响应。前者依赖贪心质量与额外执行，后者依赖组采样统计，不能只比较是否critic-free。
教学例子：例如两个方法都省value网络，却为基线花在不同类型的生成上。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
ReMax为什么使用同题greedy回答的奖励作baseline？
ReMax
问答新增：2026-10-27 · 香港中文大学（深圳）/ 深圳市大数据研究院
展开答案与例子
答案：它提供随问题变化的参照，无需另训练value模型。采样回答比当前贪心更好则强化、更差则抑制；贪心答案本身不一定正确。
教学例子：例如抽样找到比常规首选更好的解释，差值提供正向学习信号。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
外部归档很大，为什么仍需要模型主动管理 page-in/page-out？
MemGPT
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：归档容量不等于模型当前能读取的上下文，相关内容必须被调入工作窗口才能影响回答。分页操作连接长期保存与当前任务，heartbeat 或中断控制继续取证和与用户交互；它提供虚拟内存式接口，不是让模型一次直接看见无限历史。
教学例子：例如旧对话中的地址保存在归档，回答寄件问题前仍需检索并调入；仅说“归档里有”不会自动让当前推理知道地址。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地按确定性 key page-in 能代表语义归档检索能力吗？
MemGPT
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：不能。本地实现分层状态、换入换出和中断计数，归档按确定性 key 查找，未调用 embedding 或 LLM function calling。代理成本也不是 token 或延迟；只证明 paging 路径执行，不说明真实模型能从长文档中自主找到正确证据。
教学例子：例如已知键“订单123”直接取回记录，与用户模糊问“上次那笔订单”时自行理解并检索不是同一难度。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
heartbeat 与正常向用户返回相比，控制流程有什么不同？
MemGPT
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：heartbeat 或 interrupt 让系统内部继续处理记忆与工具，而不把每次内部操作都当最终用户回答。它提供调度接口，不保证何时调用正确；无条件循环也可能浪费预算，需要与当前工作和可见结果相匹配。
教学例子：例如刚把旧内容换出后可继续内部检索相关片段，再对用户作答，而不是先返回半截“正在移动记忆”。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
MemGPT 为什么把长文档和长对话问题类比成有限内存管理？
MemGPT
问答新增：2026-10-27 · University of California, Berkeley
展开答案与例子
答案：模型每次能直接读取的上下文有限，而用户资料和历史可远大于这个窗口。MemGPT 研究让 Agent 主动在可见工作区与外部存储间调度信息，以接续长期任务。外部容量大不意味着当前知道全部内容，检索、换入与保存选择仍会影响答案并产生开销。
教学例子：教学例：用户问半年前合同里的条款，模型需要找到并换入相关记录；文件一直存在硬盘中，不代表它已经在当前上下文里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
SteerLM为什么把目标属性作为生成条件，而不只把多个偏好分数合成奖励？
SteerLM
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：把属性压成一个标量后，推理时很难重新选择偏好组合。SteerLM先预测回答属性，再做属性条件SFT，使策略学习给定属性下的表达方式，用户可在推理时指定目标。属性标注是否可靠仍是前提，条件可控不代表每项属性都能独立精确满足。
教学例子：同一问题想要“详细但语气克制”或“简短且友好”，可改变条件属性；无需为每种组合都重新训练一个独立奖励策略。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SteerLM本地属性标签与原文属性预测模型能混为一谈吗？
SteerLM
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：不能。本地用公开候选上的确定性奖励轴形成多维标签，验证条件接口；未训练大型属性预测器，也未实现完整自由文本条件生成。属性向量顺序和值域还需与训练协议一致。
教学例子：例如把质量与长度两列调换仍可能运行，却会让用户指定的属性含义整个交换。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SteerLM与推理时只在提示里说更简洁有什么机制差别？
SteerLM
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：属性条件SFT用带标注数据把属性值与回答模式系统关联，临时自然语言要求未必对应同样训练信号。两者可并用，但不能仅因加了属性文本就声称完成属性条件训练。
教学例子：例如训练时多个简洁等级都有示范，部署指定等级才有明确学习依据，不只是换一句措辞。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
SteerLM的属性预测模型与属性条件生成模型，是同一个角色吗？
SteerLM
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：两者职责不同：属性预测给已有回答标注helpfulness、quality等维度，生成模型学习在指定属性条件下输出回答。推理时用户提供目标属性，而不是先拿到一份未来答案让属性模型评分后再生成。区分标注器与条件策略，才能看清监督如何进入训练。
教学例子：先给训练回答标“较简洁、较有帮助”，再训练按这些条件生成；上线时输入目标条件并请求新回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
UCT 中探索项为什么能让暂时低分的动作仍获得尝试？
LATS
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：平均价值反映已见回报，探索项随父节点访问增多、子动作访问稀少而变大，给不确定分支试验机会。执行反馈再更新价值，失败反思帮助后续扩展；若仅反复选当前最高估值，就可能过早锁定错误分支，模型自评分也不能替代环境反馈。
教学例子：例如动作甲试了十次均一般，乙只试一次失败，UCT 可能再探乙以减少不确定性，而不是从此把它永久排除。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
本地完整计划叶节点搜索是否等同论文的 LM value 搜索？
LATS
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：不等同。当前保留 MCTS 统计、环境奖励、反思与回溯，但以完整计划作为叶节点，未调用 LM value、HumanEval executor 或 WebShop。其确定性 mini-suite 满分只能验证搜索路径，不能当成论文代码生成或网页任务成功率。
教学例子：例如四条预构造完整路线中选到合法路线，和在真实网页逐步生成行动、评估中间节点不是同等任务。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
LATS 的 MCTS 与按层保留若干 thought 的搜索，在预算分配上有什么区别？
LATS
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：MCTS 沿已有树反复选择分支、执行 rollout，再回传回报与访问统计，可把后续预算投向值得重访的路径；按层保留 thought 的方法通常在同一深度比较并裁剪前沿。两者都依赖候选与评价质量，区别是搜索组织和反馈利用方式，不能据此断言某类任务必然更优。
教学例子：教学例：深度二的一条路线曾接近成功，MCTS 可再深入它；固定层宽搜索则可能在该层只按当前评价保留若干候选。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
为什么在工具任务中生成一条看似合理的推理链，还不足以完成 LATS 要处理的问题？
LATS
问答新增：2026-10-27 · University of Illinois Urbana-Champaign
展开答案与例子
答案：工具或环境可能返回与预想不同的结果，单一路线失败后也未必能继续。LATS 把推理和行动放进可探索的搜索树，让候选通过执行反馈接受检验，并利用失败反思尝试其他路线。目标是把语言提案与环境结果连接起来，搜索预算和判断错误仍会限制效果。
教学例子：教学例：网页搜索第一条结果没有所需价格，Agent 可以回到先前搜索节点改关键词，而不是沿错误页面继续编答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
RLAIF为什么把候选交换顺序再判断，交换后的分数能直接平均吗？
RLAIF
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：AI裁判可能偏爱先出现的候选，因此要交换展示顺序再评价，并把结果映射回同一个候选身份后合并。直接平均不同含义的胜率会抵消真实偏好。这样主要校正位置偏差，不能证明裁判没有风格、事实或价值判断偏差，仍需独立评估。
教学例子：答案甲无论内容都在首位时更易获胜；交换甲乙后，应把第二次的选择还原成“甲胜率”，再比较合并。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
本地RLAIF双顺序标签如何避免身份弄反？
RLAIF
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：交换输入后应把输出解释回原始候选身份，再组成成对监督。固定标签核只验证这一映射和更新，不包含完整AI裁判与大模型RL训练。
教学例子：例如第二次说左边更好，此时左边是B，不能仍把分数记到A。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
RLAIF用AI偏好训练策略，与推理时让AI从候选中挑一个有什么不同？
RLAIF
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：前者把AI判断转成训练数据并更新策略参数，后者只在当前请求上选择，未必产生任何参数学习。两者可能复用类似裁判，但成本发生位置和对后续请求的影响不同；一次候选选择成功不能证明策略已通过RLAIF学会该行为。
教学例子：今天用AI挑中一条回答，只改变今天的展示；将这对偏好用于训练，才可能改变明天的策略分布。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
RLAIF替代的是哪部分人工工作？
RLAIF
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：主要用AI判断候选偏好，减少逐对人工标注，再据偏好信号训练策略；它不取消评价标准或独立能力评测。AI标签仍可能带位置、风格和知识偏差。
教学例子：例如人工制定标准后，AI批量比较两篇摘要，而非把AI高分视作客观真理。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
对话编程为什么需要显式终止条件，而不能让多个角色一直互相回复？
AutoGen
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：消息本身可以不断触发新回复，若没有角色职责、工具边界和停止规则，协作容易重复或形成循环。conversation programming 把这些规则变成可组合控制流，适合群聊与嵌套会话；角色数量增加并不保证分工正确，最终仍需可验证产物判断完成。
教学例子：例如写作者与审查者每轮都说“再优化一下”会无限往返；约定验证通过或预算耗尽时结束，才能形成可控工作流。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 planner/executor/critic 协议是否运行完整 AutoGen runtime？
AutoGen
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：没有。本地实现角色交接、消息记录与显式终止的确定性控制流，未嵌入完整 runtime、真实 LLM 群聊或容器代码执行。plan 与 critic round 数量可检查流程，但其满分不能作为原文多应用能力或开发效率指标。
教学例子：例如三角色按规则各发一条消息可以通过协议测试，没有模型理解与真实工具执行时不能称完成开放软件任务。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
消息驱动编排与一个固定线性脚本有什么差别？
AutoGen
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：线性脚本预设唯一顺序，消息策略可按内容或状态选择接收者、嵌套会话和结束，使工具与人类协作更灵活。灵活也可能带来无效对话和循环，不能以消息数更多或角色更多证明任务质量提升，成本需全计。
教学例子：例如审核失败可以触发一次嵌套修复对话，成功则直接结束，而不是无论结果都走完相同五轮聊天。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
AutoGen 为什么把多 Agent 应用组织成可编程对话？
AutoGen
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：复杂任务可能需要模型、代码执行器和人协作，固定一轮问答难以表达反馈后的继续工作。AutoGen 用可配置角色和消息交互组织这些参与者，使工具结果或回复触发后续步骤。角色名称不等于协作能力，还要定义谁回复、何时转交和何时停止，并核验实际产物。
教学例子：教学例：助手提出代码，执行器返回报错，助手据此修改；这个交互应由明确协议控制，而不是让两个人设无限闲聊。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
结构化中间物为什么比角色间自由聊天更能抑制软件工作流的幻觉级联？
MetaGPT
问答新增：2026-10-27 · DeepWisdom
展开答案与例子
答案：下游依赖清晰的需求、设计和测试合同，能检查上游是否提供必要字段与约束，而不只接收自然语言承诺。SOP 规定角色顺序和消费关系，使错误更易定位；结构化不等于内容正确，仍需要下游验证与真实执行，不能把格式齐全当成可用软件。
教学例子：例如架构师输出明确接口，工程师才能核对实现签名；若只收到“系统设计好了”，后续各角色可能各自想象不同约定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地真实临时仓库测试与完整 MetaGPT LLM 团队有哪些差距？
MetaGPT
问答新增：2026-10-27 · DeepWisdom
展开答案与例子
答案：本地四角色留下结构化 artifact，工程阶段确实编辑 Python 文件，QA 运行固定 unittest；但没有完整 LLM 多 Agent 对话或官方 SWE-bench。它支持可审计执行链路，不支持把 fixture 成功率等同 HumanEval、MBPP 或真实团队软件交付。
教学例子：例如测试输出与编辑 hash 可验证这次文件确实被修改和执行，不能由此假设角色会为未知需求自主设计正确架构。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
角色按 PM、Architect、Engineer、QA 分工与简单多次自我复述有什么不同？
MetaGPT
问答新增：2026-10-27 · DeepWisdom
展开答案与例子
答案：分工给每阶段不同输入输出责任，需求、设计、实现与验证是不同工件，而非同一答案换措辞重复。收益来自合同和反馈闭环，角色标签本身不会自动产生独立审查；若所有阶段共享错误假设，仍会一起失效。
教学例子：例如 QA 应执行测试检查代码，而不是只把工程师的“看起来正确”再说一次，才能形成实际验证环节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
MetaGPT 为什么借用软件团队的角色和交付物来组织多 Agent 工作？
MetaGPT
问答新增：2026-10-27 · DeepWisdom
展开答案与例子
答案：软件开发包含需求、设计、实现和测试，相互依赖的信息若只靠自由聊天传递容易失真。MetaGPT 把流程职责和中间交付物显式化，让下一角色有可检查输入。分工有助于组织工作，但文档齐全不等于代码正确，最终仍需执行与验证。
教学例子：教学例：架构师给出接口定义，工程师据此实现，测试者检查约定；若接口只散在聊天里，不同角色可能各自理解成不同参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
GKD让教师给学生前缀打分，为什么比只学教师完整答案更能覆盖学生自身错误？
GKD
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：教师轨迹常避开学生会遇到的偏离状态，固定答案训练因此有分布错配。学生自己采样后，教师在相同前缀上给出分布，监督可以到达这些状态；混合比例再控制固定与在策略数据。覆盖改善不保证教师能从所有错误前缀恢复，也不自动决定应选哪种散度。
教学例子：学生先写错一步后才需要纠偏，而教师标准解从不经过这一步；在学生前缀评分能针对这个已发生的状态提供帮助。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
GKD选择KL方向时为什么要明确学生与教师谁在前？
GKD
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：forward、reverse及广义JSD有不同覆盖和集中偏好，参数名不能代替数学方向。教师同学生前缀且冻结；本地构造教师候选分布并非真实T5和翻译摘要实验。
教学例子：例如KL(T||S)与KL(S||T)互换会改变梯度，尽管接口都可能写KL。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
GKD的student data fraction与IPD逐token混合相同吗？
GKD
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：不是，GKD控制固定数据与学生轨迹的训练来源比例，IPD在每个状态混合师生采样分布。数据集层混合与一步策略混合产生的轨迹占用一般不同。
教学例子：例如一半批来自固定答案，不等于每个下一词都以一半概率选择教师。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
GKD为什么让教师评价学生自生成前缀？
GKD
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：固定教师轨迹通常过于理想，学生推理会到达不同状态。让学生采样、教师同前缀给完整分布，可教会学生在自身错误附近继续改进，而非只复制标准路径。
教学例子：例如学生第二步偏离后仍能获得该前缀的教师指导。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
KAR为什么分开生成用户偏好知识和物品事实，再用hybrid-expert adapter接入？
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
问答新增：2026-10-27 · Huawei
展开答案与例子
答案：用户知识描述为何可能喜欢，物品知识描述内容具有什么属性，二者来源与语义不同，直接拼接可能难与ID模型兼容。adapter通过共享及专属专家压缩和对齐，再与原表示共同预测；知识可离线缓存，线上不必自回归生成。LLM推断仍可能错误，不能把偏好解释当用户真实表态。
教学例子：物品事实是鞋具防水材质，用户知识是近期常看雨天徒步内容；两类信息通过适配器形成有用关系，但不能据此断言用户已经表示一定想买这双鞋。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
KAR 四专家 adapter 的 gate 与原 ID 表示为什么需要共同验收？
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
问答新增：2026-10-27 · Huawei
展开答案与例子
答案：gate 在共享与专属专家中混合知识向量，输出再与用户、物品 ID 一起评分，维度、身份与参数梯度都要对应。只预生成知识并存文件不等于增强路径被训练使用。缓存应仅基于训练可见行为，避免偏好知识吸收测试答案。
教学例子：知识存在磁盘却从未送入 ranker，代码仍可输出分数，但不是 KAR；反之测试后总结用户偏好再评估，也已把目标信息带进模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
KAR 的离线知识增强与在线 LLM 推荐，相比成本和错误传播有何不同？
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
问答新增：2026-10-27 · Huawei
展开答案与例子
答案：离线生成可复用缓存，在线仅运行适配器与原推荐器，减少自回归延迟；错误知识也会被多次复用，需要版本与更新。在线生成较灵活却每次付成本。来源二十用户缩比只有小幅趋势，不支持普遍工业收益。
教学例子：一部电影事实可离线编码供多用户读取，但若年份错了会持续传播；在线每次询问可更新，却增加所有请求的延迟和不一致。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
KAR 为什么分开用户偏好知识和物品事实知识？
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
问答新增：2026-10-27 · Huawei
展开答案与例子
答案：偏好解释用户为何可能喜欢，事实描述物品是什么，两者证据与更新频率不同。factorization prompting 分开生成，再经 hybrid-expert adapter 接入 ID 推荐器，避免让单段文本混杂猜测与事实。生成知识仍可能有幻觉，不能把其全部当作观测真值。
教学例子：用户喜欢轻松剧情是偏好推断，电影上映年份是事实；若模型把前者写成影片本身属性，就会污染后续匹配与解释。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
核心机制
MiniLLM的reverse-KL为什么对小学生与教师尾部概率的关系有影响？
MiniLLM
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：reverse-KL在学生采样分布下比较log学生与log教师，倾向把有限容量放在学生访问且教师支持的模式；forward-KL则更强调覆盖教师质量。方向改变期望分布与梯度，不能只交换公式参数。teacher-mixed采样等稳定化也需保留，候选分布验证不等于长文本蒸馏。
教学例子：教师能给出多种罕见表达，小学生容量有限；覆盖所有尾部与集中于若干可靠表达，会对散度方向提出不同取舍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
实现细节
MiniLLM反向KL期望下的样本应主要来自谁？
MiniLLM
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：目标期望按学生分布，实际还有明确teacher-mixed采样与校正设计，不能直接拿任意固定教师文本替代。当前候选核无真实tokenizer和长生成，也无GPT评审分。
教学例子：例如仅在教师标准解上计算同一符号KL，不自动具有学生on-policy覆盖。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
方法对比
MiniLLM与普通forward KL主要在覆盖假设上有何取舍？
MiniLLM
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：forward倾向覆盖教师质量，reverse侧重学生采样的模式；teacher-mixed采样和方差缩减又影响实际训练。不能只改KL方向就声称复现整个MiniLLM。
教学例子：例如模式少但可靠与模式多但能力不足，是需要任务评估的取舍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 轨迹蒸馏：学生、提案与前缀分布
基础理解
MiniLLM为什么偏向reverse KL蒸馏？
MiniLLM
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：小学生难覆盖教师全部模式，reverse KL更集中在学生支持下可靠的教师区域，减少对低质量区域的扩散。集中也可能漏掉模式，并非所有任务都应追求更尖分布。
教学例子：例如学生先学会几种高质量表达，而不勉强平均所有教师可能续写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
AWQ保护关键通道时，为何先做等价缩放，而不是给少量权重单独存更高精度？
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
问答新增：2026-10-27 · MIT / NVIDIA / Harvard / SJTU
展开答案与例子
答案：校准激活帮助识别对输出更敏感的输入通道，再对输入和权重作相互抵消的通道缩放，使关键权重在统一低比特码本中更易保真。浮点函数保持等价，量化误差却随缩放改变。保护对象由激活重要性指引，并不意味着所有大权重天然重要，也不自动解决动态KV缓存增长。
教学例子：两个权重数值相近，但一条输入通道经常幅度很大，它的误差对输出更显著；合法缩放可优先降低这条通道的量化影响，同时仍使用统一低比特格式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
AWQ 对权重乘 S 时，输入也必须做对应的逆缩放吗？
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
问答新增：2026-10-27 · MIT / NVIDIA / Harvard / SJTU
展开答案与例子
答案：需要。等价关系是XW=(XS⁻¹)(SW)，漏掉输入逆缩放会先改变浮点函数。缩放搜索应比较实际量化后的输出重建误差；本地MSE改善也不能代表TinyChat kernel吞吐。
教学例子：权重一通道乘2，输入对应通道须除2，未量化时才保持原输出。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
AWQ 与 round-to-nearest W4 对照，主要增加了哪一步？
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
问答新增：2026-10-27 · MIT / NVIDIA / Harvard / SJTU
展开答案与例子
答案：AWQ先搜索activation-aware等价通道缩放，再做W4量化；RTN直接按既定尺度取最近网格。两者都可保留统一低比特格式，区别不等于少数权重另存高精度。
教学例子：把关键通道重缩放后再round，和对原权重直接round可能留下不同误差。
依据：背景与主要改动、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
AWQ 的 activation-aware，为什么不只看权重自身大小？
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
问答新增：2026-10-27 · MIT / NVIDIA / Harvard / SJTU
展开答案与例子
答案：量化误差对输出的影响还取决于输入激活。AWQ用校准激活识别显著通道，再做等价缩放后统一低比特weight-only量化，优先保护更影响输出的方向。
教学例子：同样大小的权重误差，在经常出现大激活的通道上可能造成更大输出扰动。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
核心机制
Process Supervision为什么优先标注不确定步骤，而不只标最终答案是否正确？
Let's Verify Step by Step
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：终局对错无法定位最先出现的错误，逐步标签能给奖励模型更细的监督。主动选择高不确定步骤把标注预算用在当前难分的位置，但不确定性并非错误概率的万能替身。还需控制候选与评测预算，本地机制夹具不代表已重建完整过程标注数据集。
教学例子：一份推导末尾错了，复核重点可放在模型最犹豫的关键变换，而不是重复标注已经非常明确的格式步骤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
实现细节
本地PRM目标里的标签与模型预测概率应怎样隔离？
Let's Verify Step by Step
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：步骤真标签作为固定监督，PRM概率可微，熵用于允许的选样阶段；不能用测试步骤金标选择训练样本。本地统一候选预算仅验证机制，未复刻完整原数据。
教学例子：例如先看测试哪里标错再重点训练，会把评测答案用于学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
方法对比
主动选择高不确定步骤与随机标注有什么取舍？
Let's Verify Step by Step
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：主动方式希望把预算放到模型最难判断的位置，随机抽样更接近原分布。高不确定不必代表最重要，采样偏差及标签质量仍需考虑，不能单凭熵保证效率。
教学例子：例如一个含糊格式步骤熵高，也未必比关键数学转折更值得人工审查。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 奖励与信用：正确结果该奖励哪些步骤
基础理解
过程监督为什么需要逐步标签而非仅最终结果？
Let's Verify Step by Step
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：终局失败不能定位哪个推理步骤出错，过程标签提供更局部的学习与筛选信号。它需要额外标注或可靠过程评价，不能由最终对错机械复制到所有步骤。
教学例子：例如前两步正确、第三步错，整题失败不应把前两步都标错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
DPO为什么比较policy相对reference的变化，而不只比较chosen与rejected的原始概率？
DPO
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：原始概率差混入了模型训练前的偏好，reference-relative比值关注当前策略相对基准如何重新分配概率。优选与拒绝两项共同进入分类margin，从KL正则化最优策略关系得到可训练目标；无需显式奖励模型，但仍依赖同题偏好数据和固定reference口径。
教学例子：基座原本就极偏爱一句套话。训练时需要区分“原来就高概率”与“偏好监督使其进一步升高”，不能仅看当前分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
DPO参考模型为什么需要冻结且与响应mask一致？
DPO
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：参考分布定义相对变化的锚点，若同时更新会改变目标。策略和参考须评价同一响应词元，不能一边含提示或padding、另一边不含，否则margin混入协议差异。
教学例子：例如只在参考端把题干概率加进来，会把无关输入长度带进偏好间隔。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
DPO与传统奖励模型加PPO在训练数据流上有何差别？
DPO
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：经典DPO可直接消费固定偏好对，不需每步在线采样并由奖励模型打分；PPO链路通常包含这些环节。少了环节不代表任何离线偏好都覆盖策略未来访问状态。
教学例子：例如偏好库没包含某类错误前缀，直接优化固定对不会自动补出它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
DPO为什么不必先单独拟合奖励模型？
DPO
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：它把KL正则下的隐式奖励写成策略相对参考的对数比，再直接用优选拒绝回答对构造分类目标。奖励信息来自偏好数据，并非模型无需监督。
教学例子：例如已有两答案谁更好的标签，就可计算成对损失，不需额外先训练打分器。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
Planner 不反复读取中间观察，为什么仍能表达工具之间的依赖？
ReWOO
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：它先把依赖写成变量引用，Worker 执行时把已得到证据填入后续工具参数，Solver 最后统一使用成果。因此减少的是反复规划调用，不是删除数据流；若后续路线真的依赖尚未知的观察而初始计划没有表达，静态计划也会受适应性限制。
教学例子：例如先查人物出生地记为 E1，再用 E1 查当地人口；第二步的具体城市可晚绑定，而无需 Planner 每次重新生成整段计划。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
Worker 何时能并行执行，何时必须等待证据变量？
ReWOO
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：没有未满足依赖的调用可以并行，引用前面 E 变量的调用必须等结果可用。Solver 最后同时读取计划与真实证据，不能用 Planner 想象的结果代替工具观察；本地只验证控制流与计数，没有真实搜索 API 或多尺寸 LLM 比较。
教学例子：例如两个独立城市天气查询可并行，但“查询刚找到的城市天气”必须等城市检索结果，不能提前猜参数。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
ReWOO 与 ReAct 在适应中间异常方面有什么取舍？
ReWOO
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：ReAct 每轮观察后重新推理，可调整后续路线但重复模型调用成本较高；ReWOO 先规划后执行，减少规划器反复读取证据，却更依赖初始依赖计划可行。遇到意外错误需要额外恢复设计，不能把静态计划天然视为完整闭环。
教学例子：例如首个查询返回多个同名人时，ReAct 可立即加消歧；ReWOO 原计划若未安排该分支，需要外层处理而非盲目继续。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
多步工具任务为什么可能把大量费用花在重复阅读既有内容上？
ReWOO
问答新增：2026-10-27 · Microsoft Research
展开答案与例子
答案：若每次工具返回都重新让规划模型读取任务、旧计划和全部证据，输入会随流程增长，即使下一步只是填入一个已知结果。ReWOO 研究将规划、工具执行和最后综合分工，减少重复的规划工作；它适合可预先表达依赖的流程，意外情况仍需恢复设计。
教学例子：例如先找作者再查出生地，两步结构已清楚，不必每拿到一个字符串都重新生成整份计划和重读之前所有证据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
为什么只有通过环境验证的程序才进入技能库？
Voyager
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：代码看起来合理不保证能在当前世界执行，环境反馈能暴露缺材料、接口错误或不满足目标。成功后再按描述索引，后续任务才有可复用的行为基础；自动课程负责持续选新目标，技能库负责保留已证实动作，两者不能由单纯程序生成替代。
教学例子：例如程序写出合成铁镐的步骤，但背包没有铁锭时不能算技能成功；实际完成后才适合作为之后探索的可调用工具。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地结构化计划技能能否当成 Mineflayer JavaScript 程序库？
Voyager
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：不能。本地保留 curriculum、技能与 verification 三组件及跨 episode 复用，但技能是结构化工具计划，未运行 Minecraft、GPT-4 或 embedding 检索。受控重试计数不代表真实程序调试，不能移用原文物品数和探索距离增幅。
教学例子：例如计划模板复用成功不说明系统能处理 Mineflayer 的异步移动报错，更不说明已经在新世界获得相同科技树收益。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
自动 curriculum 与固定任务清单对技能积累有什么不同？
Voyager
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：curriculum 根据当前状态与已有技能挑有新颖性的目标，调整探索方向；固定清单便于控制却不随能力变化。自主选任务也可能追逐易得新颖性，需结合真实验证与进展，不应把任务数或探索距离单独当通用能力。
教学例子：例如已有石工具后再选挖矿目标比反复采木更有探索价值，但是否真的完成仍要看环境库存和里程碑。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
Voyager 为什么把代码作为动作而不是只输出自然语言计划？
Voyager
问答新增：2026-10-27 · NVIDIA
展开答案与例子
答案：代码可调用环境 API 执行较长行为，并从实际报错与观察中迭代修复，成功程序还能进入技能库供后续任务组合。自然语言计划只有意图，仍需另一个执行映射；代码可执行也不等于逻辑正确，必须在环境中验证。
教学例子：例如“收集木头”可编成移动、寻找、采集循环，运行后检查库存；只说“去砍树”并未完成这些实际动作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么检索调用示例之外，还需要格式约束和真实执行检查？
ToolBench
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：示例帮助模型理解何时以及怎样用工具，却不保证新调用满足 schema 或参数语义。格式约束控制可解析性，执行结果再检查调用是否实现目标；三者分别补充经验、合同与环境反馈，不能用一个看起来像 JSON 的字符串替代真实工具能力。
教学例子：例如模型检索到天气 API 示例后生成字段齐全的调用，城市参数却写错；JSON 合法仍不代表查到了用户所需城市的天气。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 planbench-mini 的工具成功能否等同论文八任务或真实 API 成功率？
ToolBench
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：不能。本条本地只验证示例、约束或状态协议的特定机制，没有原文大模型、真实完整工具矩阵或训练。工具返回与最终评分需来自独立执行，受控任务满分不等于公开 benchmark，更不能因同名 ToolBench 混入另一数据集协议。
教学例子：例如预设计划经过解析器成功执行，证明当前接口可用，不说明模型已能面对未知服务文档自动产生正确调用。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
in-context demonstration retriever 与固定放同一组示例有什么差别？
ToolBench
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：检索按当前任务选择相关使用示范，固定示例可能覆盖有限且占用无关上下文。检索也可能选错或让模型照搬旧参数，因此只能复用方法，不能把示范答案当当前输出；比较应固定模型和任务而计入示例读取成本。
教学例子：例如查询数据库时取 SQL 工具示例比天气样例更有用，但示例中的表名不能未经核对直接用于新库。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
ToolBench 为什么研究让语言模型学习多种工具，而不是为每个任务单独手写调用程序？
ToolBench
问答新增：2026-10-27 · Tsinghua University
展开答案与例子
答案：真实工具目录包含不同接口和参数，模型需要理解任务、找到相关示例并产出可执行调用。ToolBench 研究数据、示例使用与调用约束如何支持这种通用工具使用。学会输出格式只是一个环节，接口行为、执行返回和最终答案都要验证，不能把合成样例通过当成真实 API 能力。
教学例子：教学例：同样是查资料，天气和地图接口要求不同字段；模型应根据工具说明组织参数，而不是把一个固定模板套到全部服务。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
核心机制
GQA减少的是query head还是KV head，为什么这主要影响解码缓存与带宽？
GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：多个query head共享较少的key/value head，查询仍可保留多组投影和读取偏好。每个历史位置需要存的KV头数因此减少，逐步解码要读取的状态也相应变少。共享会约束不同头的独立性，形成MHA与更强共享之间的折中；它不是直接把历史token数量缩短。
教学例子：8个query head按组共享2个KV head，历史每个位置只存2组K/V，而不是8组；但8个查询仍可对共享的内容产生不同注意力权重。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
实现细节
实现 GQA 时，把共享 KV 临时展开成 query-head 数量就能证明缓存节省吗？
GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：逻辑广播可用于计算，但应区分持久缓存是否真的仅存较少KV组；若长期存展开副本就失去相应节省。还需核对g(h)映射与原checkpoint uptraining边界，本地从头小模型并非原协议。
教学例子：四个query共享两组KV时，缓存应保留两份历史，而不是每组再复制成两份。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
方法对比
MHA、GQA 与 MQA，主要沿哪一个 head 数量轴变化？
GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：MHA通常每query头独立KV，MQA让所有query共享一组KV，GQA位于两者之间。减少的是KV组数，并非把query头一并删掉；质量与带宽仍需在具体模型上权衡。
教学例子：保持8个query头，KV可分别取8、2、1组形成不同共享程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 推理压缩：权重、KV 缓存与服务带宽
基础理解
GQA 为什么让多个 query head 共用较少 K/V head？
GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：每个query仍可有自己的查询方向，而历史K/V以组共享，降低解码缓存与读取带宽。它在MHA的独立KV与MQA的单KV之间提供可控折中。
教学例子：四个query头可分两组，分别共享两份KV，而不是存四份KV历史。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么外部工具反馈比模型只重读自己的答案更可能发现重复性错误？
CRITIC
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：同一模型的自我批评可能沿用原先错误假设，工具提供独立可观察约束，例如搜索事实或代码执行结果。修订围绕这些证据改变答案，形成闭环；工具也可能失败或无结果，不能把没有反馈当成已验证正确，更不能伪造成功检查。
教学例子：例如答案算错乘积，模型重读仍觉得合理，实际运行计算器会给出不同数值，修订才能针对明确矛盾而非泛泛反思。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地真实 traceback 循环具体覆盖了哪种反馈？
CRITIC
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：本地先写缺陷 patch、真实运行 unittest，再依据反馈编辑并复测，记录每轮命令和退出码。覆盖的是受控代码反馈与迭代，未接搜索引擎、toxicity classifier 或通用 LLM critic；不能把真实测试执行扩大为全部论文任务已验证。
教学例子：例如两轮 patch 由测试失败转通过，能证明这一代码实例被修正；它不提供论文开放域问答准确率或无害性结果。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
代码执行反馈与网页检索反馈，对 critique 提供的证据有什么不同？
CRITIC
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：执行可直接暴露某个输入下的输出或异常，约束的是该次运行行为；网页检索提供外部文本，需要再检查来源与结论是否相符。两者都扩展了模型自评，但可信边界不同：测试未覆盖的代码仍可能有错，检索命中也不等于网页内容必然支持当前答案。
教学例子：教学例：除零异常能直接指出一次运行失败；搜到同主题网页则还要读具体段落，不能仅靠搜索标题判定原回答正确。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
CRITIC 为什么关心模型已经写完答案后，仍能发现并修正错误？
CRITIC
问答新增：2026-10-27 · Microsoft
展开答案与例子
答案：初稿可能在事实、推理或代码上出错，模型对自身输出的信心又不一定可靠。CRITIC 研究让模型主动借助外部工具获取检查信号，再据此批评和修订。它把可观察证据引入改稿过程，但检查工具覆盖有限，迭代也可能引入新错，需要分别评估检查与最终结果。
教学例子：教学例：模型写出一段计算代码后，运行发现边界输入异常，再修改逻辑；仅重读自己“应该正确”的解释不提供同等观察。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
SLiC-HF已有偏好margin，为什么还保留监督交叉熵项？
SLiC-HF
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：margin约束只要求优选回答比拒绝回答更高，不能单独阻止整体语言分布漂移。监督项继续约束参考回答似然，形成序列概率校准与生成质量的双重约束。它可以使用离策略偏好，但这不意味着采样来源、回答长度和数据覆盖差异都已被消除。
教学例子：把坏答案概率压得更低就能满足排序，却可能连好答案也一起变差；监督项要求策略仍能生成合理的参考回答。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
SLiC-HF为何允许使用其他模型采集的偏好对？
SLiC-HF
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：目标可直接评价固定响应，不要求这些响应由当前策略生成，因此可消费off-policy数据。但须保留来源与同提示配对，本地完整候选核没有复刻T5和人评流程。
教学例子：例如旧模型生成的两篇摘要也可被当前模型评分，前提是偏好标签仍对应这两篇。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
SLiC-HF的hinge间隔与DPO相对参考间隔有何差异？
SLiC-HF
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：前者直接约束策略的序列似然差并配监督项，DPO比较策略相对冻结参考的对数比差。约束基准与损失形状不同，不能把两者仅当相同公式换名字。
教学例子：例如hinge满足所需间隔后可不再增加排序惩罚，而相对基准另有含义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
SLiC-HF为什么把序列校准与监督损失放在一起？
SLiC-HF
问答新增：2026-10-27 · Google DeepMind
展开答案与例子
答案：排序项要求优选响应似然领先拒绝响应，监督项则保留对可信回答的学习，限制只靠压低坏答完成目标。它直接训练生成策略，而非先训练独立奖励模型。
教学例子：例如既拉开好坏摘要差距，也继续学习可信摘要的实际内容。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
核心机制
DoReMi为什么提高excess loss较大的域，而不是直接追最高原始loss的域？
DoReMi: Optimizing Data Mixtures Speeds Up Language Model Pretraining
问答新增：2026-10-27 · Stanford University / Google Research
展开答案与例子
答案：原始loss同时反映任务固有难度和当前欠拟合；减去参考模型的域损失后，excess loss更关注相对参考仍未学好的部分。小proxy通过group DRO学习域配比，再把配比交给目标模型训练。得到的是特定数据和参考下的资源分配，不能把高熵域天然难预测误当成它总该拿最多预算。
教学例子：A域原始loss为5、参考为4.9，B域为3、参考为2；前者虽绝对更难，B相对参考的缺口却更大，权重更新会区分这两种情况。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
实现细节
DoReMi 每轮更新 α 后，为什么仍要跨域归一化？
DoReMi: Optimizing Data Mixtures Speeds Up Language Model Pretraining
问答新增：2026-10-27 · Stanford University / Google Research
展开答案与例子
答案：指数更新先得到相对权重，归一化后才能作为采样分布并保持总和1。需要固定对应reference口径；本地两域unigram proxy不等同于The Pile上的280M proxy到8B target迁移。
教学例子：两域权重变成2和3时，采样概率应为0.4与0.6，而不是直接把2和3当概率。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
方法对比
DoReMi 的动态权重更新，与从头到尾均匀采样有什么不同？
DoReMi: Optimizing Data Mixtures Speeds Up Language Model Pretraining
问答新增：2026-10-27 · Stanford University / Google Research
展开答案与例子
答案：均匀采样保持域概率不变；DoReMi按各域相对reference的excess loss指数调整并归一化，回应训练中的相对欠拟合。它并不是对原始loss最高的域无条件加权。
教学例子：两个域原始loss都高，但其中一个reference本来就难，excess loss可区分这两种情形。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 训练预算：数据配比、目标与优化器
基础理解
DoReMi 为什么用小 proxy 来学习目标模型的数据配比？
DoReMi: Optimizing Data Mixtures Speeds Up Language Model Pretraining
问答新增：2026-10-27 · Stanford University / Google Research
展开答案与例子
答案：大模型反复试配比成本高。DoReMi先在小proxy上以excess loss做group DRO，动态调整域权重，再把所得配比用于目标训练；proxy到目标的迁移仍需验证。
教学例子：先用较小试验判断哪些域相对reference欠拟合，再分配昂贵目标训练的数据。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
把推理切成 thought 再做树搜索，与一次生成多条完整答案有什么不同？
Tree of Thoughts
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：中间 thought 是可单独评价和扩展的状态，可以在早期保留多种方向、剪去死路并回退。多条完整答案则常在终点才比较，重复支付错误前缀的成本；ToT 的收益仍受价值估计和搜索宽深预算限制，树结构本身不保证评价正确。
教学例子：例如算术题第一步有三种分解，先检验哪种保留可行余量再扩展，能避免把明显不可能的分解一路写到完整答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
本地 workflow coherence value 能代表 GPT-4 自评质量吗？
Tree of Thoughts
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：不能。本地在小型 PlanBench 上用确定性 workflow coherence、固定 beam 与回溯检查 thought tree 控制流，未调用 GPT-4 或运行 Game of 24。节点数和回溯次数可说明搜索实际发生，满分不代表语言价值函数已学会判断开放推理。
教学例子：例如规则可判某动作顺序违反前提，却不能证明大模型能给创意写作片段打出同样可靠的未来价值。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
ToT 的 BFS 与 DFS 各怎样安排有限的搜索预算？
Tree of Thoughts
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：BFS 同时维护一层的多个状态，便于在相近进度上比较方向，但需要保存并评价较宽前沿；DFS 先沿一条路径深入，遇到不合适状态再回退，前沿较窄却可能在坏分支耗费深度。选择宽度、深度和剪枝阈值时，仍要考虑具体任务的评价可靠性。
教学例子：教学例：有三种开局，BFS 各走一步后比较；DFS 可能先把第一种走到尽头，再决定是否回头试第二种。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
ToT 为什么适合需要试探、发现死路再回退的推理任务？
Tree of Thoughts
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：这类任务的局部选择会影响后续可行性，一次从头写到底容易把错误决定带到结尾。ToT 将过程表示成可继续展开的中间状态，允许保留多个方向、判断进展和回退；前提是中间状态确实可评价，搜索本身不会自动提供可靠的判断标准。
教学例子：教学例：算式拼到一半已无法得到目标数时，可以换前一步的组合，而不必把整道题的完整解释再生成一遍。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
核心机制
TIGER 的残差量化 SID 为什么比随机分层 ID 更有语义共享能力，还需要碰撞 token？
Recommender Systems with Generative Retrieval
问答新增：2026-10-27 · Google / Google DeepMind
展开答案与例子
答案：残差量化先用粗层中心解释内容向量，再逐层编码剩余误差，因此相近内容有机会共享前缀，生成器可复用粗到细的决策。有限码本仍可能把不同物品映成同一路径，额外碰撞 token 才提供唯一地址。语义共享不保证推荐一定更好，随机分层对照能帮助隔离“有层级”和“层级有语义”的区别。
教学例子：两本园艺书先共享园艺前缀，后层区分室内种植与户外栽培；若细码仍相同，最后用碰撞码分开，避免生成同一条路径时不知道究竟服务哪本书。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
实现细节
TIGER本地推理得分是融合代理还是有效ID整链概率？
Recommender Systems with Generative Retrieval
问答新增：2026-10-27 · Google / Google DeepMind
展开答案与例子
答案：当前对所有有效物品码逐token logp求和，非外加打分融合；训练与解码需同码本及碰撞映射，不能允许无效路径参与全库排名。
教学例子：例如少乘一层条件概率，会改变完整item生成概率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
方法对比
额外collision token与语义前缀本身有什么区别？
Recommender Systems with Generative Retrieval
问答新增：2026-10-27 · Google / Google DeepMind
展开答案与例子
答案：语义量化可能让多个物品落同一码，collision token消解身份，不应把任意唯一编号误称新语义层。没有消歧就不能假定一个生成路径唯一对应物品。
教学例子：例如两个内容很近的视频共享三层码，还需最后标记区分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 生成式召回与推理推荐
基础理解
TIGER为什么把内容量化成多级Semantic ID？
Recommender Systems with Generative Retrieval
问答新增：2026-10-27 · Google / Google DeepMind
展开答案与例子
答案：用短离散序列共享语义并支持自回归生成，避免每物品只作无结构独立类别。内容向量和量化质量仍限制泛化，生成码最终需落到真实有效物品。
教学例子：例如相近内容可共享前几级码，后几级再区分细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
把视觉特征投影到 LLM 的维度，为什么还不足以完成视觉指令跟随？
Visual Instruction Tuning
问答新增：2026-10-27 · University of Wisconsin-Madison / Microsoft Research / Columbia University
展开答案与例子
答案：维度相同只解决输入形状，不能保证视觉向量已具有语言模型需要的语义。连接器需要学习视觉到语言的接口，指令监督再训练模型根据图像与问题生成回应；只做投影而没有对应训练，不会自动获得读图、定位或多轮回答能力。
教学例子：例如一张猫图经投影后可以作为向量输入，但模型仍需通过图像问答训练学会针对“它在哪里”组织答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地两层 MLP projector 的负结果能否否定原论文指令微调？
Visual Instruction Tuning
问答新增：2026-10-27 · University of Wisconsin-Madison / Microsoft Research / Columbia University
展开答案与例子
答案：不能。本地固定轻量视觉 patch encoder、问答分类头与小训练预算，只比较线性和两层 MLP 接口，没有生成 GPT-4 指令数据或训练 LLaVA-13B。其负结果说明该小任务增加接口容量未自动受益，范围应限于当前结构与预算。
教学例子：例如小衣物分类任务上 MLP 分数下降，只能报告这次受控比较，不能推导大模型多轮图像对话也会下降。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
LLaVA 的指令监督与 CLIP 的双塔对比监督训练什么不同关系？
Visual Instruction Tuning
问答新增：2026-10-27 · University of Wisconsin-Madison / Microsoft Research / Columbia University
展开答案与例子
答案：LLaVA 条件生成回答，直接学习视觉输入、问题与目标回答 token 的关系；CLIP 主要让配对图文在共享向量空间中相近，用于相似度匹配。二者监督对象不同，不能把 CLIP 检索分数当成指令生成质量，也不能仅据结构比较效果。
教学例子：例如“这两个人为何撑伞”需要生成条件回答；给整张图选择最相似的一句文本，是另一种输出接口。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
视觉 projector 在 LLaVA 的图像到回答路径中承担什么角色？
Visual Instruction Tuning
问答新增：2026-10-27 · University of Wisconsin-Madison / Microsoft Research / Columbia University
展开答案与例子
答案：视觉编码器先产生图像特征，projector 将其变成语言模型可以读取的视觉 token 表示，再与问题和历史文本一起用于预测回答。它解决输入接口的连接，但能否遵循指令还依赖多模态指令训练，维度相同本身并不等于语义对齐。
教学例子：例如图像编码器输出的维度与语言模型隐藏层不同，需要先投影；投影矩阵形状正确后，模型仍需学会哪些视觉信息对应用户问题。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
核心机制
RAFT按奖励选优后做最大似然训练，和直接把奖励当策略梯度有何不同？
RAFT
问答新增：2026-10-27 · HKUST
展开答案与例子
答案：RAFT用奖励模型排序当前策略的多个回答，筛选高质量样本后执行普通监督微调；奖励决定样本选择，而非直接作为每个动作的梯度权重。新策略再生成下一轮数据，仍受奖励模型偏差与候选覆盖限制。本地候选策略只验证迭代采样和筛选状态转移。
教学例子：例如从几篇候选摘要中选评分最高的一篇再学习其文字；没有出现的好摘要无法被选中，评分错误也可能被下一轮模仿放大。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
实现细节
RAFT选优与评估数据隔离应怎样维护？
RAFT
问答新增：2026-10-27 · HKUST
展开答案与例子
答案：奖励模型和采样版本需记录，同提示候选内选优后更新新策略，测试答案不能参与排序。当前候选策略验证状态转移，未训练真实生成式LLM或奖励模型。
教学例子：例如拿测试正确性直接挑样本再训练，不能称未见测试上的泛化改进。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
方法对比
RAFT与PPO在奖励进入梯度的方式上有何不同？
RAFT
问答新增：2026-10-27 · HKUST
展开答案与例子
答案：RAFT奖励决定筛哪些文本，然后用最大似然学习；PPO把优势与概率比直接进入策略目标。筛选监督与加权策略梯度不是同一估计，即便都循环采样。
教学例子：例如高奖只影响一条回答是否入库，不一定按分数大小连续放大其CE。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 数据与预算：下一份算力花在哪里
基础理解
RAFT为什么用当前模型持续产生新训练候选？
RAFT
问答新增：2026-10-27 · HKUST
展开答案与例子
答案：固定SFT库无法随策略改善提供新数据，迭代采样、奖励排序和选优监督把较好行为加入下一轮。它仍受候选覆盖限制，没生成的优秀答案无法被选。
教学例子：例如第一轮学好后可生成更好的摘要，再以新候选继续训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
RRHF已经按奖励给多个回答排序，为什么仍对最佳回答做SFT？
RRHF
问答新增：2026-10-27 · Alibaba DAMO Academy
展开答案与例子
答案：排序hinge只修正概率顺序冲突，顺序正确后可能不给强的生成学习信号。最佳回答SFT继续提高高质量内容的似然，两者分别承担相对排序与具体模仿。奖励排序来自外部评价，长度归一化也只是分数口径，不能保证最高奖励必然事实正确。
教学例子：三个答案已按优劣排对，但优质答案生成概率仍很低；排序项可能停下，最佳答案的监督项仍可继续提升它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
RRHF里的p_i为什么不能误当原始概率？
RRHF
问答新增：2026-10-27 · Alibaba DAMO Academy
展开答案与例子
答案：这里是响应长度归一后的log-probability，hinge比较它们的次序。实现需按同一提示组成关系集合并保持reward方向一致，本地候选概率不是完整7B训练。
教学例子：例如把小数概率直接替代平均logp，会改变间隔大小及更新形状。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
RRHF的best-response SFT与只做排序损失分别贡献什么？
RRHF
问答新增：2026-10-27 · Alibaba DAMO Academy
展开答案与例子
答案：排序损失纠正响应相对次序，SFT直接提升最好响应的似然。只排序可能通过压低其他响应完成要求，二者组合兼顾相对关系与正向学习，不据此宣称通用最优。
教学例子：例如好答比坏答高还不够，还希望好答本身被模型学会。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
RRHF为什么利用同题多个响应的完整排序？
RRHF
问答新增：2026-10-27 · Alibaba DAMO Academy
展开答案与例子
答案：多来源回答提供比单个优选对更丰富的相对关系，模型平均对数似然应与奖励顺序一致，同时对最好回答做监督学习。排序质量仍受奖励或人工标注限制。
教学例子：例如好、中、差三条解答包含多组顺序，不只是一对胜负。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
核心机制
高 importance 的旧事件为什么不该自动取代与当前问题更相关的记忆？
Generative Agents
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：重要性衡量对长期行为的意义，相关性衡量当前查询匹配，近期性又处理时间衰减，三者承担不同角色。反思把多件重要经历抽象成高层认识，但行动仍需结合当前状态；只按某一项检索会偏向永远重复大事件或只看最新闲聊。
教学例子：例如搬家很重要，但问今天约饭地点时，昨晚确认的餐厅更直接相关；综合排序才能兼顾长期背景和当前细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
实现细节
本地反思触发计数是否包含二十五个 LLM persona 的社会行为评测？
Generative Agents
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：没有。本地用受控 EvoMem 三项打分和累计重要性阈值验证检索、反思与计划依赖，没有 Smallville 地图、真实 persona 或人类可信度评审。反思数量和代理成本只能说明机制运行，不能当成关系形成或协同行为可信度。
教学例子：例如累计分达到阈值生成一条规则反思，不代表多个模型会真实传播邀请或自主协调聚会。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
方法对比
reflection 与 planning 在模拟日常行为时，分别回答什么问题？
Generative Agents
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：reflection 从多段经历形成较高层理解，例如对关系或习惯的推断；planning 根据目标、记忆和当前时间安排接下来做什么。推断可影响计划，但推断不是已发生事实，计划也不是已执行结果。将两者分开才能追踪一个行为是依据什么认识，又是否真正发生。
教学例子：教学例：多次互动让角色推断邻居喜欢园艺，这是 reflection；决定下午邀请邻居一起买种子，是基于该认识形成的计划。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 记忆与技能：让经验可取回、可失效
基础理解
reflection 与直接记下一次观察有什么区别？
Generative Agents
问答新增：2026-10-27 · Stanford University
展开答案与例子
答案：观察是具体事件，reflection 从多条重要记忆形成较高层推断，再参与后续检索与计划。它提供跨事件概括，但推断可能错误，不能把模型反思当事实来源；原观察仍应可追踪，计划也需与当前状态一致。
教学例子：例如几次观察到同一人帮忙后生成“他乐于合作”的反思，这是概括而非新发生的客观事件，需要保留支持记录。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
inception prompting 固定角色、目标和边界，为什么不仅是给两个模型起名字？
CAMEL
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：角色提示影响双方职责、可提出的请求及如何配合，轮流消息在这些约束下推进共同任务。若只换名称却没有能力与边界差异，可能得到两段重复回答而非协作；社会轨迹的存在也不是目标已达成的证据，需要另行检查任务产物。
教学例子：例如一方提出实现需求、另一方负责写方案，并约定不能更改总目标；若两者都只夸赞对方，聊天很长也没有工作推进。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地合作状态机与原文多 Agent instruction-following 研究的范围相同吗？
CAMEL
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：不同。本地只验证角色化消息、状态更新和预算协议，没有完整大模型社会轨迹或原文 benchmark。固定程序输出角色台词可测试交接，但不能当真实自主合作行为，更不能据受控满分宣称多个 Agent 可靠完成开放任务。
教学例子：例如脚本交替发两条模板消息说明轮流规则运行；它没有验证模型会在未知任务里保持角色和目标边界。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
轮流双角色合作与单模型一次输出完整解法有什么取舍？
CAMEL
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：对话可以逐步澄清和分担推理，也增加轮数、通信和错误传播机会。多个角色若共享同样偏差，不能靠互相赞同形成独立验证；评价应看真实任务和总成本，而非社会化消息看起来是否自然。
教学例子：例如执行角色提出缺少输入，需求角色可补澄清；若两者都误读目标，轮流聊天只会扩展同一个错误。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
CAMEL 为什么用角色合作研究任务完成，而不只研究单模型的一次回答？
CAMEL
问答新增：2026-10-27 · King Abdullah University of Science and Technology
展开答案与例子
答案：一些任务需要持续提出要求、执行和反馈，两个角色的交互可形成比单次输出更长的协作过程。CAMEL 用明确任务和角色约束研究这种合作及其生成数据。对话长度或角色分工本身不证明解决质量，角色也可能误解目标、重复交流或偏离任务，因此仍需检查结果。
教学例子：教学例：一个角色提出数据分析需求，另一个逐步实现并接受反馈；若二者都只复述需求，多轮交流并没有真正完成分析。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
同一模型同时写初稿和反馈，为什么还要把反馈作为单独步骤显式生成？
Self-Refine
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：显式反馈把不满足的约束转成可执行修改方向，使改写不只是随机再采样一遍答案。生成、反馈和精炼承担不同角色，停止仍依赖模型自身判断；无需外部训练并不意味着反馈一定正确，也不能把反复润色当作已经有独立事实验证。
教学例子：例如初稿遗漏单位，反馈明确指出需补每个数值单位，改写才有具体目标；仅说“再写好一点”很难定位同一缺陷。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
本地确定性 critic 的停止能代表真实 LLM 自评可靠性吗？
Self-Refine
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：不能。本地显式生成、反馈、修订和停止的状态链由受控 critic 验证，没有通用 LLM 或七项原 benchmark。停止只证明该判定合同，不能推断模型在开放事实题也能识别自己已正确，更不能用本地满分替代人类偏好。
教学例子：例如规则检查文本长度合格就停止，无法证明其中事实无误；真实自评可能过早满意，需独立证据评估。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
与 Reflexion 的跨 trial episodic memory 相比，Self-Refine 更关注哪种循环？
Self-Refine
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：Self-Refine 围绕当前初稿做反馈和修订，Reflexion 将失败经验写入有界记忆供下一 trial 使用。两者可组合却不是同一状态机制，前者不自动形成长期经验库，也不能因为多次改写就称参数 RL。
教学例子：例如一封邮件在当前轮改三次是 Self-Refine；把“先核对收件人”经验用于明天的新邮件则涉及跨 trial 记忆。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Self-Refine 为什么把一次输出看成还能按具体要求改进的草稿？
Self-Refine
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：开放生成常同时要求正确、完整、清晰或符合风格，一次回答可能只满足其中部分。Self-Refine 让模型先生成，再明确检查不足并修订，不依赖额外参数训练。循环需要有可执行反馈，模型也可能误判或越改越差，因此改了多轮不等于质量已经提高。
教学例子：教学例：初稿解释正确却缺少例子，反馈指出这一缺口后再补写；若反馈只有“再好一点”，下一轮未必知道该改哪里。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么多模态专家执行要遵守子任务依赖，而不是把所有模型同时调用？
HuggingGPT
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：后续专家的输入可能是前面检测、识别或转写的输出，没有这些结果就无法正确调用。控制器先建依赖图，再按模型描述选择能力并拓扑执行，最后汇总；模型名称相似不证明接口兼容，独立任务才适合并行，依赖链不能被忽略。
教学例子：例如先语音转写再翻译，需要把真实转写送入翻译器；两者同时启动并让翻译器猜转写内容，会破坏证据链。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 capability registry 和 dependency edge 是否已下载运行专家模型？
HuggingGPT
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：没有。本地用工具描述代替模型能力目录，验证匹配与拓扑执行，没有数百个 Hugging Face checkpoint 或 ChatGPT 调用。边计数与编排一致性只能证明控制流，不能当跨模态内容质量或真实系统费用。
教学例子：例如接口把检测节点输出交给回答节点，若内容由规则生成，就尚未证明真实视觉专家识别正确。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
语言控制器与专用多模态模型，分别承担理解编排还是具体计算？
HuggingGPT
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：控制器解析用户需求、选择专家并组织子任务，专用模型实际处理视觉、语音等输入，结果再由控制器整合。编排正确不代表专家预测正确，专家单项成功也不保证最终综合回答符合任务。应分别核查选择、输入输出衔接和结果解释，不能把专家能力都归到语言控制器本身。
教学例子：教学例：控制器决定先识图再生成语音，图像模型负责检测内容，语音模型负责合成；控制器并未因此自己获得同样的视觉参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
HuggingGPT 为什么把专家模型描述当可匹配的能力目录？
HuggingGPT
问答新增：2026-10-27 · Zhejiang University
展开答案与例子
答案：控制器不必自己掌握所有视觉和语音能力，而是将子任务需求与模型卡描述匹配，再调用相应专家。描述提供选择线索而非能力保证，版本、输入输出类型和可用性仍须核查，不能因模型名相似就假设能互换。
教学例子：例如“从图像识别对象”可匹配检测模型，“把语音转文本”匹配 ASR；两个任务需要不同媒体输入和输出合同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
核心机制
verbal reinforcement 为什么不等于对模型参数做强化学习更新？
Reflexion
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：反馈被转换成自然语言经验写入有界 episodic memory，下一次尝试改变的是模型所见上下文，而非通过梯度修改权重。反思能传递比二元成败更具体的经验，但记忆内容仍可能错误，Evaluator 必须继续判定实际执行，不能由反思自称学会。
教学例子：例如失败后记下“先确认文件路径再编辑”，下一轮读取这句话会改变行为；即使权重完全相同也可表现不同。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
实现细节
mini-suite 0.9 与 ToolRoute 的隔离结果为什么要分别解读？
Reflexion
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：前者按每个新族首次失败、后续复用的确定性协议构造，反思模板与 evaluator 也固定；后者是另一个无 reference policy 接口的工具环境。两者都非 HumanEval pass@1，记忆有界追加和失败保留可验证，数值不能跨协议排名或替代原论文。
教学例子：例如十二个任务族各故意失败一次会决定总体比例，这与模型在一百二十个独立编程题上的自然错误分布不同。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
方法对比
二值失败到可执行反思相比直接保存奖励多了什么？
Reflexion
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：二值奖励只说未成功，反思尝试提炼原因和下一次应避免或尝试的行为，提供可操作上下文。推断仍可能错误，需要真实下一 trial 反馈检验；不能把隐藏标准计划直接写成反思，再把成功归因自主学习。
教学例子：例如“失败”不足以说明要改哪里，“日期参数需 ISO 格式”更可执行，但必须来自可见报错而不是 gold route。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 运行流程与自进化：改的是哪一层
基础理解
Reflexion 为什么在多次尝试之间保存失败教训，而不只重新随机作答？
Reflexion
问答新增：2026-10-27 · Northeastern University
展开答案与例子
答案：同一任务反复尝试时，单纯重采样容易重复原来的错误。Reflexion 将执行评价转成可读经验，供后续尝试调整行为，使反馈跨 trial 保留。记下教训不等于它正确或可迁移，外部奖励与文字反思的作用应分开，模型参数也不会因此自动完成 RL 更新。
教学例子：教学例：第一次搜索停在无效页面，反思可提醒下一次检查来源和扩大查询；只重新开始而不保留教训，可能再次走同一路。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么遇到工具标记时暂停生成、执行后再续写，比一次性写完含结果的程序更可靠？
ART
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：暂停让后续文本条件化于真实工具返回，避免模型预先想象执行结果。自动检索推理与工具示例减少手工提示负担，但运行器仍要识别标记并注入观察；冻结模型只是参数不更新，工具反馈仍会改变当前上下文和后续生成。
教学例子：例如生成到数据库查询标记便执行，得到三条记录再汇总；不能先写出“查到十条”再补一段未执行查询装饰。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地工具签名任务库与冻结 LLM 程序生成的差距是什么？
ART
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：本地只验证小库检索、逐工具暂停恢复和更新控制流，没有调用冻结大模型或运行 BIG-Bench、MMLU。暂停次数可以证明执行分支发生，但程序语义是否由模型正确生成尚需真实模型证据，代理成本也不等于原文 token。
教学例子：例如三次工具暂停由结构化模板驱动，可检验 runner；不能据此声称模型已能为任意自然语言题自动编程。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
自动检索示例与为每个新任务手写 CoT 有何取舍？
ART
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：检索复用任务库中的推理工具模式，减少逐任务人工编写，但相似示例未必满足当前约束。少量人工修订可扩展库，仍要验证新程序，不能把旧示例完整照搬视为新任务已解决或不需任何人类维护。
教学例子：例如旧示例展示先搜索再计算的结构可复用，新题的查询和参数仍由当前问题决定，而非复制旧题答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
ART 为什么希望新任务能复用已有的推理与工具示范？
ART
问答新增：2026-10-27 · University of Washington
展开答案与例子
答案：为每个任务手写完整 CoT 和工具流程成本高，已有任务示范可能包含可迁移的解题结构。ART 检索相关示例并生成带工具使用的过程，让外部计算参与解决新问题。示例复用仍需当前输入和工具返回校验，不是把旧答案照搬，也不保证任务换域后依旧适用。
教学例子：教学例：见过用计算器比较成本的示范，遇到新的费用问题可复用分解方式；数字和工具返回必须针对本题重新获取。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
为什么筛选 API 调用要比较有返回、隐藏返回与不调用时的后续 loss？
Toolformer
问答新增：2026-10-27 · Meta AI Research
展开答案与例子
答案：只看调用字符串可能把有用提示格式误认为真实工具价值。对照不同返回条件，检查实际结果是否降低后续预测损失，再保留超过门槛的调用训练模型，才能更接近学习调用效用；这个自监督代理也不等于所有任务正确率或真实业务收益。
教学例子：例如计算器调用形式本身不告诉乘积，只有注入正确返回才改善后续预测，筛选才有理由保留这次计算调用。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 utility loss 过滤为何不能当作 GPT-J continued training 完成？
Toolformer
问答新增：2026-10-27 · Meta AI Research
展开答案与例子
答案：本地的 loss 来自确定性 tool utility，保留候选判据但没有 GPT-J token likelihood、6.7B 参数训练或五类真实 API。候选和接纳数量证明过滤运行，不证明模型学会何时调用；必须明确诊断代理，不能与原文零样本能力横比。
教学例子：例如预设工具有用就降低一个规则 loss，验证的是筛选逻辑，不是语言模型在真实语料上自动发现工具价值。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
Toolformer 的调用数据构建与人工逐条标注工具轨迹，监督来源有何区别？
Toolformer
问答新增：2026-10-27 · Meta AI Research
展开答案与例子
答案：人工轨迹直接示范动作序列，Toolformer 则从少量示范出发采样候选调用，用返回值对后续文本预测的帮助筛选样本，再用于语言模型训练。它减少逐条人工标注需求，但仍依赖已有工具和筛选信号，不能据此声称无需任何示范或已经验证任意开放任务。
教学例子：教学例：人工不必为每句话标出计算器调用，而是由候选生成与 loss 检查挑选部分调用；错误候选仍可能需要过滤。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
Toolformer 为什么希望模型从文本训练中学会何时借助外部工具？
Toolformer
问答新增：2026-10-27 · Meta AI Research
展开答案与例子
答案：语言模型可生成流畅文本，却不总擅长计算、查新事实或可靠检索。Toolformer 研究把有帮助的 API 调用融入训练语料，让模型学习调用的时机、参数及返回值利用。数据筛选只提供学习信号，工具存在也不保证每次调用有用，更不能把本地筛选流程当作模型已训练。
教学例子：教学例：写到具体乘法时调用计算器，再接着完成句子；是否插入调用应取决于它能否帮助后续预测，而不是逢数字必调。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
为什么冻结视觉编码器和语言模型后，Q-Former 仍能学会把图像接给语言模型？
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
问答新增：2026-10-27 · Salesforce Research
展开答案与例子
答案：梯度仍可经过冻结模块传到连接器；冻结的是参数更新，不是计算图。可学习 Query 通过交叉注意力从视觉特征中选取信息，再投影成语言模型能消费的软提示。两阶段训练分别处理图文表征对齐与语言生成接口，瓶颈也可能丢失细节。
教学例子：例如把十六块图像特征压成四个 Query，语言模型仍能接收四个视觉提示，但小字可能需要更多容量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
本地四 query 结果能验证原论文两阶段预训练吗？
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
问答新增：2026-10-27 · Salesforce Research
展开答案与例子
答案：不能。本地使用真实 Fashion-MNIST 像素与四 query 交叉注意力，未加载 ViT-g 或大型语言模型，也没有执行原文 ITC、ITM、ITG 与第二阶段的大规模训练。它可检查 token 压缩路径与小预算行为，不能充当原论文零样本能力验证。
教学例子：例如观察到视觉 token 从十六降到四，只能证明当前接口缩短了序列，不能据此声称完成了一亿多图像的预训练。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
BLIP-2 与给每个视觉 patch 加线性投影相比，接口结构有何不同？
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
问答新增：2026-10-27 · Salesforce Research
展开答案与例子
答案：逐 patch 投影主要改变特征维度，通常保留原 token 数；Q-Former 用可学习查询主动聚合视觉信息，再做投影。两者因此在信息选择与序列长度上不同，但瓶颈是否损失细节取决于训练和任务，不能由结构直接推定准确率更高。
教学例子：例如识别衣服类别也许只需整体轮廓，读取小字却可能需要瓶颈保留局部细节；四个 query 并非在两类任务上都足够。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
Q-Former 的 query 是待回答的问题文本吗？
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
问答新增：2026-10-27 · Salesforce Research
展开答案与例子
答案：这里的 query 是固定数量、可学习的向量，不是用户问句。它们通过交叉注意力从冻结视觉编码器的 token 中抽取信息，再交给语言侧；数量固定形成视觉信息瓶颈，因此输入图片更复杂并不会自动增加输出 token 数。
教学例子：例如一张图产生数百个 patch，四个可学习 query 可以读全部 patch，却只把四个向量交给后续语言模型。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
核心机制
Constitutional AI的原则批评与AI偏好训练，为什么是两个不同阶段？
Constitutional AI
问答新增：2026-10-27 · Anthropic
展开答案与例子
答案：第一阶段依据原则批评并修订回答，再用修订文本做监督训练；第二阶段用原则指导回答间比较，学习偏好并用于强化学习。前者提供改写示范，后者提供选择信号。原则文本并不自动保证无害性，本地原则打分或状态更新也不等于完整安全红队训练。
教学例子：先按“不泄露隐私”原则改写一份回答，再比较两种改写哪个更合适；改写文本与二选一标签不是同一种训练输入。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
实现细节
本地Constitutional AI的原则维度与安全能力有什么边界？
Constitutional AI
问答新增：2026-10-27 · Anthropic
展开答案与例子
答案：本地使用正确性、格式、过程和简洁性等确定性轴，验证原则评分与状态更新。它们不覆盖真实有害请求，也未训练完整安全奖励模型，不能报告为无害性提升。
教学例子：例如格式规范通过，只能说明输出格式，不能推出危险建议已被可靠拒绝。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
方法对比
按原则自我修订SFT与RLAIF阶段为何不能混为一个目标？
Constitutional AI
问答新增：2026-10-27 · Anthropic
展开答案与例子
答案：前者学习修订文本，后者利用AI偏好训练奖励并优化策略，数据和执行环节不同。本地简化组合不能证明独立偏好模型及PPO已执行，也不能把算术原则当安全红队证据。
教学例子：例如修好一条回答只构成监督样本，不自动等于完成奖励驱动强化学习。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 偏好与对齐：先看反馈长什么样
基础理解
Constitutional AI中的constitution承担什么角色？
Constitutional AI
问答新增：2026-10-27 · Anthropic
展开答案与例子
答案：它把人类规范显式写成自然语言原则，指导批评、重写与AI偏好判断；原则是监督来源，不是模型自行发现的绝对价值标准。
教学例子：例如用明确原则解释为何重写回答，而非仅给一个没有依据的好坏分。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
核心机制
推测解码拒绝草稿时，为什么要从正残差分布采样，而不能直接重采一次目标分布？
Fast Inference from Transformers via Speculative Decoding
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：草稿按目标与提议概率比接受，接受部分已经贡献了部分目标概率质量。拒绝后从目标减去提议的正残差归一化采样，才能补足剩余质量；直接重采目标会重复计入已接受部分，改变最终分布。本地小型词转移模型验证流程，不等于大模型内核延迟。
教学例子：例如草稿过度偏好某个词，拒绝事件应补偿它欠覆盖的其他词；若拒绝后仍按原目标重采，就没有正确扣除先前接受的质量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
实现细节
一次拒绝后，为什么不能继续无条件提交同块后面的 draft token？
Fast Inference from Transformers via Speculative Decoding
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：后续草稿建立在被拒绝的前缀上，目标校正后条件已变化，应按验证协议丢弃未接受后缀并从正确前缀继续。文档本地Markov LM调用数也不等于T5-XXL真实kernel时延。
教学例子：第2词被改成另一个词后，第3到5词不能仍假设第2词保持原草稿值。
依据：背景与主要改动、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
方法对比
精确随机推测解码与“草稿和 target 贪心一致就接收”，保证范围相同吗？
Fast Inference from Transformers via Speculative Decoding
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：贪心一致只涉及确定性最高分路径；随机采样要保持完整target分布，需要按p/q接受并在拒绝时校正残差。不能用一条贪心序列相同证明所有温度下采样分布一致。
教学例子：两个模型最高概率词相同，第二、第三候选的概率仍可能相差很大。
依据：核心公式、本地复现；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 生成路径：草稿验证、并行去噪与少步迭代
基础理解
推测解码为什么能用小 draft 帮大 target 减少串行调用？
Fast Inference from Transformers via Speculative Decoding
问答新增：2026-10-27 · Google Research
展开答案与例子
答案：廉价draft先提出一段候选，target集中验证这些位置，接受连续正确部分后继续。节省来自提案和并行验证的组织，最终分布仍需精确接受/拒绝校正，不能把草稿直接当答案。
教学例子：一次target验证可确认多个候选，而不是每个输出token都单独调用一次target。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
把算术交给 Python 后，模型为什么仍可能给出错误答案？
PAL
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：确定性 runtime 保证执行给定程序，不保证程序正确表达题意。模型还要理解变量、关系和控制流，若把折扣顺序或单位写错，Python 会精确执行错误逻辑；PAL 分离程序合成与计算执行，降低算术出错但并不消除建模错误。
教学例子：例如题意先打折再加运费，程序却给总额一起打折，计算器执行无误，最终价格仍与用户要求不符。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 CALL/RETURN 中间表示等同任意 Python 程序执行吗？
PAL
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：不等同。本地使用受控中间表示和解释器，验证程序构造及执行职责分离，不调用 Codex，也未运行原文 GSM8K。限制动作空间有助检查合同，但不能把受控可执行计划的满分改成开放 Python 合成能力或通用安全沙箱。
教学例子：例如解释器只支持预定义 CALL 节点，不会验证任意循环、文件访问和外部依赖，范围与真实 Python runtime 不同。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
PAL 与只用 CoT 手算相比，错误来源怎样变化？
PAL
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：CoT 同时承担理解、步骤和数值执行，PAL 把精确计算转给程序，减少手算误差但增加代码生成和接口风险。能运行的程序提供可检查中间量，仍应验证输入与公式；两条路线效果需按任务和预算测量，不能从确定性直接推导准确率。
教学例子：例如长乘法交给解释器可避免算错数字，但把税率误读为金额仍属于模型理解错误，两种错误不能混在一起。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
PAL 为什么让语言模型写程序，再把具体计算交给解释器？
PAL
问答新增：2026-10-27 · Carnegie Mellon University
展开答案与例子
答案：自然语言问题往往既需要理解关系，又需要精确执行运算。PAL 让模型把理解转成可运行程序，由解释器完成计算，减少语言模型逐步手算的负担。关键前提是程序确实表达题意，解释器只执行代码，不会发现遗漏条件或错误建模。
教学例子：教学例：模型把人数和单价写成变量交给程序求总价；若忘了儿童半价，计算器算得再准确也只是执行了错误公式。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
核心机制
为什么 observation 必须回到下一轮上下文，而不能让模型只继续自己的 reasoning？
ReAct
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：动作的意义在于获得真实外部反馈，下一轮据此修正信念与计划。若只沿原推理续写，模型可能把预期当成实际结果，失去行动与认知的闭环；ReAct 的关键是推理、可执行动作和观察交替，不是单纯在文本里写出几个工具名称。
教学例子：例如模型猜文件存在后执行读取，工具实际返回不存在；下一步应改变搜索路径，而非沿“文件已读到”的想象继续分析。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
实现细节
ReAct 的训练或评估为何要区分生成 token 与环境 token？
ReAct
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：工具观察是外部提供的状态，不是策略选择的动作，不能把它们当作模型生成能力或策略梯度目标。当前本地确定性 suite 只验证循环与计数，另有隔离能力协议也需保持 policy 不读 reference；两种证据范围不能因方法相同就混合。
教学例子：例如工具返回一百个词不应算成策略成功生成的一百个词，更不能把其中隐藏答案写入可见 reference 字段帮助决策。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
方法对比
ReAct 与纯 CoT 在错误暴露的时机上有什么差别？
ReAct
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：纯 CoT 可一直在内部假设上推演，错误未必接触外部事实；ReAct 通过行动获得观察，可在途中修正计划。外部反馈也可能不完整或工具失败，因此交替结构不保证事实正确，仍要核对工具结果和最终支持关系。
教学例子：例如假设某书作者是甲，检索发现作者为乙后可及时修正；纯内部推演可能继续围绕甲生成更多错误细节。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 规划与搜索：下一步该做什么
基础理解
ReAct 为什么把回答问题和与外部世界交互放在同一个循环里？
ReAct
问答新增：2026-10-27 · Princeton University
展开答案与例子
答案：仅凭模型内部知识，Agent 可能缺少最新事实，也无法知道动作是否真的成功。ReAct 让模型一边推理一边调用工具或环境，并把返回结果用于后续决定，适用于信息获取与行动交织的任务。真实观察增加纠错机会，但工具错误和错误解释观察仍可能导致失败。
教学例子：教学例：查某商品是否有货，Agent 先查询库存，再根据返回结果决定继续下单还是找替代品，不能只凭常识猜库存。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
核心机制
M6-Rec统一多个推荐任务时，option tuning和adapter分别改动哪一部分？
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：冻结主干保留预训练能力，option参数为任务选择提供轻量可学习接口，逐层adapter再增加小规模任务变换。两者让不同任务共享大模型而不必各自全量微调；但参数占比小不等于推理成本自然低，边缘部署仍需独立压缩与服务设计。本地小任务对照也不能证明巨型M6全部能力已迁移。
教学例子：同一冻结模型处理相关性判断与内容解释，可用不同任务option和小adapter适配；只训练很少参数仍可能需要经过大主干，因此不能直接声称已适合端侧。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
实现细节
M6-Rec 本地冻结主干的二分类 option 得分，为什么要核验归一化与温度？
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：来源比较归一表示和可训练原型的相似度，温度控制分类分布；若未归一，向量范数会改变机制。两臂主干均应冻结，只对 option 与允许 adapter 更新。本地 BERT-tiny 是缩比任务路径，不代表完整生成式 M6 所有能力。
教学例子：原型范数越大若可直接提高分数，模型可能只靠放大而非方向学分类；归一和温度把这项自由度按定义固定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
方法对比
Option tuning 与 option-adapter tuning，相比增加了哪部分可学习能力？
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：只调 option 原型主要改变输出决策接口，adapter 还在冻结主干层间提供低秩非线性变换，能适配内部表示。后者参数更多但仍远少全量微调，效果取决于数据；来源本地只有微小且波动趋势，不足以宣称稳定生产增益。
教学例子：只移动“推荐/不推荐”两个原型像调整分类尺，加入 adapter 则可先调整被尺衡量的特征；两者不是相同参数预算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 语义表征、用户知识与冷启动
基础理解
M6-Rec 为什么把匿名行为和候选转成自然语言以统一多个任务？
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：文本接口让共享预训模型接收不同推荐问题，任务差异通过 option 和 adapter 表达，减少每场景维护独立大模型。统一语言不等于所有任务共享同一标签或同一解码成本，解释、召回与分类仍有不同输出契约。
教学例子：同一模型可读用户电影历史后做是否推荐判断，也可解释内容；不能因都用文本输入，就把解释正确率直接当召回命中率。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
路由到确定性模块，为什么不能据此保证整个系统答案确定正确？
MRKL
问答新增：2026-10-27 · AI21 Labs
展开答案与例子
答案：计算器或数据库只在各自合同内可靠，路由器仍可能选错模块或传错输入，语言层也可能误解和错误组织结果。MRKL 的价值在于把精确能力从语言生成中拆出，明确各模块边界；局部确定性与端到端任务正确性是两层不同保证。
教学例子：例如用户问含税价格，路由器虽调用计算器，却传入错误税率；结果可重复且精确，仍不是正确业务答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地专家调用统计是否包含 Jurassic-X 或真实知识库？
MRKL
问答新增：2026-10-27 · AI21 Labs
展开答案与例子
答案：没有。本地使用确定性 mini-suite 的计算器、日历等专家，验证 router 与可区分执行计数，不调用 Jurassic-X、搜索服务或私有库。成本是代理量，不能当线上延迟；符号调用次数也不能证明开放问答或时效知识质量。
教学例子：例如数据库模块返回 fixture 记录可测试调度，但没有真实库权限、查询失败和更新，就不能验证生产数据访问能力。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
模块化专家与单一 LLM 包办所有步骤有什么取舍？
MRKL
问答新增：2026-10-27 · AI21 Labs
展开答案与例子
答案：专家可让确定性运算或时效知识更可控，单模型接口较简单却容易凭内部记忆回答。模块化增加路由、数据转换和错误处理成本，也受专家覆盖限制，不能因存在计算器就声称整个系统具备可证明正确性。
教学例子：例如精确日期差交给日历模块合适，但“为何延期”仍需语言理解和证据，不能让一个离散函数包办所有语义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
MRKL 为什么把语言模型与不同的外部专家模块组合起来？
MRKL
问答新增：2026-10-27 · AI21 Labs
展开答案与例子
答案：开放问题既可能需要语言理解，也可能需要精确计算、数据库查询或其他专用能力。MRKL 让语言模型组织任务并路由到适合的模块，再整合结果。模块化把能力来源分开，也增加路由和接口衔接的错误点，不能从某个模块可靠推出整个系统可靠。
教学例子：教学例：问账户余额变化，可让数据库取数、计算模块求差，再用语言解释；若路由查询了错误账户，正确计算也无济于事。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
语言相关性与 affordance 相乘，为什么能过滤“合理但做不到”的动作？
SayCan
问答新增：2026-10-27 · Robotics at Google
展开答案与例子
答案：语言模型衡量技能与指令、历史是否匹配，价值函数衡量当前环境下执行成功的可能，两者乘积要求语义合适且物理可行。单靠语言可能建议拿取够不到的物体，单靠可行性又可能执行无关动作；评分仍依赖技能库与价值估计的覆盖。
教学例子：例如指令要拿杯子，但杯子在锁柜里，直接抓取语言上相关却可行性低；先开柜可能更适合作为下一技能。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地 affordance checks 验证了真实 value-function 训练吗？
SayCan
问答新增：2026-10-27 · Robotics at Google
展开答案与例子
答案：没有。本地用确定性可执行性过滤必要和干扰技能，保留双分数逐步选择，没有视觉、机器人策略或真实价值网络训练。检查数量和过滤数量证明路径运行，不是预测成功概率校准，不能直接对标实体机器人任务结果。
教学例子：例如规则知道手被占用就拒绝抓取，可验证门控；它没有从图像估计物体可达性或抓取成功率。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
plan success 与 execution success 为什么不能当同一机器人指标？
SayCan
问答新增：2026-10-27 · Robotics at Google
展开答案与例子
答案：计划语义合理仍可能因感知、抓取或控制失败而执行不成，执行指标包含物理落实风险。SayCan 分别报告二者，不能拿较高规划率描述成实际机器人完成率；本地确定性可执行门更没有覆盖这些真实控制失误。
教学例子：例如步骤“拿杯子再放桌上”规划正确，夹爪滑落导致未完成，不能因为计划合格就计一次执行成功。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
机器人为什么不能把语言模型生成的合理计划直接当成可执行动作？
SayCan
问答新增：2026-10-27 · Robotics at Google
展开答案与例子
答案：语言模型擅长判断语义上该做什么，却未必知道机器人当前位置、技能范围和物理条件。SayCan 研究把语言任务理解与实际技能可行性联系起来，选择既相关又有机会执行的下一步。可行性估计仍可能失准，模拟计划和真实完成要分别报告。
教学例子：教学例：用户要饮料，语言上“拿杯子”合理；如果杯子不在可达范围，机器人需要先选择自己当前能完成的操作。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
核心机制
InstructGPT流程中的reward model、critic、old policy与reference为什么不能合成一个概念？
InstructGPT / PPO-RLHF
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：reward model把偏好转成评分，critic估计回报以构造优势，old policy标识采样分布，reference约束相对SFT策略的漂移。它们可能有共享初始化，但训练目的与使用时点不同。只跑候选策略的actor/critic更新，并未复现人工排序、奖励模型训练或大模型RLHF。
教学例子：一份回答可被奖励模型评高分，但critic只是预测它未来能获多少回报；reference又只负责比较策略偏离程度。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
实现细节
本地PPO-RLHF是否包含真实学习的reward model？
InstructGPT / PPO-RLHF
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：没有，奖励来自确定性结果和过程轴，策略也是候选线性模型。虽有actor、old、critic、clip与KL结构，仍不能宣称训练了GPT-3或使用原文人工数据。
教学例子：例如一个数值critic可验证baseline更新，不代表完整人类偏好训练栈。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
方法对比
PPO clip与reference KL都限制变化，为什么仍需区分？
InstructGPT / PPO-RLHF
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：clip限制相对old policy的近端更新，KL限制相对参考策略的偏移；作用基准与时间尺度不同。二者不能互相替代，也不保证奖励模型没有被利用。
教学例子：例如每步都小改仍可长期离初始策略很远，近端限制不等于固定锚点。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
LLM 后训练 / 策略优化：谁在采样，谁在被更新
基础理解
InstructGPT三阶段分别引入什么监督？
InstructGPT / PPO-RLHF
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：人工示范训练SFT，人工排序训练奖励模型，再用PPO优化奖励并以参考KL控制偏移。每阶段的模型和数据作用不同，单跑PPO损失不构成整条流程。
教学例子：例如有示范但没有排序数据，尚不足以声称奖励模型已被训练。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
核心机制
带引用的浏览轨迹为什么还要经过人类偏好排序，而不只要求附上网址？
WebGPT
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：网址存在不保证证据支持结论或回答满足问题，浏览过程与最终组织都需要质量判断。行为克隆先学习操作，再由偏好奖励选择较好轨迹；引用提供可核查入口，却不能让断章取义或未访问来源自动变可靠，仍需对应具体主张。
教学例子：例如两段回答都贴了同一新闻链接，一段准确区分事件时间，另一段夸大结论；仅检查链接数量无法选出更好的答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
实现细节
本地两条轨迹按证据覆盖选择能等同实时网页与 reward model 吗？
WebGPT
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：不能。本地保留浏览动作、引用约束和候选选择控制流，不访问实时网页、不训练 GPT-3 或人类偏好模型。证据覆盖是受控选择信号，不能改名成人评胜率、TruthfulQA 或真实网页事实核验成绩。
教学例子：例如两条预设工具轨迹中选覆盖多的一条，可验证拒绝采样接口；没有真实页面和偏好模型就未复刻原完整系统。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
方法对比
行为克隆与人类偏好 rejection sampling 分别起什么作用？
WebGPT
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：行为克隆学习示范中的搜索、浏览和回答方式，偏好模型再对多条候选轨迹排序并选择。后者不自动生成新事实，也有 judge 偏差和多次采样成本；best-of-64 不能与单次输出忽略计算后直接比效率。
教学例子：例如六十四条回答里选最好的一条提高偏好分，也确实支付了多轨迹浏览和生成成本，不能算成一次调用能力。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
Agent / 工具与协作执行：把计划变成可检查的动作
基础理解
WebGPT 为什么把浏览和来源支持纳入长篇问答，而不只让模型凭记忆作答？
WebGPT
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：开放问题常需要新信息或多个来源，纯参数回答可能缺少可核查依据。WebGPT 让模型通过浏览收集证据，再形成带引用的回答，并利用人类反馈评价质量。浏览获得的文本仍需正确理解，链接数量不能代替来源对具体结论的支持，也不保证覆盖所有重要事实。
教学例子：教学例：比较两项政策需要分别找到原始说明，再解释差异；只在段末附一个相关网站，不能证明其中每个数字都有依据。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
ALiBi不加位置向量，模型怎样知道两个token离得有多远？
Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation
问答新增：2026-10-27 · University of Washington / Meta AI
展开答案与例子
答案：它直接在每个注意力头的匹配分数上减去与距离成正比的偏置。距离越远，读到该位置需要更强的内容匹配来抵消惩罚；不同头的斜率提供不同距离偏好。偏置可以在更长位置上计算，不依赖一张只训练到固定长度的位置表，但这不保证任意长上下文都能正确检索。
教学例子：两个历史词的内容分数相同，一个距离2、一个距离20；距离惩罚让较近者得到更高权重。若远处包含独特答案，它仍需凭更强内容匹配胜出。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
实现 ALiBi 时，只减距离就能替代因果 mask 吗？
Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation
问答新增：2026-10-27 · University of Washington / Meta AI
展开答案与例子
答案：不能。距离偏置改变可见位置之间的偏好，因果mask决定未来位置是否可见。需要按head广播各自斜率，并继续屏蔽未来；本地小模型结果也不能证明论文大规模长上下文收益。
教学例子：第3词对第4词虽只有距离1，仍必须被因果mask排除。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
ALiBi 的线性偏置与给 token 加位置 embedding，分别改动哪里？
Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation
问答新增：2026-10-27 · University of Washington / Meta AI
展开答案与例子
答案：位置embedding先修改token表示，再由投影产生Q/K/V；ALiBi不学习位置向量，而直接给各头的匹配分数加距离偏置。这是信息进入模型的位置不同，不能只把两者都叫“加一个位置数值”。
教学例子：同一对内容向量可以保持不变，但在不同距离下获得不同logit惩罚。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
为什么 ALiBi 关心“训练看短文本、推理读长文本”？
Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation
问答新增：2026-10-27 · University of Washington / Meta AI
展开答案与例子
答案：位置表示若只适配训练长度，推理遇到更远距离就可能失效。ALiBi用可继续计算的距离惩罚表达顺序，把位置偏好直接放进注意力分数；外推的是位置规则，长文本任务是否有效仍需评测。
教学例子：训练最长512词，推理出现第800词时仍能计算它与前文的距离，不需要查第800项位置表。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
核心机制
RoPE给Q和K分别加了绝对位置旋转，为什么点积却能表达相对位置？
RoFormer: Enhanced Transformer with Rotary Position Embedding
问答新增：2026-10-27 · Zhuiyi Technology
展开答案与例子
答案：位置m、n对应的旋转在点积中组合，前一个旋转的转置抵消共同的绝对部分，留下与n减m相关的旋转。因此内容匹配中自然带上相对位移。被旋转的是Q/K子空间，不是把value直接标成位置；能计算更远位置也不等于经过训练的检索能力无限外推。
教学例子：把两个词同时从位置3、8平移到13、18，二者距离仍是5；位置旋转在点积中的相对关系保持一致，而内容本身仍由投影决定。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
实现细节
实现 RoPE 时，Q 与 K 只旋转其中一个可以吗？
RoFormer: Enhanced Transformer with Rotary Position Embedding
问答新增：2026-10-27 · Zhuiyi Technology
展开答案与例子
答案：不可以按此替代文档公式。相对位移来自R_m与R_n共同进入点积；要正确配对二维通道，并让增量解码的位置编号延续历史，而非每一步重置为0。
教学例子：生成第100个位置时仍需使用位置100的旋转，不能因当前只输入一个token就当作位置0。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
方法对比
RoPE 的旋转位置表示，与直接加绝对位置向量有什么计算差异？
RoFormer: Enhanced Transformer with Rotary Position Embedding
问答新增：2026-10-27 · Zhuiyi Technology
展开答案与例子
答案：绝对位置向量先加到表示里；RoPE旋转Q/K，使两者内积中的位置部分可写成相对旋转。两者注入位置的运算不同，不能只因都用位置编号就按同一公式实现。
教学例子：两段内容整体平移后，相对位移不变，RoPE的相对相位关系也保持对应。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 长上下文：注意力、递归状态与记忆
基础理解
RoPE 为什么把位置作用在 Q/K 的二维子空间里？
RoFormer: Enhanced Transformer with Rotary Position Embedding
问答新增：2026-10-27 · Zhuiyi Technology
展开答案与例子
答案：位置控制二维旋转角度，Q与K的点积便带上相对位移的相位关系。它让匹配分数同时依赖内容和相对位置，不必给每个位置单独学习一项向量。
教学例子：相同内容相隔2词和20词，可因相对旋转不同而获得不同匹配分数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
核心机制
CLIP 为什么既做图到文、也做文到图的对比学习？
Learning Transferable Visual Models From Natural Language Supervision
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：同一批图文可形成两个分类问题：给每张图找到配对文本，给每段文本找到配对图像。两个方向共同约束共享相似度空间，避免只照顾一种检索方向；负例来自批内其他配对，但整体匹配分数并不等于细粒度事实正确率。
教学例子：例如猫图与猫描述互为正例，犬图与犬描述互为另一正例；两个方向都要把对应配对排在前面。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
实现细节
计算 CLIP 相似度矩阵前，为什么需要逐向量归一化？
Learning Transferable Visual Models From Natural Language Supervision
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：归一化使点积主要反映方向一致性，而不是通过增大向量范数提高分数；再用温度控制分布尖锐程度。批内图文配对的标签位于矩阵对角线，两方向损失分别使用原矩阵与转置矩阵，不能把全部配对都当正例。
教学例子：例如图向量范数翻倍不应使其对所有文本都更“正确”；单位化后只有方向变化会改变余弦匹配关系。
依据：核心公式、本地复现、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
方法对比
CLIP把类别文字编码成向量，与自回归模型逐词生成类别名称，输出合同有何不同？
Learning Transferable Visual Models From Natural Language Supervision
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：CLIP在给定类别文本之间比较图文相似度，返回候选内的选择或排序；自回归模型则预测类别名称的词元序列，还需要处理生成和解析。前者的类别描述是输入原型，不是要生成的目标文本，因此相似度接口本身不提供开放式图像描述能力。
教学例子：输入“猫的照片”和“狗的照片”两段类别描述后，CLIP比较两个分数；它不必先生成“这是一只猫”这句话。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
多模态 / 跨模态对齐：表征、连接器与监督
基础理解
CLIP 的零样本分类为什么可以不用重新训练类别分类头？
Learning Transferable Visual Models From Natural Language Supervision
问答新增：2026-10-27 · OpenAI
展开答案与例子
答案：图像与类别描述分别经过两个编码器，归一化后在共享空间比较相似度。类别文本本身提供分类原型，因此可以替换描述以定义新标签；这依赖预训练已学到相关概念，并不保证任意新概念或细粒度关系都能正确识别。
教学例子：例如给一张鞋图分别计算与“一双鞋”“一件外套”的相似度，可直接选择较高者，无需为这两个类别另训线性头。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
核心机制
Switch每个token只选一个专家，为什么仍需要负载均衡损失？
Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity
问答新增：2026-10-27 · Google Brain
展开答案与例子
答案：top-1控制单token激活成本，却不能保证token均匀分散；router可能把大量输入送到少数专家，造成拥塞与其他专家缺少训练。辅助损失结合实际派发比例与平均路由概率，约束这种偏斜。扩大总专家参数不等于所有参数同时参与每个token，也不自动带来吞吐同比增长。
教学例子：8个专家中一个收走90%的token，虽然每个token都只算一个FFN，服务仍可能堵在这个专家；负载问题与每行top-1数量是不同约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
实现细节
Switch 的辅助均衡项中 f_i 与平均 p_i 分别统计什么？
Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity
问答新增：2026-10-27 · Google Brain
展开答案与例子
答案：文档的f_i表示实际分配给专家的token频率，平均p_i表示router概率均值，两者不是同一个量。还需保留选中专家的门控权重；本地没有覆盖capacity overflow或跨设备all-to-all。
教学例子：一个专家实际接到很多token，与它平均概率偏高相关，但统计口径仍应分开记录。
依据：核心公式、复现边界；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
方法对比
Switch 的 top-1 路由，与先计算所有专家再乘 one-hot mask 有什么系统差异？
Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity
问答新增：2026-10-27 · Google Brain
展开答案与例子
答案：前者目标是只派发并计算选中专家；后者即使数学输出相同，仍支付所有专家计算。稀疏输出形式不自动带来稀疏执行，需要核对实际派发路径。
教学例子：四个专家都前向一遍再丢掉三份结果，不能报告为只激活一个专家的计算成本。
依据：背景与主要改动；例子用于解释机制。
原论文 · 实现解读 · 问题链接
基础模型 / 按需计算：专家、弹性深宽与查表记忆
基础理解
Switch Transformer 为什么能增加总参数而不让每个 token 使用全部专家？
Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity
问答新增：2026-10-27 · Google Brain
展开答案与例子
答案：它把FFN替换成专家集合，每个token只走top-1专家。总参数容量增大，而单token专家计算仍集中在一个分支；路由与通信成本也需单独考虑。
教学例子：有四位专家待命，一个token只调用其中一位，不是把四份FFN都算完再平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
PLE 相比 MMoE 的独立任务 gate，为什么还显式区分共享专家与任务专属专家？
Progressive Layered Extraction (PLE): A Novel Multi-Task Learning Model for Personalized Recommendations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：MMoE 虽可为任务选择不同专家比例，但专家本身仍共同承受各任务梯度。PLE 给任务保留专属专家，同时保留共享专家，再通过逐层门控提取共性与差异，让冲突更强的知识有明确存放位置。它扩展了信息与梯度的隔离结构，代价是更多容量和路由选择；仍需验证是否减少此消彼长的任务退化。
教学例子：点击和购买可共享品类兴趣专家，购买专属专家学习价格承受能力，点击专属专家学习标题吸引力。门控逐层组合，而不要求全部专家都被两个任务共同改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
PLE 各任务 gate 为什么只能看自己的专属组与共享组？
Progressive Layered Extraction (PLE): A Novel Multi-Task Learning Model for Personalized Recommendations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：这是 CGC 的分工约束，若 gate 混入其他任务私有专家，就改变隔离结构。需核对专家身份、路由 mask 和实际梯度，不能只靠对象名字 private。逐层输出到下一层的通道布局也应一致，避免隐式串错任务。
教学例子：点击 gate 不应直接使用购买私有专家；若代码把所有专家 concat 后无 mask，虽然输出维度对，却已退回更接近全共享混合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
PLE 相比增加 MMoE 专家数量，为什么不是纯参数量扩大？
Progressive Layered Extraction (PLE): A Novel Multi-Task Learning Model for Personalized Recommendations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：MMoE 更多专家仍可被所有任务共同更新，PLE 限制任务专属组的访问与梯度范围，再分层融合。改变的是共享拓扑而不仅数量，公平比较需匹配预算。来源本地对 MMoE 是具体两任务构造，不能外推所有冲突都消失。
教学例子：再加十个所有任务都用的专家，购买仍可能被点击梯度干扰；留出购买私有组则明确减少这条干扰路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
PLE 所说的“跷跷板现象”，为什么可能被平均任务 AUC 掩盖？
Progressive Layered Extraction (PLE): A Novel Multi-Task Learning Model for Personalized Recommendations
问答新增：2026-10-27 · Tencent
展开答案与例子
答案：它指多任务训练中一个目标改善、另一个退化的取舍，平均值会把两者抵消，看不出受损目标。应保留每任务指标及其共同训练条件，再判断共享是否合适。它与一次测量噪声不同，也不意味着所有目标必须取得完全相同的改善幅度。
教学例子：示意性地，点击 AUC 加两个点、购买减一个点，平均仍会上升；只看平均会遗漏购买目标退化，不能因此宣布两个任务都获益。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
DCN-V2为什么每一层都把原始输入x₀乘回当前交叉变换？
DCN V2: Improved Deep & Cross Network and Practical Lessons for Web-scale Learning to Rank Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：原始输入作为锚点反复进入，使层数增加时产生可解释的更高阶特征组合，而非完全依赖普通MLP隐式拟合。矩阵形式能表达更丰富交叉，低秩分解与专家门控再控制参数与计算成本。低秩是容量约束和效率选择，不保证任意压缩都保持同样表达力，需与深层路径共同检验。
教学例子：第一层可组合用户与品类，下一层仍乘原始场景字段，就能形成用户—品类—时段交叉；低秩专家限制的是这些组合如何共享参数。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
DCN-V2 实现时 x0 与 xl 分别应来自哪一层？
DCN V2: Improved Deep & Cross Network and Practical Lessons for Web-scale Learning to Rank Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：x0 始终是该 cross stack 的原始输入，xl 是当前层状态，不能每层把 x0 替换为 xl，否则改变交叉定义。各专家低秩输出需映回原维度再与 x0 相乘，gate 也要按专家轴归一。残差维度一致只是必要条件，不能替代算子核验。
教学例子：第二层仍乘最初的用户与商品向量，而不是拿上一层状态平方；两种写法形状相同，却产生不同阶次和不同信息路径。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
DCN-V2 的低秩专家混合与一张完整 cross 矩阵，有什么容量—计算取舍？
DCN V2: Improved Deep & Cross Network and Practical Lessons for Web-scale Learning to Rank Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：低秩 U、V 将昂贵矩阵分解到较小子空间，多个专家和 gate 提供输入相关组合，增加表达灵活性。单专家低秩限制可表示方向，多专家则增加存储与路由成本。不能把参数省下比例直接当作端到端延迟比例，embedding 和其他模块仍占成本。
教学例子：一张上千维矩阵可先投到几十维再映回，专家分别学习不同交叉；省计算的同时，过低秩可能遗漏稀有但重要的字段关系。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
DCN-V2 的显式交叉为什么说阶数受层数控制？
DCN V2: Improved Deep & Cross Network and Practical Lessons for Web-scale Learning to Rank Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：每层把原输入与当前线性变换逐元素相乘，逐层形成更高阶组合，再以残差保留已有阶数。它提供结构可追踪的多项式交互路径，不同于只靠一般 MLP 隐式拟合关系；但实际表达还受矩阵秩、宽度和训练约束。
教学例子：第一层可产生用户年龄与品类组合，下一层继续乘原特征形成更高阶条件；残差使低阶信号不必在加深后消失。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SIM 为什么先用 GSU 搜相关历史，再由 ESU 做精细注意力，而不是对终身历史直接打分？
Search-based User Interest Modeling with Lifelong Sequential Behavior Data for CTR Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：候选相关的终身历史通常只占少数，对全部事件做精确交互成本高且噪声大。GSU 用较便宜的匹配选出子序列，ESU 再在这份候选相关证据上做精细注意力，把计算集中到可能有用的行为。两阶段的瓶颈是粗搜召回率：GSU 漏掉的关键事件，ESU 无法从不存在的输入中补回来。
教学例子：候选是相机时，先从多年历史中找摄影相关浏览，再比较具体品牌与用途。若粗搜只按错误类别过滤掉镜头历史，后面的精细注意力再强也读不到它。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SIM top-k子序列需要怎样避免未来行为泄漏？
Search-based User Interest Modeling with Lifelong Sequential Behavior Data for CTR Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：检索只从当前请求前可见历史，候选query与目标标签分开，ESU只读选中内容。当前MovieLens全库路径验证机制，不含真实公司serving与在线A/B。
教学例子：例如下一次真实点击不能先进入历史再被GSU检索。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
SIM候选相关选择与统一用户向量有什么差别？
Search-based User Interest Modeling with Lifelong Sequential Behavior Data for CTR Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：同用户面对不同候选检索不同证据，统一向量则把历史压成一份共享表示。前者增加候选依赖计算，后者利于缓存，不能单凭结构判断精度与成本优劣。
教学例子：例如运动鞋与书籍可触发同一用户的不同历史兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SIM为什么先用GSU搜索再用ESU注意？
Search-based User Interest Modeling with Lifelong Sequential Behavior Data for CTR Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：终身历史过长，候选相关快速检索先缩小子序列，再做较精细匹配，分开覆盖成本与交互精度。它不是固定保留最近几项。
教学例子：例如候选是相机，可从多年行为先找摄影相关片段。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
BST把候选与行为一起做self-attention，和DIN只用候选给历史加权有什么不同？
Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：DIN主要学习候选对各条行为的激活，BST还让行为之间交换信息，并让候选参与统一编码。这样某条历史的含义可以受其他行为影响，而不是始终作为固定键值独立出现；代价是更多序列计算，以及候选进入后部分状态不再能跨候选直接复用。是否值得要对齐预算与输入窗口比较。
教学例子：单独看一次相机点击可能是偶然，结合接连观看镜头和摄影教程后，行为间交互能强化摄影意图；换候选时共同编码的状态也可能随之改变。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
BST 的候选条件状态为什么不能直接缓存成跨候选的公共用户 embedding？
Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：候选一旦参与 self-attention，就可能写入行为隐藏状态，替换候选会改变后续层输入。除非结构另加隔离掩码，缓存只能对应特定依赖条件。来源本地使用候选参与编码的 Transformer 与 DIN 比较，不能据此宣称实现了公共用户侧缓存。
教学例子：为鞋算出的历史状态已经放大鞋相关片段，拿它直接给电影评分会带入旧候选影响；公共缓存必须在候选写入之前截断。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
BST 与固定历史 pooling 相比，多出的自注意力能力与成本是什么？
Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：固定 pooling 对每次行为使用预设或简化权重，难以表达行为组合。BST 通过成对交互学习上下文依赖，代价是长度相关的注意力计算，以及候选参与后重复编码的可能。模型更灵活不意味着必然胜出，仍需同数据、预算和候选协议比较。
教学例子：先看相机再看镜头与只看一条相机可能代表不同成熟度，pooling 易混淆；自注意力可组合两事件，但处理上千条历史也更费计算。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
BST 的候选 token 为什么要进入行为编码，而不是只在最后 MLP 中拼接？
Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：候选参与注意力后，历史表示可在编码阶段根据目标调整，模型同时学习行为之间与目标到历史的关系。最终拼接只允许已压缩表示与候选交互，早层无法改变取舍。这里的上下文是给定候选的条件表示，不应误认为所有候选通用。
教学例子：目标是登山鞋时，露营与徒步历史可互相支持；换成相机，编码阶段就应重新关注摄影片段，而非沿用鞋候选下形成的历史状态。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
DIEN把目标相关权重乘进GRU更新门，而不只在最后对历史池化，改变了什么？
Deep Interest Evolution Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：辅助目标先帮助抽取每一步的兴趣状态，候选相关注意力再调节状态更新速度。相关行为可以更强地改写当前兴趣，不相关行为则较少覆盖已有记忆，目标信息因此参与整条演化链。若仅在结尾加权，前面的状态已可能被无关事件改写；多一个循环模块也不保证在短历史数据上更好。
教学例子：用户连续看摄影内容后偶然点一次食品广告，推荐镜头时可减弱这次食品行为对兴趣状态的更新，而不是等最后才试图从被改写的状态中恢复摄影兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
DIEN 的辅助下一行为监督应如何避免和测试未来混淆？
Deep Interest Evolution Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：辅助目标可使用训练序列的下一行为作为标签，但兴趣提取输入仍限于当前及以前位置，采样负例也来自训练口径。评估时不能把 held-out 下一物品输入 GRU。候选相关更新门要保持逐步状态递推，而不是事后拿同一权重乘最终向量。
教学例子：训练在位置二预测位置三合理；测试想猜位置三时若先把它喂进序列，即使只称辅助任务，也已读到正确答案。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
DIEN 与 DIN 的目标注意力相比，候选信息进入时间上有什么不同？
Deep Interest Evolution Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：DIN 在聚合时给历史加权，DIEN 将相关权重乘进循环更新门，影响每一步保留旧状态与接收新状态的比例。它改变兴趣演化过程，而非仅最终读出。增加时间路径也带来训练与预算差异，来源本地未复现收益，不能据结构复杂就预设更好。
教学例子：某次镜头浏览对相机候选重要，DIEN 可当时更强更新循环状态；若只最后加权，之前状态如何被压缩已经决定，无法同样改写。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
DIEN 为什么把兴趣提取与目标相关演化分成两个阶段？
Deep Interest Evolution Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：前阶段按行为序列提取兴趣状态，辅助目标促使这些状态有预测意义；后阶段再由候选相关性控制哪些状态对当前目标产生更强更新。区分两阶段避免把原始点击直接等同于兴趣，同时保留目标条件，仍可能受辅助负例与历史噪声影响。
教学例子：连续看相机和镜头先形成摄影兴趣，面对旅行相机时相关阶段被强化；候选是小说时，同一摄影状态无需同样强地改变最终兴趣。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
SASRec 的因果自注意力如何兼顾短期与较远兴趣，又怎样避免训练时读取未来？
Self-Attentive Sequential Recommendation
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：每个位置可按内容对此前多个行为分配注意力，不像固定阶 Markov 只看近邻，也不必像 RNN 逐步递推全部历史。因果掩码禁止当前位置读取后续事件，下一物品仅作为监督目标。位置表示保留顺序，网络因数据稀疏程度可学不同感受野；自注意力本身不保证自动忽略所有无关历史。
教学例子：用户最近看喜剧，但较早看过多部科幻。预测下一片时可回看相关科幻行为，同时训练位置三不能看到位置四的电影，即使它正是要预测的标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
SASRec输入输出embedding与负样本目标怎样保持原机制？
Self-Attentive Sequential Recommendation
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：输入item向量与输出权重绑定，每位置使用正物品和采样负物品的pairwise BCE，不能擅换全库CE后说目标未变。padding和未来位置都需mask。
教学例子：例如负样本不能抽到该位置真实正例，再让模型把同一物品同时推高压低。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
SASRec的因果下一物品训练，与允许左右邻居的掩码物品恢复有何区别？
Self-Attentive Sequential Recommendation
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：前者只能利用过去，目标对应未来下一项；后者可把某个中间项遮住并利用两侧信息恢复。两者读取条件与任务目标不同。双向上下文在恢复任务中可能合法，却不能直接放入SASRec下一步预测并沿用同一无泄露解释。
教学例子：恢复甲、[MASK]、丙里的乙可看丙；在只观察到甲的时间点预测乙，则丙仍属于不可见未来。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
SASRec训练时，每个历史位置的输入与要预测的下一物品怎样错开？
Self-Attentive Sequential Recommendation
问答新增：2026-10-27 · UC San Diego
展开答案与例子
答案：位置i只能读取截至该位置的历史，目标是紧接其后的物品，未来事件作为监督而不是额外输入。一个用户序列因此可产生多个前缀预测任务；padding位置还需排除。先理解这种位移，才能判断实现是否不小心把目标物品喂回了当前表示。
教学例子：历史为甲、乙、丙时，可用甲预测乙、用甲乙预测丙；预测乙的表示不能提前读取丙。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
MMoE 共享专家却为每个任务单独设 gate，为什么能缓解共享底座的负迁移？
Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts
问答新增：2026-10-27 · Google
展开答案与例子
答案：共享底座要求任务使用同一份中间表示，目标冲突时梯度会相互拉扯。MMoE 保留一组可共同训练的专家，但每个任务用自己的 gate 按输入组合专家，使相关任务共享有用部分，不相关任务走不同组合。它提供软分工的自由度，并不保证专家天然对应可解释语义或完全消除冲突。
教学例子：点击与购买都可使用“品类偏好”专家，但购买任务可更重视价格专家，点击任务更重视新鲜感专家。两个任务共享知识，同时避免只能接受同一种混合比例。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
MMoE gate 的 softmax 为什么沿专家轴，四专家和两任务应产生几套权重？
Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts
问答新增：2026-10-27 · Google
展开答案与例子
答案：每个任务对每个样本生成四个专家权重并归一，两任务各有独立 gate，专家输出在同空间加权。若将任务轴一起归一，会强迫任务争夺总预算，改变模型。来源本地四专家两头的对照是 shared-bottom，而非任意跨论文模型。
教学例子：一名用户需要点击权重一组、购买权重另一组，各自和为一；把八个数合起来归一会让购买增加权重时无端降低点击表示。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
MMoE 与单共享底座及每任务独立网络，分别在什么地方折中？
Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts
问答新增：2026-10-27 · Google
展开答案与例子
答案：单底座只提供一份共享表示，独立网络完全不交换参数，MMoE 给一组公共表征再让任务条件化组合。增加专家可提高共享灵活性，也增加计算与路由塌缩风险。任务相关性和数据量决定适合程度，不能保证比两端方案都好。
教学例子：两个任务可共用基础兴趣专家，各自重视另一专长；若目标毫不相关，仍强共用可能受损，若数据很少，完全独立又可能学不稳。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
MMoE 的“专家共享、gate 私有”意味着每个任务能完全独立吗？
Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts
问答新增：2026-10-27 · Google
展开答案与例子
答案：任务共享专家参数，因此仍会通过专家梯度互相影响；私有 gate 只让使用比例不同，任务头再负责各自输出。它介于全共享和全独立之间，并不彻底隔离负迁移。专家分工应从实际路由与任务结果检查，不能按模块名字推断。
教学例子：点击和购买都用同一价格专家但比例不同，点击训练仍会更新这位专家，因此购买任务并非完全不受点击梯度影响。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
核心机制
ESMM为什么训练CTR和CTCVR，却不把未点击样本直接当作CVR负例？
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：CVR是点击条件下的转化概率，未点击并不能告诉我们点击后会不会买。ESMM用CTR与CVR的乘积表示曝光后点击且转化概率，在全曝光空间监督CTR和联合事件，借漏斗关系缓解稀疏与选择偏差。链式分解是概率关系，不意味着模型自动解决所有归因、延迟反馈或因果识别问题。
教学例子：点击率10%、点击后购买率20%对应联合率2%；某次未点击只提供点击和联合事件的零标签，不能因此断言这位用户点击后一定不会购买。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
实现细节
ESMM 实现时，未点击样本应进入哪个损失而不能直接监督哪个头？
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：CTR 头接受全曝光点击标签，CTR×CVR 的联合概率接受全曝光 CTCVR 标签；不能再把所有未点击样本当直接 CVR 负例。来源本地用评分阈值构造嵌套事件，只能验证这条训练连接，不等于真实广告转化场景复现。
教学例子：未点击样本可压低联合概率，模型也可通过低 CTR 解释；若强迫 CVR 同时为零，就额外添加了没有观察支持的条件标签。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
方法对比
ESMM 相比只在 clicked space 学 CVR，补充了哪些曝光信息？
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：点击子集受旧策略与用户选择影响，不能完整代表曝光分布。全空间 CTR 与 CTCVR 让未点击样本也约束联合行为，并用共享表示帮助稀疏转化。它不自动解决延迟反馈和全部未观测混杂，整体 AUC 也不证明因果 CVR 已识别。
教学例子：只从点击贵手机的人学购买，难泛化到所有曝光；全空间目标补充被略过商品信号，但仍没直接观察每件商品被点击后的反事实。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 学习信号、多任务与反馈偏差
基础理解
ESMM 的 CTCVR 标签为什么可对全曝光定义，条件 CVR 却不一样？
Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：未点击曝光不属于“点击且转化”，联合标签为零可知；但如果它被点击是否转化并未观察，所以不能直接给条件 CVR 置零。CTR 与 CVR 乘积连接两者，使用全空间联合监督。该链式关系依赖点击后转化定义，不能用于任意非嵌套反馈。
教学例子：用户没点广告，知道这次没有点击后购买，却不知道假如点击会不会买；两者条件不同，给 CVR 头直接负例会混淆它们。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
DIN为什么对同一个用户也会得到不同的兴趣向量？
Deep Interest Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：用户历史包含多种兴趣，哪些行为重要取决于当前候选。DIN用候选和每条历史的组合特征学习激活，再加权聚合，因此用户表示随候选变化，而非始终是一个固定均值。候选感知提高表达力，却也意味着完整聚合状态通常不能跨所有候选直接复用；效果需与同预算池化对照判断。
教学例子：历史里既有跑鞋也有烤箱，评估运动袜时突出跑步行为，评估烘焙工具时突出厨房行为；两次使用同一份历史，却应得到不同的兴趣摘要。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
DIN 的候选权重应在哪个轴归一，padding 又应怎样处理？
Deep Interest Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：对同一用户、同一候选的有效历史位置归一，padding 在归一前屏蔽，避免空行为分走权重。不同候选分别计算，不应把批次或候选轴当历史轴。Dice 的训练批统计与服务状态也须一致，不能拿测试批标签调整统计。
教学例子：三条真实行为加五条 padding，权重应只在三条间分配；若八条都参与，短历史用户表示被稀释，结果即使维度正确也偏离机制。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
DIN 的 local activation 与普通点积注意力，在交互输入上有什么区别？
Deep Interest Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：来源激活网络同时读取候选、行为、差值和逐元素乘积，能学习比单一点积更丰富的匹配；这不保证学习到真实因果关系。Dice 又按特征分布调整激活边界。机制灵活性要由同预算消融检验，来源本地对均值池化并未观察到收益。
教学例子：两件商品点积接近时，差值可突出价格维度差别，乘积可强调共同品类；小网络可学习这些组合，而不是只比较向量夹角。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
DIN 的“局部兴趣”为什么是候选条件的，而不是用户只拥有一个短期兴趣？
Deep Interest Network for Click-Through Rate Prediction
问答新增：2026-10-27 · Alibaba
展开答案与例子
答案：局部指从全部历史中取与当前目标相关的部分，用户仍可能同时有多种兴趣。候选换了，激活权重和汇总向量也换，模型无需先确定一个唯一兴趣标签。历史里没有的需求不能被注意力创造，低相关权重也不表示用户永久不喜欢该内容。
教学例子：同一用户既看科幻又看烹饪，面对电影候选激活观影历史，面对厨具候选关注烹饪行为；两种兴趣可以同时存在。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
DeepFM为什么让FM与DNN共享同一份field embedding？
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
问答新增：2026-10-27 · Huawei Noah's Ark Lab
展开答案与例子
答案：FM直接建模一阶和二阶组合，DNN学习更高阶非线性关系，两路需要的是同一组基础字段语义。共享embedding减少重复参数，并让低阶与高阶监督共同塑造底层表示，避免像手工wide交叉那样额外维护特征。但共享也会产生梯度耦合，不能把两路分数相加视为天然无冲突。
教学例子：用户职业与商品类目的一对组合可由FM学习，职业、类目、价格三者的复杂条件交给DNN；两路都更新同一字段向量，而不是各存一套互不沟通的词表。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
DeepFM 计算二阶项时，为什么必须只计 i<j，而不能连自身项一起求？
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
问答新增：2026-10-27 · Huawei Noah's Ark Lab
展开答案与例子
答案：FM 定义的是不同特征对，加入 i=j 会额外产生自平方项，重复计 i,j 与 j,i 也改变尺度。可用平方和减各项平方的恒等式高效计算再乘二分之一；两路须使用同一份 embedding 参数，复制初值并不等于共享。
教学例子：年龄与品类算一次交互即可，年龄与自己不应混进二阶对；若 FM 和 DNN 各复制一份向量，训练后会分叉，失去共享学习定义。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
DeepFM 与需要人工 wide 交叉的 Wide & Deep，主要工程假设有何不同？
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
问答新增：2026-10-27 · Huawei Noah's Ark Lab
展开答案与例子
答案：DeepFM 用 FM 向量内积学习二阶关系，减少逐一设计人工交叉，同时让 FM 和深路共享字段表示。人工 wide 可精确定义特殊规则，但覆盖与维护成本高；FM 也受嵌入表达限制，减少工程不意味着无需字段设计与数据治理。
教学例子：不必为每个城市与品类组合手写列，FM 可从字段向量学习关系；但若某项业务禁止组合，仍需显式规则，不能指望 FM 自动学成合规约束。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
DeepFM 的 FM 一阶、二阶与 DNN 输出分别补充什么信息？
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
问答新增：2026-10-27 · Huawei Noah's Ark Lab
展开答案与例子
答案：一阶项表达单特征贡献，FM 通过向量内积显式覆盖二阶组合，DNN 学习更复杂非线性关系，最终共同形成点击 logit。共享 embedding 让两条路径互相约束，不代表二阶与高阶完全互不重叠，也不能把三部分概率直接相加。
教学例子：城市本身影响点击，一座城市与某品类的组合是二阶，再加价格和时间形成复杂条件可由深路学习，三类信号在同一 logit 汇合。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
核心机制
YouTube DNN 为什么把下一观看训练为大规模分类，却在服务时只做向量近邻检索？
Deep Neural Networks for YouTube Recommendations
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：用户历史与上下文经非线性网络形成向量，训练用物品向量点积的多分类目标，使观看过的目标比负例更匹配。相同点积结构允许服务端预建物品索引，快速寻找高分候选，避免逐视频运行复杂网络。它是候选生成器的效率设计，不能把召回分数直接等同于精排最终效用。
教学例子：训练时让用户向量更靠近真实下一视频，远离采样负例；请求时只算一次用户向量，再从百万视频索引取近邻，后续精排继续处理更复杂的候选特征。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
实现细节
下一观看softmax训练与服务近邻如何保持一致？
Deep Neural Networks for YouTube Recommendations
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：用户与视频向量采用对应打分空间，训练只见截止前历史，服务检索同版本item向量；负采样近似与全库概率不能混报。当前公开实现不含原百万库存和私有训练服务。
教学例子：例如模型升级用户空间后，旧item索引未刷新可能让近邻含义错位。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
方法对比
深用户塔与传统矩阵分解主要多了什么？
Deep Neural Networks for YouTube Recommendations
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：矩阵分解常学习固定用户item因子，深塔可用历史和上下文动态组合用户状态。它仍有向量压缩瓶颈，不能因为加MLP就假定覆盖所有多兴趣。
教学例子：例如同一用户近期兴趣变动可进入塔输入，而不只查一个固定用户ID向量。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 候选生成与搜索匹配
基础理解
YouTube DNN候选生成为什么用深用户塔？
Deep Neural Networks for YouTube Recommendations
问答新增：2026-10-27 · Google / YouTube
展开答案与例子
答案：历史与上下文异构，聚合embedding后深网络形成用户向量，把下一观看作大规模分类，再以近邻快速召回；精排是另一阶段，不由该召回向量独自完成。
教学例子：例如先从百万视频找少量候选，再由精排考虑更多特征。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
核心机制
Wide & Deep 为什么联合训练线性交叉与深网络，而不是只对两个独立模型做分数平均？
Wide & Deep Learning for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：wide 路径可直接记忆已观察到的稀疏交叉，deep 路径通过嵌入与非线性共享知识，二者共同贡献一个 logit 并接受同一目标梯度。联合训练让各自学习补充尚未解释的部分，而非独立训练后固定融合。人工交叉覆盖有限，deep 泛化也可能产生不合理组合，因此两路能力互补但都需控制。
教学例子：wide 可记住“某用户群经常买某类商品”的明确交叉，deep 把相似品类经验迁移给新组合。共同训练时两者调整相对贡献，不是先各自最优再简单取平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
实现细节
本地Wide & Deep是否使用Google Play生产交叉特征？
Wide & Deep Learning for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：没有，MovieLens替代私有日志，未复刻分布式训练serving。两路logit应在sigmoid前相加联合更新，不能先各自变概率再平均后声称同公式。
教学例子：例如sigmoid(a+b)一般不等于两个sigmoid概率的平均。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
方法对比
wide记忆与deep泛化为何可能各有失败？
Wide & Deep Learning for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：记忆难覆盖未见组合，泛化可能把看似相似但不相关组合推高。互补动机不保证任一任务都需要相同容量，需检查数据稀疏性与特征工程。
教学例子：例如某品牌和配件的特定兼容关系，不能只凭语义近就推荐。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接
搜广推 / 用户历史与排序骨干
基础理解
Wide & Deep为什么同时保留线性与深层两路？
Wide & Deep Learning for Recommender Systems
问答新增：2026-10-27 · Google
展开答案与例子
答案：wide擅长记忆稀疏共现和人工交叉，deep经embedding泛化到未见组合；联合logit把两类优势放进一个训练目标，不是简单两个独立模型轮流服务。
教学例子：例如已常见的组合可靠记忆，新组合通过相似表征泛化。
依据：背景与主要改动、核心公式；例子用于解释机制。
原论文 · 实现解读 · 问题链接