生成一个物品，先后跨过码本、模型分布与合法目录三道关¶
搜广推 · 更新 2026-10-30 · 62 篇主题资料 / 7 篇重点对照
TIGER把物品变成层次码并学习下一码序列，COBRA在稀疏码后补回条件稠密向量，PLUM把已有LLM通过继续预训练接到行为/SID空间。STATIC不改表示而改变合法解码的执行方式，Reward Guided Decoding则在既有支持上倾斜业务偏好。先定位改变的是哪一关，再判断它能否找回漏掉的物品。 PinGER再把历史输入与SID监督拆开，并将前缀多样化选择、分层DPO和合法目录分别治理。
机制对照 · 取舍分析 · 跨论文问答 · 更新记录 · 本主题逐篇问答
怎么读这张卡片
重点比较下表代表论文；完整主题目录保留在文末。机制与假设的对照不等于统一 benchmark 的性能排名；教学例子不是论文实测。
机制对照¶
比较维度：物品表示：离散码、稀疏—稠密级联与LLM继续预训练 · 学习分布与推理搜索分别改变什么 · 合法目录约束与业务reward的区别 · 先验支持、beam预算和本地缩比证据
| 论文与来源 | 机制定位 | 得到了什么，付出什么 |
|---|---|---|
| Recommender Systems with Generative Retrieval · 原始来源 章节：背景与主要改动、核心公式、本地复现 |
RQ-VAE逐层量化内容残差，加碰撞消解token形成物品SID，encoder-decoder自回归预测下一物品码序列。 | 共享语义前缀便于参数共享，但码本碰撞和早期路径错误会影响可达性。本地按有效物品ID累加token log-prob评分，不能将其等同生产beam吞吐。 |
| Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations · 原始来源 章节：背景与主要改动、核心公式、本地复现 |
先生成稀疏code，再以该code和历史为条件生成dense query，beam code分数与dense相似度级联召回。 | 为量化丢失的细节增加区分通道，也引入稠密索引、融合权重和两阶段预算；若目标code根本未进入beam，后段dense通常无从补回。 |
| PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations · 原始来源 章节：背景与主要改动、核心公式、本地结果 |
从已有MoE LLM初始化，以行为和视频元数据CPT对齐，再做next-SID召回；SID-v2同时约束重建、量化和共现。 | 容量从大型ID表转向可扩展主干，但依赖CPT配方和预训练资源。线上生成SID不用点积索引，不代表没有SID映射、目录维护与解码成本。 |
| Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators · 原始来源 章节：背景与主要改动、核心公式、结果与边界 |
将合法token路径编成加速器内CSR迁移，先全词表log-softmax，再非法项置负无穷，并同步维护beam前缀和node状态。 | 改变约束执行的成本与合法性，不会创造模型未学到的偏好；不能在每个合法子集重新归一化后还声称保持同一条原模型路径分数。 |
| Reward Guided Decoding for Generative Recommendation · 原始来源 章节：背景与主要改动、核心公式、复现边界 |
固定生成先验P0，用exp(R/β)倾斜得到Q，以KL温度限制偏离，不重新训练生成器。 | reward可重排既有支持，却不能令P0为零的路径凭空出现；代理reward和线上价值不同，本地MovieLens构造任务不等于生产收益。 |
| PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search · 原始来源 章节：背景与主要改动、核心公式 |
统一图文到SID集合，多意图/预算训练与Sample–Beam服务对齐。 | 完整多模型多阶段和私有生产实验高成本不复现；无本地占位模型。 |
| PinGER: Token-Efficient Generative Retrieval with Semantic IDs · 原始来源 章节：背景与主要改动、核心公式、高成本完整实验 |
训练交错SID/dense并关闭跨商品SID读取，服务删除过去SID；按LCP深度逐beam惩罚，所有SID前缀DPO与NTP锚联合后训练。 | 不同于TIGER逐项历史SID输入，也不能把前缀多样性当STATIC合法性；多样性会牺牲离线recall，本地无完整tokenizer/服务。 |
取舍分析¶
先看物品能否到达，再看排名是否正确¶
TIGER和PLUM先决定物品怎样映射到SID以及每步码的概率；COBRA再在已提名的稀疏区域内补细节。若码碰撞没有消解、前缀被错误排除或合法目录缺失，单纯扩大reward权重无法恢复目标。应把token预测、有效物品覆盖和最终排序分别测量，beam变宽也不能证明码本更好。
对照来源：tiger · plum · cobra · reward-guided-decoding
合法性与偏好不是同一个分数¶
STATIC回答某前缀下哪些token能通向合法目录，Reward Guided Decoding回答在允许的分布中怎样偏向reward。前者的非法负无穷是可行域，后者的指数倾斜是软偏好；把库存违规只当有限惩罚，仍可能选出高reward的非法项。约束编译、原模型概率和业务价值应保留各自语义。
对照来源：static-constraint-decoding · reward-guided-decoding
10月29日：新方法与来源变化¶
PailitaoMMSearch2.0将多意图图文请求直接解码为商品SID候选集合，以数据工具、CPT、混合预算SFT和意图均衡RL扩展服务。Sample–Beam使推理采样与候选束生成分别对应训练/展示需要；大模型或更长思考不保证所有意图更好。与其他生成式召回对比时应固定候选集合、预算和生产混排口径，而不是只比模型名字。完整方案本地不复现。
对照来源：tiger · pailitao-mmsearch2
历史输入、候选覆盖与合法路径分别付费¶
TIGER把历史商品表示成多级SID序列；PinGER保留SID逐级监督，却限制主干内的读取角色，让后续商品只读历史dense。这里dense仍可包含SID fusion，不能误写成没有离散信息。PinGER的LCP惩罚只改变同层beam如何分散名额，不负责排除不存在的SID；STATIC才显式编译合法迁移。更广前缀也非免费收益：原文λ=3时distinct@1上升而R@100下降。原文整栈线上增益不能被归到本地mask或DPO单核。
对照来源：pinger · tiger · static-constraint-decoding
跨论文问答¶
先想自己的答案，再展开；每个问题至少联系两篇论文。
COBRA多了dense向量后，为什么仍不能保证找回TIGER式早期码路径里漏掉的物品？¶
展开答案与例子
答案： COBRA的dense query以稀疏code为条件，通常在beam已提名的区域内细排；目标code若未进入搜索，后段并不自动遍历全部遗漏区域。它补的是量化后同区域的细粒度区分，不能把级联后段当成无条件召回修复器。
教学例子： 示意：第一层beam只保留跑鞋类，摄影类整支被剪掉；即使跑鞋类的dense排序完美，也不会突然召回相机。
STATIC的合法路径掩码和Reward Guided Decoding的高reward，冲突时应该怎样理解？¶
展开答案与例子
答案： 合法掩码先定义哪些结果允许出现，reward只在可行结果间表达偏好。指数倾斜仍乘原先验，先验或掩码给零支持的结果不能因reward高而复活。若把约束改成有限扣分，就变成了另一个允许违规被补偿的优化问题。
教学例子： 示意：库存为零的商品本来预测收益很高，仍应被合法目录排除；不能靠把它的收益减一点就假定永远不会被选中。
TIGER和PLUM都预测SID，为什么不能只比较同一个next-token loss就判断训练路线相同？¶
展开答案与例子
答案： TIGER从内容量化与序列生成建立链路；PLUM还继承LLM并通过行为、文本/ASR等混合CPT对齐语言与协同空间，SID-v2本身也加入共现和渐进深度重建。相同目标接口不代表初始化、数据与表示训练相同，比较效果需固定评估目录和预算。
教学例子： 示意：两模型都预测三层码，一个只学行为序列，另一个先看元数据与行为混合语料；最后一层交叉熵的名称相同，并没有抹去前面的训练差异。
为何不能把Pailitao的完整线上增益当作Sample–Beam一个模块的因果收益？¶
展开答案与例子
答案： 线上测的是完整部署配置，含训练数据、模型和最终呈现/混排。模块作用由匹配控制的离线消融提供不同证据，二者不可直接等同；本地仅资料收录，也没有可执行接口。
教学例子： 教学例：换了训练数据、模型和候选混排后交易增加，不能仅因同时用了新beam配方就把全部提升归给beam。
对照来源：tiger · pailitao-mmsearch2
PinGER的前缀多样化能代替STATIC合法目录掩码，或保证TIGER式离线召回同时提高吗？¶
展开答案与例子
答案： 不能。LCP惩罚在候选父前缀间分散名额，是软选择偏好；STATIC定义哪些路径通向合法物品，是可行域。分散到更多子树还可能牺牲单一held-out物品的recall，PinGER原表也显示这种取舍。输入删SID、更多多样性和合法输出不可混成一项。
教学例子： 教学示意：三个语义类别都得到beam名额，仍可能含目录不存在的叶子；过滤非法叶子也不自动保证目标物品被保留下来。
对照来源：pinger · tiger · static-constraint-decoding
更新记录¶
新论文带来新路线、改变取舍，或补充现有路线时，都在这里说明。
2026-10-30 · 精读PinGER三mask规则、单层LCP惩罚和逐prefixDPO锚；与TIGER历史SID成本及STATIC合法迁移分轴对照，保留多样性/recall取舍和整栈线上证据边界。
涉及：pinger · tiger · static-constraint-decoding
2026-10-29 · PailitaoMMSearch2.0将多意图图文请求直接解码为商品SID候选集合，以数据工具、CPT、混合预算SFT和意图均衡RL扩展服务。Sample–Beam使推理采样与候选束生成分别对应训练/展示需要；大模型或更长思考不保证所有意图更好。与其他生成式召回对比时应固定候选集合、预算和生产混排口径，而不是只比模型名字。完整方案本地不复现。
2026-10-27 · 首版：比较tiger、cobra、plum、static-constraint-decoding、reward-guided-decoding，围绕物品表示：离散码、稀疏—稠密级联与LLM继续预训练与学习分布与推理搜索分别改变什么建立分析和跨论文问答。
覆盖 60 篇主题资料；目录见下。
本主题全部 62 篇资料
目录归类覆盖本主题全部资料；重点对照范围以上表为准。
- AIGQ: An End-to-End Hybrid Generative Architecture for E-commerce Query Recommendation
- One-Step Retrieval Framework for Real-Time Sponsored Search Ads Using Hierarchical Text Representations
- Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation
- Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following
- Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
- Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL
- DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation
- DualGR: Generative Retrieval with Long and Short-Term Interests Modeling
- EGR: Embedding-Native Generative Retrieval with a Shared LLM
- From Understanding to Action: Feedback-Grounded Policy Discovery for Generative Recommendation
- Generative End-to-end Ad Retrieval at Douyin
- GenRec: A Preference-Oriented Generative Framework for Large-Scale Recommendation
- Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify
- Generative Recommendation for Large-Scale Advertising
- Learning to Reflect and Correct: Towards Better Decoding Trajectories for Large-Scale Generative Recommendation
- Towards Sustainable Growth: A Multi-Value-Aware Retrieval Framework for E-Commerce Search
- GRP v0.1 Technical Report
- Gryphon-v2: One Model in Place of a Cascade — Generate-and-Rank Recommender with Rollout Distillation
- Guess Where You Go: Generative Next Point-of-Interest Recommendation in Amap
- Hierarchical Residual Policy Optimization for Generative Recommendations
- IntSR: An Integrated Generative Framework for Search and Recommendation
- LEADRE: Multi-Faceted Knowledge Enhanced LLM Empowered Display Advertisement Recommender System
- MBGR: Multi-Business Generative Recommendation
- OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
- OneMall: One Model, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce
- OneRanker: Unified Generation and Ranking with One Model in Industrial Advertising Recommendation
- OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
- OneRec-V2 Technical Report
- OxygenREC-v2: Internalizing Discrimination into Generative Recommendation
- PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
- PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
- PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
- PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
- From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
- Recommendation as Generation: Unifying Personalized Video Generation and Recommendation at Industrial Scale
- Unifying Ranking and Generation in Query Auto-Completion via Retrieval-Augmented Generation and Multi-Objective Alignment
- RCLRec: Reverse Curriculum Learning for Modeling Sparse Conversions in Generative Recommendation
- RecGPT-V3 Technical Report
- Reward Guided Decoding for Generative Recommendation
- RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
- Awakening Dormant Users: Generative Recommendation with Counterfactual Functional Role Reasoning
- S-GRec: Personalized Semantic-Aware Generative Recommendation with Asymmetric Advantage
- S2GR: Stepwise Semantic-Guided Reasoning in Latent Space for Generative Recommendation
- SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
- SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
- LLM-Based Generative Retrieval for Snapchat Content Recommendation
- Sona Technical Report
- SPAR: Stepwise Personalized Autoregressive Recommendation with Prefix-Balanced Semantic IDs
- Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
- TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising
- TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
- Recommender Systems with Generative Retrieval
- TSGR: Taobao Search Generative Retrieval
- UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
- Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
- UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute
- UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation
- Unified Value Alignment for Generative Recommendation in Industrial Advertising
- WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
- X-Rec Technical Report
- PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search
- PinGER: Token-Efficient Generative Retrieval with Semantic IDs