语义表征、用户知识与冷启动¶
搜广推 / 240 个问题 · 60 篇论文
先看问题,想一想,再展开答案。这里持续积累本子主题各篇论文的问答,一篇论文也可以追加多个问题。
240 个问题 · 60 篇论文
基础理解
FineSID 为什么保留细粒度视觉与文本 token,而不只生成一个商品摘要码?
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
核心机制
FineSID从相关性预训迁移到CTR时,为什么不能只复制SID embedding?
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
方法对比
FineSID 的完整预测器迁移与冻结内容 encoder 后加新 CTR 头,知识复用层次有什么不同?
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
实现细节
实现 FineSID 阶段切换时,为什么 optimizer 状态与归一化状态也需要明确处理?
Progressive Learning from Content to Relevance to Personalization for CTR Prediction
基础理解
SID Topology为什么把映射更新与继续训练分开审查?
核心机制
SID-Topology 为什么允许新商品与旧头部 token 碰撞,却不顺移旧商品来消除碰撞?
方法对比
大beam效果尚可为何不证明重映射没有损伤?
实现细节
新增商品占到旧独占token时能顺移旧商品消碰撞吗?
基础理解
AgentWebRec 的私有记忆与邻居偏好模式分别提供什么证据?
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
核心机制
AgentWebRec为什么只在私有记忆证据不足时才向邻居Agent协作?
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
方法对比
AgentWebRec 的条件协作与始终聚合邻居信息相比,主要取舍是什么?
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
实现细节
AgentWebRec 的时间衰减与协作阈值实现中,哪些边界要分开检查?
AgentWebRec: Compact Evidence Fusion over the Agent Web for Personalized Recommendation
基础理解
GrIS 为什么把 SID 构造看成层级图划分?
核心机制
GrIS把SID构造写成图划分,为什么要同时看内容节点和协同边?
方法对比
GrIS 图为空时退化为内容量化,与无图仍编造邻接有何不同?
实现细节
实现 GrIS 递归划分时,为什么每层要同时保存节点身份与父路径?
基础理解
KuaFu 为什么同时在记忆 token 数和通道维度上压缩?
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
核心机制
KuaFu为什么按单条行为压缩和缓存,而不是先把整段用户历史压成一份向量?
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
方法对比
KuaFu 的输入消融与独立训练原文对照,为什么证据强度不同?
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
实现细节
KuaFu 的 RL smoke 全部 reward 相同时,为什么应记录 skipped_zero_advantage?
KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
基础理解
Music Rationales 的发现画像为什么包含未听艺人和个性化理由?
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
核心机制
Music Rationales 为什么把陌生艺人推荐理由离线生成,并把“提名”和“展示理由”分开评估?
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
方法对比
保持 CF 顺序只附解释,与把 LLM 提名放前面,两臂能回答什么不同问题?
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
实现细节
Music Rationales 的目录过滤和缓存回退,为什么要保留拒绝与缺失状态?
Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery
基础理解
SIRF为什么把trigger和exemption都写进训练规则?
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
核心机制
SIRF 为什么用包含 trigger 与 exemption 的合成规则训练模型,再以阈值控制判定?
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
方法对比
规则内化与运行时纯规则引擎有什么差别?
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
实现细节
SIRF本地高精度阈值结果对应完整8B CPT吗?
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
基础理解
CAMIE 为什么要求同一 checkpoint 能处理图文与纯文本商品?
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
核心机制
CAMIE为什么不用纯图文相似度训练商品向量,还要加入co-engagement对比学习?
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
方法对比
CAMIE 的 co-engagement 对齐与通用图文对比,正例语义有何不同?
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
实现细节
CAMIE 对称 in-batch InfoNCE 为什么要计算两个方向?
CAMIE: Co-Engagement-Aware Multimodal Item Embeddings for Snap Dynamic Product Ads Retrieval
基础理解
单级大码本为什么可缩短生成,却仍不等同于唯一 item ID?
核心机制
单级大码本缩短了解码,为什么还需要独立碰撞码与曝光加权更新?
方法对比
动态码本与冻结码本,对分布变化和路径稳定性怎样取舍?
实现细节
动态码本加权更新遇到空桶,为什么必须有明确规则?
基础理解
MediaFM 为什么作为共享媒体特征,而不直接输出最终推荐概率?
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
核心机制
Netflix MediaFM 为什么冻结多模态表示并让多个资产任务共享,而不是每个任务各训一个视觉模型?
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
方法对比
查询相似度增强与纯用户个性化匹配,相比当前搜索意图如何进入?
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
实现细节
MediaFM 融合两类点积分时,为什么三侧向量尺度要一致?
Multimedia Asset Personalization via Multimodal Embeddings at Netflix
基础理解
ConnectionMind 为什么输出图证据路径,而不只给一个社交推荐分数?
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
核心机制
ConnectionMind为什么输出证据路径,还把路径教师蒸馏给GNN?
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
方法对比
ConnectionMind 的逐步 policy 与固定 GNN 聚合,相比推理范围和服务成本有何差别?
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
实现细节
ConnectionMind 的最短路径示范在训练与评估中分别能否使用目标答案?
ConnectionMind: A General Social-Personalized Recommendation System with LLM Reasoning
基础理解
DME 为什么不仅做向量对比,还要求跨条件重建对侧细粒度语义?
核心机制
DME的推理与重建生成头为什么只在训练期使用?
方法对比
DME 的 typed latent evidence 与在线显式 CoT,相比保留和放弃了什么?
实现细节
DME 实现验收时,为什么要确认生成头确实从 serving 路径移除?
基础理解
KGD 的 BMTP 为什么筛选相关未来物品,而非所有相邻点击都等价监督?
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
核心机制
KGD为什么筛选相关未来物品,并让迁移残差与知识锚点正交?
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
方法对比
KGD 的正交 ACR 与普通残差 adapter,相比限制了哪种改写?
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
实现细节
KGD 的只读知识与正交投影应怎样检查梯度和零范数边界?
Knowledge–Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
基础理解
GALA 为什么把多模态与 ID 表示视为互补,而非互相替代?
核心机制
GALA完成图文预训练后,为什么仍要用行为奖励对齐并门控融合ID表示?
方法对比
GALA 的行为 GRPO 与图文预训练,相比正例与奖励来源有什么变化?
实现细节
GALA 的 sigmoid gate 在融合前为什么要求两侧维度及 item 身份对齐?
基础理解
开放网络 UFM 为什么不能默认稳定的长期 user ID 与完整历史?
核心机制
开放网络 UFM 为什么联合掩码预测与序列对比学习,而不只训练某一个 CTR 标签?
方法对比
MLM 局部恢复与序列 InfoNCE,两种自监督对哪类一致性施压?
实现细节
UFM 配方搜索中的 lifter 为什么要可审计而不能任意改数据与评测?
基础理解
Reco-Reward 为什么训练内容描述而不是在线生成用户画像?
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
核心机制
Reco-Reward 为什么奖励目标用户亲和力减去非目标用户亲和力,而不是只最大化通用吸引力?
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
方法对比
Reco-Reward 的冻结模型奖励升高,与真实用户更喜欢描述,为什么不是同一证据?
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
实现细节
RAS 实现为何要冻结双塔,并记录非目标样本来自哪里?
RecoReward: Recommender-Guided Multimodal Description Generation for Recommendation
基础理解
Mosaic 的 specialist fleet 为什么不等同于扩大一个通用用户向量?
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
核心机制
Mosaic 已经有多个专长用户向量,为什么还要对新向量施加去冗余目标?
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
方法对比
Mosaic 的 MRM 联合标签与分别预测每个二元任务,增加什么监督?
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
实现细节
Mosaic 的 cosine redundancy loss 为什么要 warm up,并与实际互补效用分开验收?
Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
基础理解
Dual-purpose SID 为什么要求短码还能重建内容向量?
核心机制
Dual-purpose SID为什么还要用Semantic Decoder重建内容embedding?
方法对比
短 SID 加 SiDec 与直接缓存 dense embedding,资源取舍是什么?
实现细节
SiDec 为什么要将每一级 one-hot 分开占列后再拼接?
基础理解
Pin-SCALE 为什么将层级 SID 用在判别式 dense retrieval,而非只做生成?
核心机制
Pin-SCALE 为什么保留 Semantic ID 的残差层级,并加入参与度与多视角对比监督?
方法对比
参与度感知 tokenization 与纯内容重构,为什么优化重心不同?
实现细节
Pin-SCALE 单个样本同层权重 wi 对最近码选择,为什么不能仅从公式就断言改了 argmin?
基础理解
RECAP 的 LLM judge 与双塔 evaluator 是同一个角色吗?
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
核心机制
RECAP 为什么把画像更新拆成 LLM 语义修改和确定性生命周期管理,再用推荐反馈训练?
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
方法对比
RECAP 的闭环 GRPO 与 open-loop SFT,为什么可能 reward 升而 test 排名降?
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
实现细节
RECAP 的容量 |Pt|≤C 应由谁强制,为什么不能只写在 prompt?
RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
基础理解
Proximity Features 为什么是群体键而不是匿名个人 ID?
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
核心机制
Airbnb 的 proximity key 为什么在密集地区细分、稀疏地区合并,而不使用固定地理网格?
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
方法对比
Airbnb proximity aggregate 相比 global cold-start aggregate,多加入了什么条件信息?
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
实现细节
生成 proximity key 为什么要固定坐标量化、hash 和每日聚合版本?
Proximity Features: Privacy-Compliant Cold-Start Personalization at Airbnb
基础理解
TokenMinds为什么同时输出dense向量与SID用户token?
核心机制
TokenMinds 为什么同时输出稠密用户向量和代表未来兴趣的 SID 用户 token?
方法对比
未来24小时多目标与只预测下一次观看有什么差别?
实现细节
本地TokenMinds是否执行了完整生产multi-context decoding?
基础理解
G2Rec 为什么在 item token 之间插入 interest-profile token?
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
核心机制
G2Rec为什么允许一个item软归属多个兴趣prototype?
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
方法对比
G2Rec 的 soft modularity 与按固定品类分桶,相比如何形成兴趣群?
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
实现细节
G2Rec 的 prototype 加权均值和交替序列,哪些边界需要检查?
Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
基础理解
Atomic Intent 为什么把单次行为拆成层级意图,而不只给它一个宽泛品类标签?
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
核心机制
把跨域行为先变成原子意图并缓存,为什么不等同于直接缓存一个用户向量?
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
方法对比
Atomic Intent 的目标条件检索与一次性生成静态文本画像,有什么更新与使用差别?
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
实现细节
实现 Atomic Intent 的时间与频率权重时,为什么要把意图提取和在线聚合分别验收?
Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
基础理解
SSRLive为什么分静态与动态语义ID?
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
核心机制
SSRLive 为什么同时保留主播静态 SID 与直播动态 SID,而不持续覆盖同一份语义码?
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
方法对比
动态SID与给静态embedding简单加时间戳有什么差别?
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
实现细节
SSRLive本地MovieLens能支持哪些结论?
SSRLive: Live Streaming Recommendation with Dynamic Semantic ID
基础理解
Pinterest Ads LLM 同时输出 advertiser 与兴趣,这两个粒度是不是一一对应?
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
核心机制
Pinterest Ads LLM 为什么只预测辅助 advertiser 与兴趣,而不接管实时广告排序?
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
方法对比
SFT+GRPO 对 SFT 的比较与 LLM feature 对 two-tower 的比较,为什么应分开?
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
实现细节
严格输出长度 reward 与命中位置 reward,为什么需要同时验收?
Fine-Tuned LLM as a Complementary Predictor Improving Ads System
基础理解
L2Rec 为什么在共享 LLM 内区分语义视图与行为视图的 LoRA 专家?
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
核心机制
L2Rec为什么为语义视图和行为视图分别配置用户路由的LoRA专家?
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
方法对比
按用户路由 LoRA-MoE 与一份全局 LoRA,相比参数共享发生什么变化?
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
实现细节
L2Rec 的 BA 低秩增量与 Top-K gate,哪些轴和参数需要分开?
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
基础理解
MuChaToR 为什么把音乐推荐放进对话而非只做历史下一首?
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
核心机制
MuChaToR 为什么在音乐领域预训练和指令学习之外,还要优化意图、探索与对话奖励?
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
方法对比
MuChaToR 的 discovery reward 与只奖励意图匹配,有何可能冲突?
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
实现细节
MuChaToR 本地 MovieLens 排序结果为什么不能验证音乐继续预训与对话 RL?
MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
基础理解
AKT-Rec 的 cluster view 与 individual view 为什么都保留,而不只给长尾物品一个语义簇向量?
核心机制
AKT-Rec为什么让长尾更多地向头部学习,并阻断teacher一侧梯度?
方法对比
AKT-Rec 的非对称迁移与普通对称 InfoNCE,区别仅是正负例更多吗?
实现细节
AKT-Rec 两级活动度 gate 分别放在什么信息融合位置?
基础理解
FLUID 为什么把直播切片与房间历史摘要当作两个独立 token?
核心机制
FLUID为何同时保留slice和room两种LUCID,并逐步退出item ID?
方法对比
FLUID 移除瞬时 item ID 与给新房间随机初始化 ID,相比借用了什么共享信息?
实现细节
LUCID 每层 embedding 为什么索引完整前缀,而不是单独的 codeword?
基础理解
MM-LLM 为什么把 caption 规范化成 categorical token IDs?
核心机制
MM-LLM 为什么把视觉内容先转成规范化语义 token,而不在每次排序时直接调用大模型?
方法对比
MM-LLM 的 caption token 与直接使用视觉 embedding,相比补充哪类信息?
实现细节
MM-LLM 本地四 caption token 为什么不能冒充完整视觉—LLaMA2 训练?
基础理解
RecGPT-Mobile 为什么把行为到 query 放到端侧,而检索仍留服务端?
核心机制
RecGPT-Mobile 为什么只在联合漂移信号越过阈值时重新生成 query,而不是每次行为都触发?
方法对比
INT8 存储量下降与 INT8 推理加速,为什么是不同证据?
实现细节
RecGPT-Mobile 的 prompt 组件预算与漂移触发应如何分别检查?
基础理解
AdaSID 所说的 SID 重叠为什么不一定都是坏事?
核心机制
为什么AdaSID不把所有共享语义ID的物品都施加同样的碰撞惩罚?
方法对比
AdaSID 与固定系数的碰撞损失相比,多出的自适应项改变了什么?
实现细节
AdaSID 的碰撞系数应作为单一标量还是逐物品对、逐阶段的量?
基础理解
MARC 为什么可能选择 LLM 中间层,而不是默认最后层表示最好?
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
核心机制
MARC为什么把表征压缩与推荐适配拆开,并可能选择LLM中间层?
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
方法对比
MARC 的压缩与适配分离,相比一个线性降维器承担全部任务,有何好处与风险?
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
实现细节
MARC 的中层选择与 nuisance 投影,怎样防止验证和测试混用?
Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
基础理解
LWGR 的 soft instruction 为什么能表达用户差异,而不只是另一段人工提示?
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
核心机制
LWGR为什么学习个性化soft instruction,还要约束相对冻结reference的退化?
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
方法对比
LWGR 的 reference 置信度退化约束与普通 KL,相比保护什么量?
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
实现细节
LWGR 的 straight-through code 选择与 dual update,分别应怎样检查?
LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
基础理解
SID-Coord为什么同时保留HID与SID?
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
核心机制
SID-Coord 为什么让 HID 与多层 SID 的融合 gate 依赖目标,而不是固定比例相加?
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
方法对比
SID-Coord的层级权重α与HID–SID样本gate,是同一个混合轴吗?
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
实现细节
SID-Coord的分层α和样本gate需怎样对齐?
SID-Coord: Coordinating Semantic IDs for ID-based Ranking in Short-Video Search
基础理解
跨域 KD 为什么可以在目标域样本上调用源域 teacher,而无需取得源域原始训练数据?
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
核心机制
跨域蒸馏为什么能不拿源域训练数据,却仍不能无条件信任源域teacher?
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
方法对比
跨域 KD 的 target-only student 对照和同域 DIN 对照,分别检验什么?
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
实现细节
跨域 KD 温度蒸馏项为什么包含 T²,辅助 logits 又应如何对齐?
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
基础理解
GateSID 为什么让冷启动程度影响语义与协同的比例?
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
核心机制
GateSID为什么让冷启动程度影响语义—协同融合和对比对齐强度?
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
方法对比
GateSID 的对齐强度门控与只在最终打分时混合,相比训练影响在哪里?
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
实现细节
GateSID 实现时,冷启动特征为什么只能来自训练截止前?
GateSID: Adaptive Gating for Semantic-Collaborative Alignment in Cold-Start Recommendation
基础理解
TagLLM为什么用类目兴趣手册抽细粒度标签?
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
核心机制
TagLLM 为什么先按类目建立兴趣手册,再把多模态标签能力分阶段蒸馏给小模型?
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
方法对比
大模型两阶段蒸馏与线上每条笔记直接调用大模型有何区别?
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
实现细节
TagLLM本地MovieLens代理能证明真实多模态笔记标注吗?
TagLLM: A Fine-Grained Tag Generation Approach for Note Recommendation
基础理解
PinCLIP 为什么让新内容从内容向量接入推荐图空间?
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
核心机制
PinCLIP 为什么在图文对齐之外加入 Pin-Board 邻居对齐?
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
方法对比
PinCLIP 的邻居对齐与仅做 image-text contrastive,相比正例来自哪里?
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
实现细节
PinCLIP 图邻居训练为什么要排除测试未来边而不仅冻结图像 encoder?
PinCLIP: Large-scale Foundational Multimodal Representation at Pinterest
基础理解
IDProxy 中的 proxy 为什么不直接等于原 MLLM embedding?
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
核心机制
IDProxy为什么先对齐MLLM与ID空间,再用多层proxy残差接入排序器?
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
方法对比
IDProxy 的 residual gate 与完全替换 item-ID 表示,相比保留什么退路?
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
实现细节
IDProxy 粗对齐的正负配对为什么必须按同一 item 身份构造?
IDProxy: Cold-Start CTR Prediction for Ads and Recommendation at Xiaohongshu with Multimodal LLMs
基础理解
QuaSID 中两个码相距更远,是否说明用户更喜欢其中一个物品?
核心机制
QuaSID 为什么对 SID 碰撞使用业务资格相关的 margin,而不是把所有相近物品等量推开?
方法对比
QuaSID 的差异化 margin 与统一排斥所有碰撞,相比码空间如何分配?
实现细节
QuaSID 的 hinge loss 在距离达到 margin 后,为何不应继续强推远?
基础理解
RQ-GMM为什么逐层量化残差而不是只分一次簇?
核心机制
RQ-GMM 在每层残差量化用高斯混合软分配,和最近中心硬量化有何取舍?
方法对比
RQ-GMM先学习语义码再接CTR训练,与让CTR损失端到端改写码本有什么不同?
实现细节
RQ-GMM下一层残差应减去哪个量?
基础理解
SARM的semantic anchor是新的直播物品ID,还是内容理解产生的语义信息?
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
核心机制
SARM 为什么离线生成直播语义 anchor,却只在线更新轻量排序器?
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
方法对比
SARM的内容语义anchor与在线ID行为特征,能提供相同的信息吗?
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
实现细节
SARM本地是否具备生产直播anchor生成与部署?
SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking
基础理解
PIT 所针对的流式分布漂移,为什么会让原来好用的 SID 路径逐渐不合适?
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
核心机制
PIT 为什么允许一个物品保留多个候选 SID,再按用户推荐损失选择编码?
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
方法对比
PIT 的联合 tokenizer 与先冻结码本再训练生成器,相比梯度耦合在哪里?
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
实现细节
PIT 的用户引导最小损失选择为什么只能在训练候选编码集合内进行?
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
基础理解
DOS 为什么让用户行为流与商品语义流共同塑造 codebook?
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
核心机制
DOS为什么先做正交旋转,再逐层量化,而不直接量化原始内容向量?
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
方法对比
DOS 的正交旋转与一般可学习投影,相比为什么更强调几何约束?
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
实现细节
DOS 在逐层残差量化后,为什么要分别检查正交误差与重构误差?
DOS: Dual-Flow Orthogonal Semantic IDs for Recommendation in Meituan
基础理解
RecGPT-V2 的压缩行为表示与 meta-prompt,分别是证据还是推理指令?
核心机制
RecGPT-V2 为什么用层级多 Agent 和动态 meta-prompt 替代固定多条推理链?
方法对比
Agent-as-a-Judge 与真实用户反馈,相比评价偏差为何不同?
实现细节
RecGPT-V2 的混合 π=Σgkπk 应如何避免路径重复被当额外能力?
基础理解
SaviorRec为什么先用行为监督训练内容encoder?
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
核心机制
SaviorRec 为什么冻结 SID,却用零初始化 MBA 码本学习行为残差?
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
方法对比
SaviorRec用行为正对训练内容encoder,与只按内容自身相似性组织表示有何不同?
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
实现细节
MBA为什么从全零码本开始,双向target注意看什么?
SaviorRec: Semantic-Behavior Alignment for Cold-Start Recommendation
基础理解
FilterLLM 为什么从新品文本预测受众分布,而不是下一物品?
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
核心机制
FilterLLM为什么从商品文本直接预测用户分布,而不逐用户问LLM是否推荐?
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
方法对比
压缩用户词表与逐用户二分类,输出规模与个性化细度怎样交换?
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
实现细节
FilterLLM 的目标用户分布为什么要避免把未曝光直接当不喜欢?
FilterLLM: Text-To-Distribution LLM for Billion-Scale Cold-Start Recommendation
基础理解
SERAL为什么把惊喜推荐定义为相关且未见?
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
核心机制
SERAL 为什么引入 LLM 与人工的 CDI 偏好,再用 IPO 对齐,而不直接最大化历史命中?
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
方法对比
SERAL在本地命中提高但新颖度下降时,能称为惊喜推荐全面改善吗?
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
实现细节
SERAL为什么nearline生成并缓存而不每请求生成?
Bursting Filter Bubble: Enhancing Serendipity Recommendations with Aligned Large Language Models
基础理解
LUM 为什么把用户知识生成和在线 DLRM 排序分为三步?
核心机制
LUM中的condition为什么要放在即将预测的item之前,而不是当上一item的反馈?
方法对比
LUM 的多个条件查询与一个固定用户 embedding,信息组织有何不同?
实现细节
LUM 离线一次追加多个 query condition,为什么要屏蔽 query-query attention?
基础理解
MIM 为什么在多模态重建后还要做内容—兴趣对齐?
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
核心机制
MIM先做多模态遮盖重建后,为什么还要content-interest-aware SFT?
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
方法对比
MIM 双兴趣融合与只用 ID 共现,相比对新品增加哪类可用线索?
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
实现细节
MIM 的 mask 重建和推荐 target,为什么要使用不同的可见性规则?
MIM: Multi-modal Content Interest Modeling Paradigm for User Behavior Modeling
基础理解
MSD 的 MKDM 与 MKIM 为什么分成知识蒸馏和 CTR 适配两步?
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
核心机制
MSD 为什么先蒸馏大模型的关键词与推理,再对学生做 CTR 对齐,而不只缓存大模型 embedding?
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
方法对比
MSD 高频缓存、低频在线与全部在线编码,相比依什么分摊计算?
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
实现细节
MSD 本地历史 top-3 与缓存 gate,为什么要分别检查候选相关和共享部分?
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
基础理解
PRECISE 的 UT 与 TT 为什么分别面向全场景兴趣和稀疏目标?
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
核心机制
PRECISE 为什么先冻结文本表示训练 ID,再解冻联合训练?
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
方法对比
PRECISE 的 token attention MoE 与单独平均文本向量,相比保留哪些可选择细节?
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
实现细节
PRECISE 从 causal UT 切到非 causal TT,为什么依然必须排除目标 item?
PRECISE: Pre-training Sequential Recommenders with Collaborative and Semantic Information
基础理解
LEARN 为什么冻结内容 LLM,却允许 PCH 学习偏好?
核心机制
LEARN为什么冻结LLM内容编码,却训练因果PCH来学习用户偏好?
方法对比
LEARN 相对 frozen semantic mean 的大增益,为什么不能直接称冷启动收益?
实现细节
PCH 预测下一物品时,内容缓存冻结是否足以防止未来泄漏?
基础理解
BAHE 的原子行为缓存与最终用户表示为什么不是同一种缓存?
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
核心机制
BAHE缓存原子行为的浅层编码,为什么还需要在线训练的高层聚合?
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
方法对比
BAHE 与每个样本都重新跑完整文本模型相比,节省来源与效果代价怎样区分?
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
实现细节
BAHE 本地两层 BERT-tiny 怎样划分缓存层和训练层?
Breaking the Length Barrier: LLM-Enhanced CTR Prediction in Long Textual User Behaviors
基础理解
LSVCR 为什么分别编码视频消费与评论消费,而不把评论只当视频文本属性?
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
核心机制
LSVCR上线不用生成式LLM,为什么训练时还让LLM提供个性化偏好?
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
方法对比
LSVCR 的 SSC 与 VCC 分别约束哪些关系?
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
实现细节
LSVCR 的随机位置编码为什么要抽有序子集而非打乱位置顺序?
A Large Language Model Enhanced Sequential Recommender for Joint Video and Comment Recommendation
基础理解
NoteLLM 的 compression token 为什么同时承担检索与生成接口?
NoteLLM: A Retrievable Large Language Model for Note Recommendation
核心机制
NoteLLM 为什么让压缩状态同时接受共读对比学习和内容生成监督?
NoteLLM: A Retrievable Large Language Model for Note Recommendation
方法对比
GCL 共读正例与纯文本相似正例,相比学到哪种不同关系?
NoteLLM: A Retrievable Large Language Model for Note Recommendation
实现细节
NoteLLM 的对比向量与 CSFT 初始状态如何确认来自同一个 compression 位置?
NoteLLM: A Retrievable Large Language Model for Note Recommendation
基础理解
KAR 为什么分开用户偏好知识和物品事实知识?
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
核心机制
KAR为什么分开生成用户偏好知识和物品事实,再用hybrid-expert adapter接入?
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
方法对比
KAR 的离线知识增强与在线 LLM 推荐,相比成本和错误传播有何不同?
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
实现细节
KAR 四专家 adapter 的 gate 与原 ID 表示为什么需要共同验收?
Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models
基础理解
M6-Rec 为什么把匿名行为和候选转成自然语言以统一多个任务?
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
核心机制
M6-Rec统一多个推荐任务时,option tuning和adapter分别改动哪一部分?
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
方法对比
Option tuning 与 option-adapter tuning,相比增加了哪部分可学习能力?
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
实现细节
M6-Rec 本地冻结主干的二分类 option 得分,为什么要核验归一化与温度?
M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems
主题导读与阅读路线
先想一个问题¶
一个没有点击记录的新物品,怎样进入依赖行为信号的推荐系统?
记住这一点¶
内容语义、协同身份和用户偏好是三类信号。KAR把离线生成的知识接入推荐器;NoteLLM用共读关系和生成任务共同训练内容向量;语义ID再把连续内容压缩为可索引或生成的短码。用户记忆与邻居证据可补足偏好,推荐反馈也可反过来训练内容描述。关键在于让表示与推荐目标对齐,不能把语言相似度直接当作用户会喜欢的程度。
一个例子¶
新品跑鞋没有点击日志,标题和图片仍能表达用途;但两双外观相似的鞋未必面向相同人群。可先用内容建立表示,再用已有商品的共购或共读信号对齐偏好,而不是直接把文本最近邻当最终排序。
什么时候要小心¶
内容重建误差下降不保证推荐指标提高;码本过小会碰撞,过大又可能学不到稳定协同关系。LLM生成的偏好描述仍需核验,不能当作真实点击标签;高成本资料收录也不代表已有可运行大模型。
先读这几篇¶
按离线知识增强→协同信号训练表征→用短ID承载内容的顺序读KAR、NoteLLM、Dual-purpose SID;三者均有本地机制路径,Dual-purpose SID的小码本负结果尤其适合理解质量与压缩的取舍。
- Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models · 原论文
- NoteLLM: A Retrievable Large Language Model for Note Recommendation · 原论文
- Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in Recommendation Systems · 原论文
自测一下¶
语义ID的重建MSE变小,但相同协议下NDCG下降,应如何解释?
展开参考答案
压缩更好保留了内容,却未必更好保留协同偏好、区分候选或适配解码器。应分别检查码碰撞、内容—行为对齐及最终检索结果,不能只用重建指标宣布推荐有效。