Sona:单模型替换音乐推荐级联¶
Fidelity:核心机制复现。 实际训练压缩历史编码器、三层自回归 Semantic ID 头与 item ranker;本地负迁移如实保留。
论文信息¶
| 项目 | 内容 |
|---|---|
| 论文链接 | arXiv 2608.11015 |
| 公司/机构 | Yandex |
| 首次公开日期 | 2026-08-11(arXiv v1) |
| 原文开源代码 | 否:未发现原作者公开代码(核查日期:2026-08-13) |
| Adapter | sona |
| 本地复现代码 | src/auto_research/reproductions/sona/ |
核心训练实现在 latest_20260813_common.py。
原始论文总结¶
背景与主要改动¶
Yandex Music 原链路有 15 个以上候选生成器与独立预排、精排。Sona 用 chronology event encoder 表示用户,以历史压缩控制长序列成本,自回归生成 Semantic ID,并用同一状态的 Ranking Module 对物品排序;高容量 teacher 只在训练期提供蒸馏监督。
flowchart LR
H["chronological events"] --> C["history compression"]
C --> E["shared encoder"]
E --> D["autoregressive SID decoder"]
E --> R["item ranking module"]
T["training-only teacher"] --> R
D --> O["single serving model"]
R --> O
原论文关键图¶
原论文 Figure 2(关键图):展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
论文离线与线上效果¶
My Vibe 智能音箱真实流量 A/B 中,Active Users +4.53%、Total Listening Time +6.30%、Likes +11.42%,论文报告均达到统计显著;一个模型替代原候选生成与排序级联。
本地复现¶
本地对照口径:基线为同预算共享 encoder 排序器,实验组为 history compression + SID decoder + item ranker;NDCG@10 相对变化 -92.05%。
MovieLens-1M 260 users / 420 items、50 steps、seed 42。共享 encoder 基线 NDCG@10 0.02083;压缩 SID + ranker 为 0.00166(-92.05%),执行 7,200 个 SID token 目标、历史压缩比 4×。随机 ID 分解和短训练无法获得论文私有语义 tokenizer 的邻域结构,是明确的负结果。
固定指标见 metrics/movielens1m-seed42.json。
复现边界¶
未复刻私有音乐语义 tokenizer、完整 teacher、15+ 生产候选源和智能音箱 serving;本地仅验证核心训练与推理数据流。
