跳转至

SMES：可扩展多任务稀疏专家

Fidelity: 核心机制复现。本地代码执行论文最有辨识度、可由公开数据验证的机制；私有数据、生产模型与服务栈明确列为边界。

论文信息

项目 内容
论文链接 arXiv 2602.09386
公司/机构 Kuaishou Technology（按第一作者所属机构聚合）
首次公开日期 2026-02-10（arXiv v1）
原文开源代码 否：未找到原作者公开代码（核查日期：2026-09-05）
Adapter smes
本地复现代码 src/auto_research/reproductions/smes/

原始论文总结

背景与主要改动

把每个任务的激活专家拆为所有任务共享的稳定子集和任务自适应私有子集，并用跨任务全局负载均衡约束路由，控制激活量与专家倾斜。

flowchart LR
  A["公开行为与候选"] --> B["smes 核心机制"]
  B --> C["同预算方法输出"]
  A --> D["统一直接基线"]
  C --> E["全目录排序与结构诊断"]
  D --> E

原论文关键图

SMES：可扩展多任务稀疏专家 原论文 Figure 2

原论文 Figure 2（关键图）：展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文，版权归原作者所有；点击图片可查看来源。

核心公式

\[ h_t=\sum_{e\in E_s\cup E_t}g_{t,e}(x)f_e(x),\qquad \mathcal L=\sum_t\mathcal L_t+\lambda\mathcal L_{balance}. \]

论文离线与线上效果

  • 快手线上报告用户观看时长 +0.31%，同时论文给出 GAUC +0.29% 和约 50% 激活专家削减。
  • 上述数字只复述论文证据，不写入本地公开数据效果结论。

本地复现

本地对照口径：同一 MovieLens 全目录协议下，基线 NDCG@10 为 0.05401，实验组为 0.05359，相对变化 -0.78%。本地代理目标与论文生产任务不同，不能外推线上 lift。

三随机种子的完整结果、均值、标准差与 95% CI 见：

auto-research reproduce --paper smes --dataset-dir data --seeds 42,43,44

复现边界

本地使用 MovieLens 100K 的固定公开子集及可审计代理目标，只验证中心计算机制；不复现原论文的私有日志、生产基础模型、线上分桶和 serving 栈。因此本页不宣称复现原文绝对指标或线上增益。