GLiClass:动态候选轻量分类¶
论文信息¶
| 字段 | 内容 |
|---|---|
| 论文链接 | arXiv 2508.07662 |
| 公司/机构 | Knowledgator(按第一作者署名单位) |
| 首次公开日期 | 2025-08-11(arXiv v1) |
| 原文开源代码 | 有:Knowledgator/GLiClass |
| Adapter / 方法 | system-one:bilinear-ce、system-one:rival-ce |
| 本地复现代码 | src/auto_research/system_one/ |
原始论文总结¶
背景与主要改动¶
GLiClass 把文本和运行时给定的候选标签放进同一个分类接口,避免生成式 LLM 的解析不稳定,也避免 cross-encoder 对每个文本—标签对逐次推理。本仓库保留“候选内容参与打分”和“一次归一化得到全候选分布”这两个定义性机制。
flowchart LR
S[状态文本] --> E[文本编码]
C[动态候选及描述] --> L[候选编码]
E --> X[双线性或 rival-centered 交互]
L --> X
X --> P[softmax 概率与选择]
本地实现是 NumPy 机制基线,不加载 GLiClass 权重,不宣称复现论文的完整 Transformer、PPO 多标签训练或论文数值。它用于 System One 的 Banking77 统一协议和 Evolve operator。
原论文关键图¶
原论文 Figure 1(关键图):展示原论文提出的核心架构、主要模块及其连接关系。图片来自原论文,版权归原作者所有;点击图片可查看来源。
核心公式¶
本地 scorer 计算 softmax(h_state W h_candidate);rival 版本先把同一问题中的候选表示中心化再打分。
论文离线与线上效果¶
论文报告多任务 zero/few-shot 分类结果。本仓库不横比不同模型规模和硬件下的论文数字,只在统一 Banking77 协议中报告本地实现。
复现边界¶
只复现动态候选交互与一次归一化机制,不复现 GLiClass 完整权重、训练语料或 PPO 流程。
