中文

UniFormer：面向工业推荐的的高效统一以模型为中心的扩展

信息检索 2026-06-25 v1
作者: Bo Chen , Jinlong Jiao , Tijian Hu , Ruihao Zhang , Yanzhi Liu , Chenghou Jin , Qinglin Jia , Baixuan He , Hechang Pan , Yiwu Liu , Jian Liang , Chaoyi Ma , Ruiming Tang , Han Li , Kun Gai
在 arXiv 上查看 ↗ PDF ↗

摘要

近来，工业推荐通过以组件为中心的模型扩展取得实质性进展，即行为建模、特征交互或任务建模等独立组件被分别扩展以提升模型容量。尽管HyFormer和OneTrans等近期方法通过联合建模行为与交互进一步探索跨模块协同扩展，其设计仍局限于特征空间，缺乏覆盖整体建模空间的统一以模型为中心的扩展框架。本文提出UniFormer，一个高效且统一的以模型为中心的工业推荐系统扩展框架。为提升效率，UniFormer将整体建模空间分解为特征空间与任务空间，分别由堆叠的特征空间交互模块与任务空间交互模块建模。此外，UniFormer引入基于语义的token化方案以实现用户–物品解耦，从而获得请求级推理加速。为防止偏好坍塌，UniFormer采用多序列交叉注意力分别捕获异质行为模式，随后通过自注意力增强交互建模。此外，引入专用的多视图FFN以支持跨不同建模组件的灵活可扩展参数扩展。在快手与快手极速版两个生产场景中的广泛在线A/B测试表明，UniFormer持续提升用户参与度与交互指标，分别实现App停留时长+0.101%/+0.260%、观看时长+0.729%/+1.113%的收益。

关键词

工业推荐 以模型为中心的扩展 特征交互 任务建模 token化 在线A/B测试 快手

引用

@article{arxiv.2606.27058,
  title  = {UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation},
  author = {Bo Chen and Jinlong Jiao and Tijian Hu and Ruihao Zhang and Yanzhi Liu and Chenghou Jin and Qinglin Jia and Baixuan He and Hechang Pan and Yiwu Liu and Jian Liang and Chaoyi Ma and Ruiming Tang and Han Li and Kun Gai},
  journal= {arXiv preprint arXiv:2606.27058},
  year   = {2026}
}