Zenith: 面向十亿级直播推荐的排序模型规模化方法
机器学习
2026-02-06 v3 人工智能
摘要
准确捕捉特征交互在推荐系统中至关重要，而近期趋势表明，扩展模型容量可能是实现下一代预测性能的关键驱动力。虽然先前的工作已探索了各种模型架构来捕捉多粒度特征交互，但相对较少关注高效的特征处理以及在不引起过多推理延迟的情况下扩展模型容量。在本文中，我们通过提出Zenith来解决这一问题，这是一种可扩展且高效的排序架构，能以最小的运行时开销学习复杂的特征交互。Zenith设计用于通过令牌融合和令牌增强模块处理少量高维的主令牌，由于其改进了令牌异质性，与其他最先进的排序方法相比，展现出优越的缩放定律。通过将该架构部署到TikTok Live（一个吸引全球数十亿用户的领先在线直播平台），证明了其实际有效性。我们的A/B测试显示，Zenith在在线CTR AUC和Logloss上分别实现了+1.05%/-1.10%的提升，并在质量观看会话/用户上实现了+9.93%的提升，在质量观看时长/用户上实现了+8.11%的提升。
引用
@article{arxiv.2601.21285,
title = {Zenith: Scaling up Ranking Models for Billion-scale Livestreaming Recommendation},
author = {Ruifeng Zhang and Zexi Huang and Zikai Wang and Ke Sun and Bohang Zheng and Yuchen Jiang and Zhe Chen and Zhen Ouyang and Huimin Xie and Phil Shen and Junlin Zhang and Yuchao Zheng and Wentao Guo and Qinglei Wang},
journal= {arXiv preprint arXiv:2601.21285},
year = {2026}
}
备注
10 pages