Monolith：具备无冲突嵌入表的实时推荐系统
信息检索
2022-09-29 v2
摘要
构建一个可扩展且实时的推荐系统，对于许多由时间敏感型客户反馈驱动的业务（如短视频排序或在线广告）至关重要。尽管 TensorFlow 或 PyTorch 等生产级深度学习框架已被普遍采用，但这些通用框架因种种原因难以满足推荐场景中的业务需求：一方面，基于静态参数和稠密计算来调优具有动态与稀疏特征的推荐系统，会损害模型质量；另一方面，此类框架将批量训练阶段与服务阶段完全分离，使模型无法实时与客户反馈交互。这些问题促使我们重新审视传统方法并探索截然不同的设计选择。在本文中，我们提出 Monolith，一个专为在线训练打造的系统。我们的设计由对应用负载与生产环境的观察所驱动，明显有别于其他推荐系统。我们的贡献是多方面的：首先，我们精心设计了无冲突嵌入表，并通过可过期嵌入与频率过滤等优化来缩减其内存占用；其次，我们提供了具备高容错能力的生产就绪在线训练架构；最后，我们证明了系统可靠性可让位于实时学习。Monolith 已成功落地于 BytePlus Recommend 产品。
引用
@article{arxiv.2209.07663,
title = {Monolith: Real Time Recommendation System With Collisionless Embedding Table},
author = {Zhuoran Liu and Leqi Zou and Xuan Zou and Caihua Wang and Biao Zhang and Da Tang and Bolin Zhu and Yijie Zhu and Peng Wu and Ke Wang and Youlong Cheng},
journal= {arXiv preprint arXiv:2209.07663},
year = {2022}
}
备注
ORSUM@ACM RecSys 2022