中文

扩展用户建模:Meta 广告个性化中的大规模在线用户表示

信息检索 2024-05-24 v2 人工智能 机器学习

摘要

有效的用户表示在个性化广告中至关重要。然而,训练吞吐、服务延迟与内存方面的严格约束常限制在线广告排序模型的复杂度与输入特征集。在 Meta 等庞大系统中这一挑战被放大,其涵盖数百个规格各异的模型,使得为每个模型定制用户表示学习并不现实。为应对这些挑战,我们提出扩展用户建模(SUM),一个广泛部署于 Meta 广告排序系统的框架,旨在促进数百个广告模型间高效且可扩展的在线用户表示共享。SUM 利用少数指定的上游用户模型,以先进建模技术从海量用户特征中合成用户嵌入。这些嵌入随后作为下游在线广告排序模型的输入,促进高效的表示共享。为适应用户特征的动态特性并确保嵌入新鲜度,我们设计了 SUM 在线异步平台(SOAP),一个无延迟在线服务系统,辅以模型新鲜度与嵌入稳定化,支持频繁的用户模型更新及在每个用户请求时的用户嵌入在线推理。我们分享了 SUM 框架的实操部署经验,并通过全面实验验证其优越性。迄今,SUM 已上线至 Meta 数百个广告排序模型,每日处理数千亿用户请求,带来显著的在线指标提升与基础设施效率改善。

关键词

引用

@article{arxiv.2311.09544,
  title  = {Scaling User Modeling: Large-scale Online User Representations for Ads Personalization in Meta},
  author = {Wei Zhang and Dai Li and Chen Liang and Fang Zhou and Zhongke Zhang and Xuewei Wang and Ru Li and Yi Zhou and Yaning Huang and Dong Liang and Kai Wang and Zhangyuan Wang and Zhengxing Chen and Fenggang Wu and Minghai Chen and Huayu Li and Yunnan Wu and Zhan Shu and Mindi Yuan and Sri Reddy},
  journal= {arXiv preprint arXiv:2311.09544},
  year   = {2024}
}

备注

8 pages, 3 figures