坍缩与纠缠世界中的广告推荐
信息检索
2024-07-09 v2 机器学习
摘要
我们介绍了腾讯的广告推荐系统，并探讨了学习适当推荐表征的挑战与实践。我们的研究首先展示了在将多种类型的特征编码为嵌入表征时保留先验知识的方法。我们特别处理了序列特征、数值特征和预训练嵌入特征。随后，我们深入探讨了与特征表征相关的两个关键挑战：嵌入的维度坍缩以及跨不同任务或场景的兴趣纠缠。我们提出了几种实用的方法来应对这些挑战，从而得到鲁棒且解耦的推荐表征。接着，我们探索了几种训练技术以促进模型优化、减少偏差并增强探索。此外，我们引入了三种分析工具，使我们能够研究特征相关性、维度坍缩和兴趣纠缠。这项工作基于腾讯广告推荐团队过去十年的持续努力。它总结了通用设计原则，并提供了一系列易于应用的解决方案和分析工具。所报告的性能基于我们的在线广告平台，该平台每天处理数千亿次请求，并向数十亿用户投放数百万条广告。
引用
@article{arxiv.2403.00793,
title = {Ads Recommendation in a Collapsed and Entangled World},
author = {Junwei Pan and Wei Xue and Ximei Wang and Haibin Yu and Xun Liu and Shijie Quan and Xueming Qiu and Dapeng Liu and Lei Xiao and Jie Jiang},
journal= {arXiv preprint arXiv:2403.00793},
year = {2024}
}