MLoRA: 用于点击率预测的多域低秩自适应网络
信息检索
2024-08-20 v1
摘要
点击率（CTR）预测是工业领域的基础任务之一，尤其是在电子商务、社交媒体和流媒体领域。它直接影响网站收入、用户满意度和用户留存。然而，现实中的生产平台通常涵盖多个领域以满足多样化的客户需求。传统的 CTR 预测模型在多域推荐场景中表现不佳，面临数据稀疏和各域数据分布差异等挑战。现有的多域推荐方法为每个域引入特定模块，部分解决了这些问题，但往往显著增加模型参数并导致训练不足。本文提出了一种用于 CTR 预测的多域低秩自适应网络（MLoRA），其中为每个域引入了一个专用的 LoRA 模块。该方法提升了模型在多域 CTR 预测任务中的性能，且可应用于各种深度学习模型。我们在多个多域数据集上评估了所提方法。实验结果表明，MLoRA 方法相比现有最先进基线取得了显著提升。此外，我们将其部署在阿里巴巴.COM 的生产环境中。在线 A/B 测试结果表明了该方法在真实生产环境中的优越性与灵活性。我们的 MLoRA 代码已公开发布。
引用
@article{arxiv.2408.08913,
title = {MLoRA: Multi-Domain Low-Rank Adaptive Network for CTR Prediction},
author = {Zhiming Yang and Haining Gao and Dehong Gao and Luwei Yang and Libin Yang and Xiaoyan Cai and Wei Ning and Guannan Zhang},
journal= {arXiv preprint arXiv:2408.08913},
year = {2024}
}
备注
11 pages. Accepted by RecSys'2024, full paper