用于点击率预测的深层多表示模型
信息检索
2022-10-26 v2 人工智能
机器学习
摘要
点击率预测(CTR)是推荐系统中的一项关键任务,在过去几年中受到了相当多的关注。近期研究的主要重点是通过使用深度神经网络(DNN)、CrossNet 或 transformer 模块等各种组件挖掘低阶与高阶特征交互,从而获得有意义且强大的表示。在本工作中,我们提出深层多表示模型(DeepMR),该模型联合训练两种强大的特征表示学习组件(即 DNN 与多头自注意力)的混合。此外,DeepMR 将新颖的零初始化残差(ReZero)连接集成到 DNN 和多头自注意力组件中,以学习更优的输入表示。在三个真实世界数据集上的实验表明,所提出的模型在点击率预测任务上显著优于所有最先进的模型。
引用
@article{arxiv.2210.10664,
title = {Deep Multi-Representation Model for Click-Through Rate Prediction},
author = {Shereen Elsayed and Lars Schmidt-Thieme},
journal= {arXiv preprint arXiv:2210.10664},
year = {2022}
}