DeepLight：用于加速广告投放中CTR预测的轻量深度特征交互
机器学习
2021-01-08 v3 信息检索
应用统计
机器学习
摘要
点击率（CTR）预测是在线展示广告中的关键任务。基于嵌入的神经网络已被提出，通过浅层组件学习显式特征交互，并利用深度神经网络（DNN）组件学习深度特征交互。然而，这些复杂模型使预测推理速度至少减慢数百倍。为解决生产环境中广告投放显著增加的投放延迟与高内存使用问题，本文提出 \emph{DeepLight}：一个从三方面加速 CTR 预测的框架：1）通过在浅层组件中显式搜索信息性特征交互来加速模型推理；2）在 DNN 组件内于层内与层间层面剪枝冗余层与参数；3）提升嵌入层的稀疏性以保留最具判别性的信号。结合上述努力，所提方法在 Criteo 数据集上加速模型推理 46 倍，在 Avazu 数据集上加速 27 倍，且不损失预测精度。这为在生产中成功部署复杂的基于嵌入的神经网络用于广告投放铺平了道路。
引用
@article{arxiv.2002.06987,
title = {DeepLight: Deep Lightweight Feature Interactions for Accelerating CTR Predictions in Ad Serving},
author = {Wei Deng and Junwei Pan and Tian Zhou and Deguang Kong and Aaron Flores and Guang Lin},
journal= {arXiv preprint arXiv:2002.06987},
year = {2021}
}
备注
Accepted by WSDM 2021; Source code: https://github.com/WayneDW/DeepLight_Deep-Lightweight-Feature-Interactions