PBODL:腾讯广告系统中用于点击率预测的并行贝叶斯在线深度学习
机器学习
2017-07-11 v2
摘要
我们描述了一种用于当前腾讯广告系统内点击率(CTR)预测的并行贝叶斯在线深度学习框架(PBODL),其提供快速而准确的用户偏好学习。我们首先通过一个深度probit回归模型解释该框架,该模型在假设高斯密度滤波模式下使用概率反向传播进行训练。随后我们将模型族扩展到具有不断增强特征嵌入能力的多种贝叶斯在线模型,例如 Sparse-MLP、FM-MLP 和 FFM-MLP。最后,我们基于流计算基础设施和参数服务器实现了并行训练系统。使用公开可用数据集和腾讯工业数据集的实验表明,我们框架内的模型优于几种常见在线模型,如 AdPredictor、FTRL-Proximal 和 MatchBox。腾讯广告系统中的在线 A/B 测试进一步证明,我们的框架可通过更快速准确的学习实现 CTR 和 CPM 的提升。
引用
@article{arxiv.1707.00802,
title = {PBODL : Parallel Bayesian Online Deep Learning for Click-Through Rate Prediction in Tencent Advertising System},
author = {Xun Liu and Wei Xue and Lei Xiao and Bo Zhang},
journal= {arXiv preprint arXiv:1707.00802},
year = {2017}
}
备注
9 pages