预热冷启动广告：通过学会学习 ID 嵌入改进 CTR 预测
机器学习
2019-04-29 v1 信息检索
机器学习
摘要
点击率（CTR）预测一直是计算广告中最核心的问题之一。近来，为广告 ID 生成低维表示的嵌入技术大幅提升了 CTR 预测精度。然而，此类学习技术对数据需求量大，在日志记录数据很少的新广告上表现不佳，即所谓的冷启动问题。本文旨在改进新广告加入候选池时冷启动阶段与预热阶段的 CTR 预测。我们提出 Meta-Embedding，一种基于元学习的方法，学会为新的广告 ID 生成理想的初始嵌入。所提方法通过基于梯度的元学习利用先前学习过的广告来训练新广告 ID 的嵌入生成器。换言之，我们的方法学会了如何学习更好的嵌入。当新广告到来时，训练好的生成器通过其内容与属性输入来初始化其 ID 的嵌入。接下来，在预热阶段有少量带标签样本可用时，与现有初始化方法相比，生成的嵌入可加速模型拟合。在三个真实世界数据集上的实验结果表明，Meta-Embedding 能显著改善六种现有 CTR 预测模型（从 Factorization Machines 等轻量模型到 PNN 和 DeepFM 等复杂深度模型）的冷启动与预热性能。上述所有内容同样适用于转化率（CVR）预测。
引用
@article{arxiv.1904.11547,
title = {Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to Learn ID Embeddings},
author = {Feiyang Pan and Shuokai Li and Xiang Ao and Pingzhong Tang and Qing He},
journal= {arXiv preprint arXiv:1904.11547},
year = {2019}
}
备注
Accepted at SIGIR 2019