面向动态搜索广告的极端回归
机器学习
2020-01-22 v3 机器学习
摘要
本文提出一种称为极端回归（XR）的新学习范式，其目标是准确预测极大量标签对某一数据点的数值相关度。XR 可为许多大规模排序与推荐应用（包括动态搜索广告（DSA））提供优雅的解决方案。与近期流行的极端分类器错误地假设严格二值标签相关度相比，XR 可学习更精确的模型。传统回归度量对所有标签的误差求和，不适用于 XR 问题，因为它们会对标签排序质量给出极为宽松的界。此外，现有回归算法无法高效扩展到数百万标签。本文通过以下方式解决这些局限：（1）针对 XR 的新评估度量，仅对 k 个最大回归误差求和；（2）称为 XReg 的新算法，将 XR 任务分解为层级化的小得多回归问题，从而实现高效的训练与预测。本文还引入（3）XReg 中用于 DSA 及其他推荐任务的新的标签级预测算法。在基准数据集上的实验表明，XReg 在新 XR 误差度量上比最先进的极端分类器以及大规模回归器和排序器减少多达 50% 的误差，并在极端分类中使用的倾向得分精度度量和 DSA 中使用的点击率度量上分别提升多达 2% 和 2.4%。XReg 在 Bing 的 DSA 上部署后，查询覆盖率获得 27% 的相对提升。XReg 的源代码可从 http://manikvarma.org/code/XReg/download.html 下载。
引用
@article{arxiv.2001.05228,
title = {Extreme Regression for Dynamic Search Advertising},
author = {Yashoteja Prabhu and Aditya Kusupati and Nilesh Gupta and Manik Varma},
journal= {arXiv preprint arXiv:2001.05228},
year = {2020}
}
备注
15 pages, 4 figures, published at WSDM 2020 as a Long Oral