一种用于点击预测的统一批在线学习框架
机器学习
2018-09-14 v1 人工智能
机器学习
摘要
我们提出一个用于搜索广告中点击预测的统批量在线学习（OL）框架。机器学习模型一旦部署，由于模型陈旧会随时间表现出显著的准确率和校准退化。因此有必要定期自动更新模型。本文提出两种批量在线学习范式：一种通过早停机制增量更新模型参数，另一种通过近端正则化实现。我们论证这两种方案如何自然地在旧数据与新数据之间权衡。然后我们从理论和经验上表明这两种看似不同的方案密切相关。通过大量实验，我们展示了我们的 OL 框架的效用；两种 OL 方案如何相互关联以及它们如何在新的与历史数据之间权衡。然后将批量 OL 与完整模型重训练比较，展示在线学习对数据问题更具鲁棒性。我们还展示了在线学习的长期影响、初始模型在 OL 中的作用、更新延迟的影响，最后以一些实现细节及在生产中部署真实世界在线学习系统的挑战作结。虽然本文主要关注搜索广告点击预测的应用，我们希望此处获得的经验能迁移到其他问题域。
引用
@article{arxiv.1809.04673,
title = {A Unified Batch Online Learning Framework for Click Prediction},
author = {Rishabh Iyer and Nimit Acharya and Tanuja Bompada and Denis Charles and Eren Manavoglu},
journal= {arXiv preprint arXiv:1809.04673},
year = {2018}
}