减少有界寿命多臂老虎机中消亡臂的探索
机器学习
2019-07-08 v1 机器学习
摘要
有界寿命多臂老虎机(mortal bandits)已被证明在提供新闻文章推荐、运行自动化在线广告活动以及其他可用选项集合随时间变化的应用中极为有用。先前关于该问题的研究展示了如何在臂刚出现时调节对新臂的探索,但它们在臂即将消失时并未作出适应。由于在多数应用中我们能够精确或近似地确定臂何时消失,我们可以利用这一信息来提升性能:我们不应去探索那些即将消失的臂。我们为此研究提供了算法的改进、后悔界(regret bounds)与实验,展示了通过调节即将消失的臂的贪婪性(探索/利用)所带来的明显益处。我们在 Yahoo! 首页今日模块用户点击日志数据集上展示了数值性能。
引用
@article{arxiv.1907.02571,
title = {Reducing Exploration of Dying Arms in Mortal Bandits},
author = {Stefano Tracà and Cynthia Rudin and Weiyu Yan},
journal= {arXiv preprint arXiv:1907.02571},
year = {2019}
}
备注
Conference: UAI 2019