大臂数情形下的 UCB 最优调整
统计理论
2019-09-06 v1 统计理论
摘要
Lai 与 Robbins(1985)的悔值下界是检验赌博机算法最优性的黄金标准,其考虑样本量趋于无穷时臂数固定。我们证明当臂数随样本量多项式增长时,可达到一个出乎意料更小的下界。这是因为当臂数更多时更大的实验代价允许通过更频繁地利用最佳表现者来节省悔值。特别地,我们得以构造一种 UCB-Large 算法,其在臂数更多时自适应地更多利用。它达到了更小的下界,从而是最优的。数值实验表明 UCB-Large 优于未对臂数作修正的经典 UCB,也优于 Thompson sampling。
引用
@article{arxiv.1909.02229,
title = {Optimal UCB Adjustments for Large Arm Sizes},
author = {Hock Peng Chan and Shouri Hu},
journal= {arXiv preprint arXiv:1909.02229},
year = {2019}
}
备注
First Draft