概率顺序收缩:一种面向含腐败随机多臂老虎机的优臂辨识算法
机器学习
2021-06-21 v4 信息论
math.IT
摘要
我们考虑在 T 步固定预算设定下含对抗性腐败的随机多臂老虎机的最优臂辨识(BAI)问题。我们设计了一种新颖的随机化算法——概率顺序收缩()(PSS()),其对腐败量未知。当每步腐败量(CPS)低于某一阈值时,PSS() 以趋于 的概率辨识出最优臂或物品(当 )。否则,所辨识物品的 optimality gap 随 CPS 优雅退化。我们认为这种分岔是必要的。在 PSS() 中,参数 用于平衡 optimality gap 与成功概率。随机化的引入被证明对缓解腐败影响至关重要。为说明这一点,我们设计了两种适用于任意算法的攻击策略。我们将其中之一应用于 PSS() 的确定性类比——Karnin 等人(2013)提出的 Successive Halving(SH)。该攻击策略导致 SH 的高失败概率,而 PSS() 保持稳健。在无腐败时,PSS() 的性能保证与 SH 相当。我们证明当 CPS 足够大时,任何算法都无法实现随 趋于 的 BAI 概率。数值实验证实了我们的理论发现。
引用
@article{arxiv.2010.07904,
title = {Probabilistic Sequential Shrinking: A Best Arm Identification Algorithm for Stochastic Bandits with Corruptions},
author = {Zixin Zhong and Wang Chi Cheung and Vincent Y. F. Tan},
journal= {arXiv preprint arXiv:2010.07904},
year = {2021}
}
备注
22 pages, 9 figures