中文

概率顺序收缩:一种面向含腐败随机多臂老虎机的优臂辨识算法

机器学习 2021-06-21 v4 信息论 math.IT

摘要

我们考虑在 T 步固定预算设定下含对抗性腐败的随机多臂老虎机的最优臂辨识(BAI)问题。我们设计了一种新颖的随机化算法——概率顺序收缩(uu)(PSS(uu)),其对腐败量未知。当每步腐败量(CPS)低于某一阈值时,PSS(uu) 以趋于 11 的概率辨识出最优臂或物品(当 TT\rightarrow \infty)。否则,所辨识物品的 optimality gap 随 CPS 优雅退化。我们认为这种分岔是必要的。在 PSS(uu) 中,参数 uu 用于平衡 optimality gap 与成功概率。随机化的引入被证明对缓解腐败影响至关重要。为说明这一点,我们设计了两种适用于任意算法的攻击策略。我们将其中之一应用于 PSS(uu) 的确定性类比——Karnin 等人(2013)提出的 Successive Halving(SH)。该攻击策略导致 SH 的高失败概率,而 PSS(uu) 保持稳健。在无腐败时,PSS(22) 的性能保证与 SH 相当。我们证明当 CPS 足够大时,任何算法都无法实现随 TT\rightarrow \infty 趋于 11 的 BAI 概率。数值实验证实了我们的理论发现。

关键词

引用

@article{arxiv.2010.07904,
  title  = {Probabilistic Sequential Shrinking: A Best Arm Identification Algorithm for Stochastic Bandits with Corruptions},
  author = {Zixin Zhong and Wang Chi Cheung and Vincent Y. F. Tan},
  journal= {arXiv preprint arXiv:2010.07904},
  year   = {2021}
}

备注

22 pages, 9 figures