中文

随机多臂老虎机中多个优良臂的 PAC 辨识

机器学习 2019-01-25 v1 机器学习

摘要

我们考虑在 nn 臂随机多臂老虎机中辨识最优 mm 个臂中任意 kk 个臂的问题。在 PAC 设定下,这一特定问题推广了“最优子集选择”问题和选择“最优 m 个中一个”臂的问题 [arcsk 2017]。在众包和药物设计等应用中,仅辨识单一良好解通常是不够的。此外,由于存在许多难以区分的相近解,寻找最优子集可能很困难。我们推广为辨识最优 mm 个中恰好 kk 个臂(1km1 \leq k \leq m),是一种更有效的替代方案。我们给出了一般 kk 下最坏情况样本复杂度的下界,以及一种完全序贯的 PAC 算法 \GLUCB,该算法在简单实例上更具样本效率。此外,将分析推广到无限臂老虎机,我们提出了一种与 nn 无关的 PAC 算法,它使用至多比下界多一个多对数(poly-log)数量的样本,从最优 ρ\rho 比例的臂中辨识出一个臂,从而改进了 [arcsk 2017] 和 [Aziz+AKA:2018]。辨识最优 ρ\rho 比例中 k>1k > 1 个不同臂的问题并非总是良定义的;针对该问题的一个特殊类别,我们给出了下界和上界。最后,通过一种归约,我们建立了无限实例的“最优 ρ\rho 比例中一个”问题的上界与有限实例的“最优 mm 个中一个”问题的上界之间的关系。我们推测,用后一种公式求解“小”有限实例比经由前一种公式更高效。

关键词

引用

@article{arxiv.1901.08386,
  title  = {PAC Identification of Many Good Arms in Stochastic Multi-Armed Bandits},
  author = {Arghya Roy Chaudhuri and Shivaram Kalyanakrishnan},
  journal= {arXiv preprint arXiv:1901.08386},
  year   = {2019}
}