随机多臂老虎机中多个优良臂的 PAC 辨识
机器学习
2019-01-25 v1 机器学习
摘要
我们考虑在 臂随机多臂老虎机中辨识最优 个臂中任意 个臂的问题。在 PAC 设定下,这一特定问题推广了“最优子集选择”问题和选择“最优 m 个中一个”臂的问题 [arcsk 2017]。在众包和药物设计等应用中,仅辨识单一良好解通常是不够的。此外,由于存在许多难以区分的相近解,寻找最优子集可能很困难。我们推广为辨识最优 个中恰好 个臂(),是一种更有效的替代方案。我们给出了一般 下最坏情况样本复杂度的下界,以及一种完全序贯的 PAC 算法 \GLUCB,该算法在简单实例上更具样本效率。此外,将分析推广到无限臂老虎机,我们提出了一种与 无关的 PAC 算法,它使用至多比下界多一个多对数(poly-log)数量的样本,从最优 比例的臂中辨识出一个臂,从而改进了 [arcsk 2017] 和 [Aziz+AKA:2018]。辨识最优 比例中 个不同臂的问题并非总是良定义的;针对该问题的一个特殊类别,我们给出了下界和上界。最后,通过一种归约,我们建立了无限实例的“最优 比例中一个”问题的上界与有限实例的“最优 个中一个”问题的上界之间的关系。我们推测,用后一种公式求解“小”有限实例比经由前一种公式更高效。
引用
@article{arxiv.1901.08386,
title = {PAC Identification of Many Good Arms in Stochastic Multi-Armed Bandits},
author = {Arghya Roy Chaudhuri and Shivaram Kalyanakrishnan},
journal= {arXiv preprint arXiv:1901.08386},
year = {2019}
}