中文

组合_bandits 的简单组合算法:腐败与近似

机器学习 2021-06-15 v1

摘要

我们考虑具有对抗性腐败的随机组合半_bandit 问题。我们提供一种简单的组合算法,可实现 O~(C+d2K/Δmin)\tilde{O}\left(C+d^2K/\Delta_{min}\right) 的悔值,其中 CC 为腐败总量,dd 为每轮可拉动的最大臂数,KK 为臂数。若每轮仅选择一个臂,我们实现 O~(C+Δi>0(1/Δi))\tilde{O}\left(C+\sum_{\Delta_i>0}(1/\Delta_i)\right) 的悔值。我们的算法是组合式的,改进了 [Gupta et al., COLT2019] 先前的组合算法(其界为 O~(KC+Δi>0(1/Δi))\tilde{O}\left(KC+\sum_{\Delta_i>0}(1/\Delta_i)\right)),并几乎匹配 [Zimmert et al., ICML2019] 与 [Zimmert and Seldin, AISTATS2019] 所得最佳已知界(相差对数因子)。注意 [Zimmert et al., ICML2019] 与 [Zimmert and Seldin, AISTATS2019] 中的算法需要求解复杂凸规划,而我们的算法是组合式的、极易实现、所需假设更弱且具极低的预言复杂度和运行时间。我们还研究了仅能访问随机组合半_bandit 问题近似预言机的设定。我们的算法实现了 O~(dKT)\tilde{O}\left(d\sqrt{KT}\right) 的(近似)悔值界。我们的算法非常简单,仅比最佳已知悔值界差 d\sqrt{d},且比先前工作具有低得多的预言复杂度。

关键词

引用

@article{arxiv.2106.06712,
  title  = {Simple Combinatorial Algorithms for Combinatorial Bandits: Corruptions and Approximations},
  author = {Haike Xu and Jian Li},
  journal= {arXiv preprint arXiv:2106.06712},
  year   = {2021}
}