中文

CRIMED:具有无界随机腐败的多臂老虎机后悔值的上下界

机器学习 2023-09-29 v1 机器学习

摘要

我们研究在具有任意腐败的多臂老虎机设定中的后悔最小化问题。与经典设定类似,智能体在每时刻独立接收来自所选臂分布生成的奖励。然而,这些奖励并非被直接观测。相反,以固定的 ε(0,12)\varepsilon\in (0,\frac{1}{2}),智能体以概率 1ε1-\varepsilon 观测到来自所选臂分布的样本,或以概率 ε\varepsilon 观测到来自由任意腐败分布的样本。重要的是,我们对这些腐败分布不施加任何假设,它们可以是无界的。在此设定下,为容纳潜在的无界腐败,我们建立了针对给定臂分布族的后悔值的问题相关下界。我们引入了 CRIMED,一种渐近最优算法,对具有已知方差高斯分布的老虎机达到了确切的后悔值下界。此外,我们提供了 CRIMED 后悔值表现的有限样本分析。值得注意的是,CRIMED 可有效处理 ε\varepsilon 值高达 12\frac{1}{2} 的腐败。进一步,我们发展了在任意腐败存在下、即便 ε\varepsilon 值高达 12\frac{1}{2} 时中位数的紧集中结果,这本身可能具有独立意义。我们还讨论了该算法在处理高斯模型误设定方面的扩展。

关键词

引用

@article{arxiv.2309.16563,
  title  = {CRIMED: Lower and Upper Bounds on Regret for Bandits with Unbounded Stochastic Corruption},
  author = {Shubhada Agrawal and Timothée Mathieu and Debabrota Basu and Odalric-Ambrym Maillard},
  journal= {arXiv preprint arXiv:2309.16563},
  year   = {2023}
}

备注

50 pages; 4 figures