中文

以图触发连接休止与不休止老虎机:上升与衰退

机器学习 2024-09-11 v1 机器学习

摘要

休止老虎机与不休止老虎机是两种著名的老虎机设定,可用于模拟现实世界中的序列决策问题,其中臂的期望奖励会因我们采取的行动或自然演化而随时间变化。在这项工作中,我们提出了图触发老虎机(GTBs),这是一个统一框架,用于推广和扩展休止与不休止老虎机。在此设定中,臂的期望奖励演化由一个定义在臂上的图所控制。连接一对臂 (i,j)(i,j) 的边表示拉动臂 ii 会触发臂 jj 的演化,反之亦然。有趣的是,对于某些合适的(退化)图,休止与不休止老虎机都是我们模型的特殊情形。作为此设定的相关案例研究,我们聚焦于两种特定类型的单调老虎机:上升型,即臂的期望收益随触发次数增加而增长;以及衰退型,即出现相反的行为。针对这些情形,我们研究了最优策略。我们为所有场景提供了合适的算法,并讨论了它们的理论保证,强调了学习问题相对于实例依赖项的复杂性,这些项编码了底层图结构的特定属性。

关键词

引用

@article{arxiv.2409.05980,
  title  = {Bridging Rested and Restless Bandits with Graph-Triggering: Rising and Rotting},
  author = {Gianmarco Genalti and Marco Mussi and Nicola Gatti and Marcello Restelli and Matteo Castiglioni and Alberto Maria Metelli},
  journal= {arXiv preprint arXiv:2409.05980},
  year   = {2024}
}