中文

具有概率触发臂的混合组合多臂老虎机

机器学习 2025-12-29 v1

摘要

具有概率触发臂的组合多臂老虎机问题(CMAB-T)已被广泛研究。先前的工作主要集中在智能体通过迭代交互学习未知环境的在线设置,或仅从日志数据中学习策略的离线设置。然而,这些范式各自具有固有的局限性:在线算法面临高交互成本和适应缓慢的问题,而离线方法则受限于数据集质量且缺乏探索能力。为了解决这些互补的弱点,我们提出了混合 CMAB-T,这是一个以原则性方式将离线数据与在线交互相结合的新框架。我们提出的混合 CUCB 算法利用离线数据指导探索并加速收敛,同时策略性地引入在线交互,以缓解离线数据集覆盖不足或分布偏差的问题。我们提供了算法遗憾界(regret)的理论保证,证明了当有高质量的离线数据可用时,混合 CUCB 显著优于纯在线方法;而当数据有限或不匹配时,它能有效纠正纯离线方法中固有的偏差。实验结果进一步证明了我们算法的持续优势。

关键词

引用

@article{arxiv.2512.21925,
  title  = {Hybrid Combinatorial Multi-armed Bandits with Probabilistically Triggered Arms},
  author = {Kongchang Zhou and Tingyu Zhang and Wei Chen and Fang Kong},
  journal= {arXiv preprint arXiv:2512.21925},
  year   = {2025}
}