中文

带干扰的线性上下文多臂赌博机

机器学习 2024-09-25 v1 统计方法学

摘要

干扰是因果推断中的一个关键概念,它通过考虑一个单元的动作对其他单元奖励的影响来扩展奖励建模过程。在上下文多臂赌博机(CB)设置中,当同一轮中存在多个单元时,潜在的干扰会显著影响不同臂的期望奖励估计,从而影响决策过程。尽管已有一些工作探索了干扰感知环境下的多智能体和对抗性赌博机,但干扰在CB中的影响及其基础理论仍然研究不足。在本文中,我们引入了一个系统框架来处理线性CB(LinCB)中的干扰问题,弥合了因果推断与在线决策之间的差距。我们提出了一系列算法,这些算法显式量化了奖励建模过程中的干扰效应,并提供了全面的理论保证,包括次线性遗憾界、有限样本上界和渐近性质。我们通过仿真和基于MovieLens数据生成的合成数据证明了我们方法的有效性。

关键词

引用

@article{arxiv.2409.15682,
  title  = {Linear Contextual Bandits with Interference},
  author = {Yang Xu and Wenbin Lu and Rui Song},
  journal= {arXiv preprint arXiv:2409.15682},
  year   = {2024}
}