Thompson采样在组合半赌博机中的统计效率
机器学习
2021-01-05 v2 机器学习
摘要
我们研究具有半赌博机反馈(CMAB)的随机组合多臂赌博机。在CMAB中,对于许多分布族(包括相互独立结果,以及更一般的多元亚高斯族),是否存在具有最优渐近遗憾(直至与动作规模成多对数因子的程度)的高效策略仍属开放问题。我们提议通过分析组合Thompson采样策略(CTS)的变体来回答上述两个分布族的问题。对于[0,1]中的相互独立结果,我们提出使用Beta先验对CTS进行紧致分析。随后我们考察更一般的多元亚高斯结果设定,并提出使用高斯先验对CTS进行紧致分析。这最后一个结果为我们提供了组合赌博机高效采样策略(ESCB)的一种替代方案,后者虽最优,但计算效率不高。
引用
@article{arxiv.2006.06613,
title = {Statistical Efficiency of Thompson Sampling for Combinatorial Semi-Bandits},
author = {Pierre Perrault and Etienne Boursier and Vianney Perchet and Michal Valko},
journal= {arXiv preprint arXiv:2006.06613},
year = {2021}
}
备注
accepted to NeurIPS 2020