中文

线性多臂老板问题的索引最小经验散度算法

机器学习 2024-05-27 v1 信息论 math.IT

摘要

索引最小经验散度(IMED)算法是一种高度有效的方法,相较于克鲁巴-莱布尔上置信界(KL-UCB)算法,能够提供更强的渐近最优性保证。此外,还观察到IMED在实际表现上超越了基于UCB的方法和Thompson抽样。尽管IMED效果显著,但其向具有线性回报的情境老板问题的推广仍未实现。本文提出了IMED算法的线性版本,称为LinIMED算法族。我们证明LinIMED提供了O~(dT)\widetilde{O}(d\sqrt{T})的上 regret界,其中$d`为上下文维数,`T`为时间范围。进一步,通过大量实验研究表明,LinIMED及其变体在某些情境下超越了广泛使用的线性老板算法,如LinUCB和线性Thompson抽样。

关键词

引用

@article{arxiv.2405.15200,
  title  = {Indexed Minimum Empirical Divergence-Based Algorithms for Linear Bandits},
  author = {Jie Bian and Vincent Y. F. Tan},
  journal= {arXiv preprint arXiv:2405.15200},
  year   = {2024}
}

备注

Accepted to the Transactions on Machine Learning Research (TMLR)