快速精确的Thompson抽样:贝叶斯优化
机器学习
2024-12-02 v2 机器学习
摘要
Thompson抽样(TS)在多臂老虎机问题中具有最优报酬并表现出色的经验性能。然而,在贝叶斯优化中,TS的表现不如EI、UCB等流行的获取函数。TS根据各臂最优的概率进行抽样。最近一种算法P-Star抽样器(PSS)通过Hit-and-Run实现此类抽样。我们提出了改进版Stagger抽样器(STS)。STS在计算时间更少的情况下比TS更精确地定位最大化值。我们在多个测试函数上的数值实验中表明,STS在维度范围广的优化问题中优于TS、PSS以及其他获取方法。此外,由于PSS最初不是作为独立的获取方法而提出的,而是作为称为最小终端方差(MTV)的批量算法的输入,我们还展示了STS在用作MTV的输入时与PSS性能相当。
引用
@article{arxiv.2411.17071,
title = {Fast, Precise Thompson Sampling for Bayesian Optimization},
author = {David Sweet},
journal= {arXiv preprint arXiv:2411.17071},
year = {2024}
}
备注
NeurIPS 2024 Workshop on Bayesian Decision-making and Uncertainty; Poster