高维贝叶斯优化的自适应候选点 Thompson 采样
机器学习
2026-04-13 v1
摘要
在贝叶斯优化中，Thompson 采样通过从目标函数最大化量的后验分布中进行采样来选择评估点。由于该采样问题对高斯过程 (GP) 代理模型不可实现，后验分布通常被限制为固定离散化（即候选点），随维度增加而变得指数稀疏。虽然先前工作致力于通过可扩展 GP 近似方法增加候选点密度，但我们的正交方法通过在采样期间适应性地缩小搜索空间来增加密度。具体而言，我们引入自适应候选 Thompson 采样 (ACTS)，该方法依据代理模型样本的梯度在子空间中生成候选点。ACTS 是现有 TS 方法的简单替代方案——包括使用信任区域或其他局部近似的方法——能够产生更好的最大化样本并在合成和真实世界基准测试中实现更好的优化。
关键词
引用
@article{arxiv.2604.08891,
title = {Adaptive Candidate Point Thompson Sampling for High-Dimensional Bayesian Optimization},
author = {Donney Fan and Geoff Pleiss},
journal= {arXiv preprint arXiv:2604.08891},
year = {2026}
}
备注
AISTATS 2026