基于蒙特卡洛树搜索的高维贝叶斯优化变量选择
机器学习
2022-11-17 v2 人工智能
摘要
贝叶斯优化（BO）是一类用于昂贵黑盒优化的流行方法，并已广泛应用于许多场景。然而，BO 受到维数灾难的困扰，将其扩展到高维问题仍是一项挑战。在本文中，我们提出了一种基于蒙特卡洛树搜索（MCTS）的变量选择方法 MCTS-VS，以迭代地选择并优化变量的一个子集。即，MCTS-VS 通过 MCTS 构建一个低维子空间，并在该子空间中使用任意 BO 算法进行优化。我们对通用变量选择方法进行了理论分析，以揭示其如何发挥作用。在高维合成函数以及真实世界问题（即 NAS-bench 问题和 MuJoCo 运动任务）上的实验表明，配备合适 BO 优化器的 MCTS-VS 能够达到最先进的性能。
引用
@article{arxiv.2210.01628,
title = {Monte Carlo Tree Search based Variable Selection for High Dimensional Bayesian Optimization},
author = {Lei Song and Ke Xue and Xiaobin Huang and Chao Qian},
journal= {arXiv preprint arXiv:2210.01628},
year = {2022}
}
备注
NeurIPS 2022 accept