高维贝叶斯优化的期望坐标改进
机器学习
2025-01-13 v2 人工智能
机器学习
摘要
贝叶斯优化（BO）算法在解决低维昂贵优化问题中非常流行。将贝叶斯优化扩展到高维是一项有意义但具有挑战性的任务。主要挑战之一是由于采集函数也是高维的，难以找到良好的填充解。在这项工作中，我们提出了高维贝叶斯优化的期望坐标改进（ECI）准则。所提出的ECI准则衡量通过沿一个坐标移动当前最优解所能获得的潜在改进。该方法在每次迭代中选择具有最高ECI值的坐标进行细化，并通过在坐标上迭代逐步覆盖所有坐标。所提出的ECI-BO（基于期望坐标改进的贝叶斯优化）算法相对于标准BO算法的最大优势在于，其填充选择问题始终是一维问题，因此易于求解。数值实验表明，所提出的算法能够取得显著优于标准BO算法的结果，并且与五种最先进的高维BO算法相比具有竞争力。这项工作为高维贝叶斯优化提供了一种简单而高效的方法。
引用
@article{arxiv.2404.11917,
title = {Expected Coordinate Improvement for High-Dimensional Bayesian Optimization},
author = {Dawei Zhan},
journal= {arXiv preprint arXiv:2404.11917},
year = {2025}
}