LABCAT：基于主成分对齐信任区域的局部自适应贝叶斯优化
机器学习
2024-06-18 v2
摘要
贝叶斯优化（BO）是一种优化昂贵黑盒函数的常用方法。BO 存在若干文献充分记载的缺陷，包括优化过程越长计算越慢、对非平稳或病态目标函数适应性差以及收敛特性不佳。已有若干算法将信任区域等局部策略引入 BO 以缓解这些局限，但均未能令人满意地同时解决所有问题。为克服上述不足，我们提出 LABCAT 算法，其通过添加使信任区域与加权主成分对齐的旋转，以及基于具自动相关性确定的局部高斯过程代理模型长度尺度自适应重缩放策略，扩展了基于信任区域的 BO。借助一组合成测试函数与著名的 COCO 基准软件开展大量数值实验，表明 LABCAT 算法优于多种最先进 BO 及其他黑盒优化算法。
引用
@article{arxiv.2311.11328,
title = {LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions},
author = {E. Visser and C. E. van Daalen and J. C. Schoeman},
journal= {arXiv preprint arXiv:2311.11328},
year = {2024}
}