面向贝叶斯优化的鲁棒期望改进
机器学习
2023-08-16 v2 统计方法学
摘要
贝叶斯优化（BO）将高斯过程（GP）代理模型与序贯设计相结合，以优化评估代价高昂的黑盒函数。典型的设计启发式方法，即所谓的采集函数，如期望改进（EI），在探索与利用间取得平衡，从而在严苛的评估预算下给出全局解。然而，在求解鲁棒极值（即偏好位于更宽吸引域中的解）时它们表现不足。当输入被不精确地指定，或需要一系列解时，鲁棒解是有用的。此类情形下常见的数学规划技术涉及对抗性目标，使局部求解器偏离“尖锐”的谷底。在此我们提出一种称为鲁棒期望改进（REI）的代理建模与主动学习技术，将对抗性方法引入 BO/GP 框架。在描述方法后，我们在基准合成练习与不同复杂度的实际问题上进行了说明，并与若干竞争方法作了比较。
引用
@article{arxiv.2302.08612,
title = {Robust expected improvement for Bayesian optimization},
author = {Ryan B. Christianson and Robert B. Gramacy},
journal= {arXiv preprint arXiv:2302.08612},
year = {2023}
}
备注
27 pages, 17 figures, 1 table