一种用于贝叶斯优化的 Lipschitz 探索-利用方案
机器学习
2013-07-17 v2 机器学习
摘要
在贝叶斯优化的背景下，优化未知的、评估成本高昂的函数这一问题已被研究了很长时间。该领域的算法旨在通过仅基于后验模型精心选择的位置进行少量函数评估，来寻找函数的优化器。在本文中，我们假设未知函数是 Lipschitz 连续的。利用 Lipschitz 性质，我们提出了一种算法，该算法具有一个独立的探索阶段，随后是一个利用阶段。探索阶段旨在选择能够尽可能缩小搜索空间的样本。利用阶段则聚焦于缩小后的搜索空间，并选择最接近优化器的样本。我们将 Expected Improvement (EI) 作为基线，实证表明所提出的算法显著优于 EI。
引用
@article{arxiv.1204.0047,
title = {A Lipschitz Exploration-Exploitation Scheme for Bayesian Optimization},
author = {Ali Jalali and Javad Azimi and Xiaoli Fern and Ruofei Zhang},
journal= {arXiv preprint arXiv:1204.0047},
year = {2013}
}
备注
ECML 2013