中文

LAGO:结合信任域方法与贝叶斯优化的局部-全局优化框架

机器学习 2026-03-04 v1 最优化与控制

摘要

我们介绍LAGO,这是一种LocAl-Global Optimization算法,将梯度增强的贝叶斯优化(BO)与梯度基于信任域的局部细化结合,通过自适应竞争机制。每一步迭代中,全局和局部优化策略独立提出候选点,根据预测改进选择下一个评估。LAGO在提案层面将全局探索与局部细化分离:BO获取函数在活动信任域之外进行优化,而当局部函数和梯度评估满足基于尺度的最小距离准则时,这些评估仅仅被纳入全局梯度增强高斯过程,从而减少局部开发期间的数值不稳定风险。这使得在到达有前景的区域时能够实现有效的局部细化,而不牺牲整个设计空间的全局搜索。因此,该方法在光滑函数上实现了相对于标准非线性局部优化算法的更好设计空间探索,同时保持在感兴趣区域的快速局部收敛。

关键词

引用

@article{arxiv.2603.02970,
  title  = {LAGO: A Local-Global Optimization Framework Combining Trust Region Methods and Bayesian Optimization},
  author = {Eliott Van Dieren and Tommaso Vanzan and Fabio Nobile},
  journal= {arXiv preprint arXiv:2603.02970},
  year   = {2026}
}

备注

22 pages, 8 figures