中文

TREGO:一种高效全局优化的信赖域框架

最优化与控制 2022-04-26 v4 机器学习

摘要

高效全局优化(EGO)是贝叶斯优化的标准形式,已成功应用于求解昂贵黑盒问题的全局优化。然而,EGO难以随维度扩展,且提供的理论保证有限。在这项工作中,提出并分析了EGO的信赖域框架(TREGO)。TREGO在信赖域内交替进行常规EGO步与局部步。通过遵循经典的信赖域方案(基于充分下降条件),所提算法具备全局收敛性质,且仅在部分优化步上偏离EGO。基于著名的COCO{有界约束问题}进行大量数值实验,我们首先分析了TREGO对其自身参数的敏感性,随后表明所得算法一致优于EGO,并与其他最先进的黑盒优化方法具有竞争力。

关键词

引用

@article{arxiv.2101.06808,
  title  = {TREGO: a Trust-Region Framework for Efficient Global Optimization},
  author = {Youssef Diouane and Victor Picheny and Rodolphe Le Riche and Alexandre Scotto Di Perrotolo},
  journal= {arXiv preprint arXiv:2101.06808},
  year   = {2022}
}