多元 Lipschitz 连续函数的高效极小极大最优全局优化
机器学习
2022-06-07 v1 计算复杂性
最优化与控制
机器学习
摘要
在这项工作中，我们提出了一种针对多元 Lipschitz 连续函数的高效极小极大最优全局优化算法。为了评估我们方法的性能，我们采用平均后悔值而非传统的简单后悔值，正如我们所展示的，由于问题本身固有的困难性，简单后悔值不适合用于多元非凸优化。由于我们研究的是算法的平均后悔值，我们的结果也直接给出了简单后悔值的界。与构造下界代理函数不同，我们的方法采用预定的查询生成规则，这使得其在计算上优于 Piyavskii-Shubert 的变体。我们证明了我们的算法在时限 T 内对 n 维 L-Lipschitz 连续目标函数的优化达到了 O(L√n T^{-1/n}) 的平均后悔值界，并且我们证明该界是极小极大最优的。
引用
@article{arxiv.2206.02383,
title = {Efficient Minimax Optimal Global Optimization of Lipschitz Continuous Multivariate Functions},
author = {Kaan Gokcesu and Hakan Gokcesu},
journal= {arXiv preprint arXiv:2206.02383},
year = {2022}
}