利普希茨函数的全局优化
机器学习
2017-06-19 v3
摘要
本文的目标是设计序贯策略,在仅假设未知函数具有有限利普希茨常数的前提下,实现其高效优化。我们首先确定了通用序贯算法一致性的充分条件,并阐述了其性能的期望极大极小率。我们引入并分析了一种称为LIPO的首个算法,其假设利普希茨常数已知。证明了LIPO的一致性、极大极小率,以及在附加类赫尔德条件下的快速率。还引入了LIPO的自适应版本,用于利普希茨常数未知且需与优化一同估计的更实际设置。证明了自适应LIPO算法具有类似的理论保证,并在文末提供了数值评估,以针对全局优化典型基准问题展示该策略相对于最先进方法的潜力。
引用
@article{arxiv.1703.02628,
title = {Global optimization of Lipschitz functions},
author = {Cédric Malherbe and Nicolas Vayatis},
journal= {arXiv preprint arXiv:1703.02628},
year = {2017}
}