精炼非凸优化方法的渐近复杂度界,包括为何最速下降是 $o(\epsilon^{-2})$ 而非 $\mathcal{O}(\epsilon^{-2})$
最优化与控制
2024-08-20 v1 计算复杂性
摘要
我们重新审视了在分析光滑非凸优化算法评估复杂度最后步骤中普遍存在的标准“伸缩和”论证,并获得了作为请求精度 的函数的最终界的精炼公式。虽然使用标准论证得到的界通常具有 的形式(对于某个正数 ),但精炼结果是 的形式。我们随后探讨了我们的精炼界限适用于哪些已知算法,并最后描述了一个示例,展示了标准界和精炼界可以有多接近。
引用
@article{arxiv.2408.09124,
title = {Refining asymptotic complexity bounds for nonconvex optimization methods, including why steepest descent is $o(\epsilon^{-2})$ rather than $\mathcal{O}(\epsilon^{-2})$},
author = {Serge Gratton and Chee-Khian Sim and Philippe L. Toint},
journal= {arXiv preprint arXiv:2408.09124},
year = {2024}
}
备注
10 ages, 1 figure