无线性搜索的 BFGS 显式全局收敛速率
最优化与控制
2025-09-29 v1
摘要
本文研究了无线性搜索的 Broyden--Fletcher--Goldfarb--Shanno (BFGS) 方法的收敛速率。我们证明了带有自适应步长 [Gao and Goldfarb, Optimization Methods and Software, 34(1):194-217, 2019] 的 BFGS 方法在最小化强凸函数时表现出两阶段非渐近全局收敛行为，即第一阶段具有 的线性收敛速率，第二阶段具有 的超线性收敛速率，其中 为迭代计数器， 为条件数。相比之下，现有分析仅建立了渐近结果。此外，我们提出了一种新颖的无线性搜索的自适应 BFGS 方法，通过将梯度 Lipschitz 连续性纳入算法设计来允许更大的步长。我们证明，当初始点远离最优解时，我们的方法能实现更快的收敛。
引用
@article{arxiv.2509.22508,
title = {Explicit Global Convergence Rates of BFGS without Line Search},
author = {Jianjiang Yu and Weiguo Gao and Luo Luo},
journal= {arXiv preprint arXiv:2509.22508},
year = {2025}
}