论正则化 Barzilai-Borwein 方法的收敛性
最优化与控制
2025-12-29 v1
摘要
正则化 Barzilai-Borwein（RBB）方法是一种很有前途的基于梯度的优化算法。在本文中，通过将梯度分成两部分并分析控制其大小比率的差分方程动力系统，我们证明了 RBB 方法对任意维度的强凸二次函数均实现 R-线性收敛。具体而言，对于二维情况，我们提供了一个简洁的证明，表明该方法至少具有 R-线性收敛性。我们提出了一种简单而有效的自适应正则化参数方案，以进一步提高其性能。一个典型的数值例子验证了该方案的有效性。
引用
@article{arxiv.2512.21972,
title = {On Convergence of Regularized Barzilai-Borwein Method},
author = {Xin Xu},
journal= {arXiv preprint arXiv:2512.21972},
year = {2025}
}
备注
17 pages, 3 figures