带位移聚合的修正有限内存 BFGS 方法及其在最大特征值问题中的应用
最优化与控制
2025-04-07 v3
摘要
我们提出了一种带位移聚合的修正有限内存 BFGS 方法（AggMBFGS），用于求解非凸优化问题。AggMBFGS 通过移除线性相关的变量变化来精化曲率对更新，确保逆 Hessian 近似保留关键的曲率性质。因此，其每次迭代的复杂度和存储需求为 ，其中 表示内存大小， 为问题维度。我们在回溯修正 Armijo 线搜索（MALS）下建立了 M-LBFGS 和 AggMBFGS 的全局收敛性，并证明了 AggMBFGS 的局部超线性收敛性，展示了其相对于采用经典 Armijo 线搜索的 M-LBFGS~\cite{Shi2016ALM} 的理论优势。在 CUTEst 测试问题~\cite{gould2015cutest} 上的数值实验证实，AggMBFGS 在减少迭代次数和函数评估次数方面优于 M-LBFGS。此外，我们将 AggMBFGS 应用于计算高维实对称正定矩阵的最大特征值，在保持计算效率的同时，取得了比 M-LBFGS~\cite{Shi2016ALM} 更低的相对误差。这些结果表明，AggMBFGS 是大规模非凸优化和特征值计算中一个有前景的替代方案。
引用
@article{arxiv.2301.05447,
title = {Modified limited memory BFGS with displacement aggregation and its application to the largest eigenvalue problem},
author = {Manish Kumar Sahu and Suvendu Ranjan Pattanaik},
journal= {arXiv preprint arXiv:2301.05447},
year = {2025}
}