关于严格凸二次优化问题中梯度法、共轭梯度法和准Newton法的不完全自适应步长统一框架
最优化与控制
2026-04-23 v1
摘要
共轭梯度法和准Newton法的不完全自适应步长极少见。梯度法、共轭梯度法和准Newton法在严格凸二次优化问题中使用的精确步长已有一个统一框架，而针对梯度法、共轭梯度法和准Newton法在严格凸二次优化问题中使用的不完全自适应步长的统一框架仍未发现。基于上述观察，本文提出了梯度法、共轭梯度法和准Newton法在严格凸二次优化问题中不完全自适应步长的统一框架，称为approximately optimal stepsize。通过探讨approximately optimal stepsize与著名巴兰齐尔-博尔维ン（Barzilai-Borwein, BB）步长之间的关系，建立了梯度法以approximately optimal stepsize的全局收敛性和收敛率。给出一些数值结果，确认了梯度法、共轭梯度法和准Newton法在不完全自适应步长统一框架下的显著数值优势。提出了关于梯度法、共轭梯度法和准Newton法以approximately optimal stepsize的一些开放问题。
引用
@article{arxiv.2604.20506,
title = {A unified framework for inexact adaptive stepsizes in the gradient methods, the conjugate gradient methods and the quasi-Newton methods for strictly convex quadratic optimization},
author = {Zexian Liu},
journal= {arXiv preprint arXiv:2604.20506},
year = {2026}
}