关于两种扩展BB类步长的收敛性与稳定性

Barzilai-Borwein（BB）步长对梯度下降方法有着深远的影响。在这项工作中，我们提出了两种新的梯度步长：一种比原始长BB步长更长，另一种比原始短BB步长更短。这扩展了原始BB步长的界限。对于严格凸二次优化问题，我们利用差分方程的动力学证明了这两种新方法实现R线性收敛。关于稳定性，我们惊讶地发现，在某些条件下，对应于较长步长的梯度下降方法是稳定的，而较短的步长始终导致不稳定。数值结果验证了这些稳定性理论。这里，稳定性指的是梯度范数是否单调递减。