一种利用二维二次终止性质的梯度方法

二次终止性质对梯度方法的效率十分重要。我们考虑为一类步长由两个范数之比给出的梯度方法赋予二维二次终止性质。这一期望性质通过与一个新步长相配合而实现，该新步长由最大化所考虑方法族在下一步迭代中的步长导出。证明了该方法族中的每种方法将渐近地在由对应于最大和最小特征值的特征向量所张成的二维子空间中交替。基于这一渐近行为，我们证明新步长收敛到 Hessian 矩阵最大特征值的倒数。此外，通过自适应地采用长 Barzilai--Borwein 步长并延迟复用新步长，我们提出了一种用于无约束二次优化的高效梯度方法。我们证明该新方法以 $1-1/\kappa$ 的速率 $R$-线性收敛，其中 $\kappa$ 为 Hessian 矩阵的条件数。数值实验显示了我们所提方法的效率。