利用梯度方向实现牛顿型方法的全局收敛
最优化与控制
2020-06-24 v2 数值分析
数值分析
摘要
在 Barzilai 与 Borwein [IMA Journal of Numerical Analysis, 8 (1988)] 的工作之后,对最速下降(SD)方法重新燃起的兴趣促使我们考虑一种基于 SD 的全局化策略,该策略适用于任意线搜索方法。具体而言,我们将牛顿型方向与缩放后的 SD 步长相结合,以获得合适的下降方向。以合适的步长对 SD 方向进行缩放,相较于类似的全局化方法,无论在理论特性还是计算表现上都有显著差异。我们将该策略应用于牛顿法与 BFGS 方法,计算结果表明其与针对这些方法专门设计的成熟全局化策略相比颇具吸引力。
引用
@article{arxiv.2004.00968,
title = {Using gradient directions to get global convergence of Newton-type methods},
author = {Daniela di Serafino and Gerardo Toraldo and Marco Viola},
journal= {arXiv preprint arXiv:2004.00968},
year = {2020}
}
备注
22 pages, 11 Figures