贪婪牛顿法：带精确线搜索的牛顿法
最优化与控制
2025-09-19 v2
摘要
牛顿法的一个决定性特征是在严格局部极小值的邻域内具有局部超线性收敛性。然而，在该邻域之外，牛顿法可能收敛缓慢甚至发散。处理不收敛问题的常见方法是使用由 Armijo 回溯线搜索设定的步长。在合适的初始化下，线搜索能保持局部超线性收敛性，但在远离解时可能进展不佳。本工作研究了精确线搜索下的牛顿法，我们称之为“贪婪牛顿法”（GN）。我们证明，这能在保留局部超线性收敛速率的同时，提升全局收敛速率。我们通过实验表明，GN 因允许显著更大的步长，可能比回溯牛顿法表现更好。
引用
@article{arxiv.2401.06809,
title = {Greedy Newton: Newton's Method with Exact Line Search},
author = {Betty Shea and Mark Schmidt},
journal= {arXiv preprint arXiv:2401.06809},
year = {2025}
}