奇异缩放 Levenberg-Marquardt 方法在非零残差非线性最小二乘问题上的收敛性分析
数值分析
2025-06-03 v2 数值分析
最优化与控制
摘要
最近，提出了一种具有奇异缩放矩阵的 Levenberg-Marquardt 方法，称为 LMMSS，并成功应用于热传导问题中的参数估计，其中合适的奇异缩放矩阵的选择产生了比经典 Levenberg-Marquardt 更好的近似解质量。在本文中，我们研究了 LMMSS 应用于非零残差非线性最小二乘问题时的收敛性质。我们证明迭代过程的局部收敛性既取决于梯度线性化误差的控制，也取决于正则化参数的合适选择。顺便指出，收敛速率由非线性度和残差大小的度量决定，因此如果该度量足够快地趋于零，则收敛可以是超线性的；否则，一般来说，如果该度量不够小，我们甚至不能期望线性收敛。此外，我们提出了该方法的全局化版本，并证明生成序列的任何极限点都是最小二乘函数的驻点。提供了一些例子来说明我们的理论结果。
引用
@article{arxiv.2408.10370,
title = {Convergence analysis of Levenberg-Marquardt method with Singular Scaling for nonzero residue nonlinear least-squares problems},
author = {Rafaela Filippozzi and Everton Boos and Douglas Soares Gonçalves and Fermin Bazan},
journal= {arXiv preprint arXiv:2408.10370},
year = {2025}
}