非线性最小二乘的变维度素描策略
最优化与控制
2025-06-05 v1
摘要
我们提出了一种用于求解非线性最小二乘问题的随机不精确Gauss-Newton方法。为降低与经典方法相比的计算成本，所提出的算法在每次迭代中在一个随机子空间上近似最小化局部模型。子空间的维度沿迭代变化，并考虑了两种更新策略：第一种仅基于Armijo条件，后者基于真实Gauss-Newton模型的信息。在对目标函数和随机子空间做出适当假设的条件下，我们证明了将梯度范数降至任意给定阈值以下所需迭代次数的概率界。此外，我们提供了该方法局部行为的理论分析。数值实验证明了所提出方法的有效性。
引用
@article{arxiv.2506.03965,
title = {A variable dimension sketching strategy for nonlinear least-squares},
author = {Stefania Bellavia and Greta Malaspina and Benedetta Morini},
journal= {arXiv preprint arXiv:2506.03965},
year = {2025}
}