非线性最小二乘问题的新型预条件梯度下降方法与向量外推技术组合

向量外推方法在大规模仿真研究中广泛应用，许多基于外推的加速技术都开发出来用于增强线性和非线性固定点迭代方法的收敛性。虽然经典外推策略常常减少迭代次数或计算成本，但并不一定显著提高计算近似值的精度。本文研究了将预条件梯度基方法与外推策略相结合，提出了一种外推加速框架，同时提高收敛速度和近似精度。本文的重点是通过将向量外推技术与预条件梯度下降方法集成来求解非线性最小二乘问题。开展了一系列详实的数值实验，以研究多项式类型的外推方法和向量ε-algorithm在与梯度下降方案耦合时的行为，分别有和没有预条件。结果表明，外推技术对收敛速度和解的精度都有显著影响，并报告了迭代次数、计算时间和相对重构误差。通过对高斯-牛顿方法(基于广义 Krylov子空间)的基准测试研究进一步评估了所提出混合方法的性能。