一种更直接且更优的求解 m 个方程 m 个变量的新 Q-牛顿回溯法变体

本文将新 Q-牛顿法的思想直接应用于方程组，利用了代价函数 $f=||F||^2$ 的特性，其中 $F=(f_1,\ldots ,f_m)$。本文提出的第一个算法是 Levenberg-Marquardt 算法的一种改进，我们证明了关于全局收敛性和避开鞍点的一些新结果。本文提出的第二个算法是新 Q-牛顿回溯法的一种改进，其中我们使用算子 $\nabla ^2f(x)+\delta ||F(x)||^{\tau}$ 代替 $\nabla ^2f(x)+\delta ||\nabla f(x)||^{\tau}$。这个新版本比新 Q-牛顿回溯法本身更适用，同时目前比 Levenberg-Marquardt 算法具有更好的避开鞍点保证。此外，本文还提出了一个用于求解方程组的二阶方法通用框架。我们还将讨论一种方法，以避免所构造序列的极限是 $H(x)^{\intercal}F(x)=0$ 的解而非 $F(x)=0$ 的解。