MINRES：从负曲率检测到单调性性质

共轭梯度法（CG）长期以来一直是大规模非凸优化二阶算法内迭代的主力工具。典型例子包括基于线搜索的算法（如 Newton-CG）以及基于信赖域框架的算法（如 CG-Steihaug）。这主要归功于 CG 的若干优良性质，包括某些单调性性质及其内在检测负曲率方向的能力，而负曲率方向在非凸优化中可能出现。尽管对于实对称但可能不定的矩阵，迭代方法的首选无疑是著名的最小残差（MINRES）法。然而，对此类设定下 MINRES 所隐含的类似性质理解有限，限制了其在非凸优化算法中的适用性。我们建立了 MINRES 的若干此类非平凡性质，包括某些有用的单调性以及内在检测负曲率方向的能力。这些性质使得 MINRES 可作为 CG 的潜在更优替代方案，用于所有以 CG 作为子问题求解器的牛顿型非凸优化算法。