超越最坏情况条件数的最优对角预处理：Omega缩放的理论与实践

我们研究使用经典的最坏情况 $\kappa$-条件数和基于平均的 $\omega$-条件数的最优对角预处理。对于 $\kappa$-最优预处理问题，我们推导了一个基于仿射的伪凸重构，具有三个关键优势：所有驻点均为全局极小值，次梯度易于计算，优化变量是一个 $n$ 维向量而非半定规划（SDP）方法中的 $n \times n$ 矩阵。我们开发了一种简单且高效的次梯度方法，具有收敛保证，用于求解此伪凸表述，其可扩展性和准确度均显著优于现有的SDP方法。对于 $\omega$-条件数，我们提供了最优对角和块对角预处理器的显式刻画。特别地，我们证明若干经典预处理器（包括Jacobi和行/列归一化）是 $\omega$-最优的，且矩阵平衡方案单调递减 $\omega$ 并收敛到双向问题的驻点。据我们所知，这是首次对 $\kappa$ 和 $\omega$ 两种预处理的最优性条件进行统一且显式的刻画。我们的数值实验进一步揭示了一个显著现象：尽管 $\kappa$-最优预处理器在最坏情况条件数上实现了更强的缩减，$\omega$-最优预处理器计算成本要低得多，并且为预处理共轭梯度（PCG）和最小二乘法（LSQR）等迭代方法带来了更好的性能。此外，将 $\omega$-最优缩放应用于已经 $\kappa$-最优预处理的线性系统可进一步改善PCG迭代次数。