低秩矩阵逼近的新型扰动界限：超越Eckart-Young-Mirsky

设 $A$ 为 $m \times n$ 矩阵，秩为 $r$，其谱分解为 $A = \sum_{i=1}^r \sigma_i u_i v_i^\top,$，其中 $\sigma_i$ 为其奇异值，按递减顺序排列，$u_i, v_i$ 为对应的左、右奇异向量。对于参数 $1 \le p \le r$，$A_p := \sum_{i=1}^p \sigma_i u_i v_i^\top$ 为 $A$ 的最优秩 $p$ 逼近。在实际应用中，通常选择 $p$ 较小，导致“低秩逼近”这一常见说法。低秩逼近在数据科学中占据核心位置，因为它可以显著降低原始数据的维数，即矩阵 $A$。对于大型数据矩阵 $A$，通常计算其秩-$p$ 逼近 $A_p$ 以选择合适的小 $p$，存储 $A_p$，并用作后续计算的输入。$A_p$ 的降低维度使得计算更快，数据压缩显著。实际中不可避免地存在噪声。我们常只能获得噪声数据 $\tilde A = A + E$，其中 $E$ 表示噪声。因此，许多下游任务中使用的低秩逼近是 $\tilde A_p$，即 $\tilde A$ 的最优秩 $p$ 逼近，而非 $A_p$。因此，估计误差 $\| \tilde A_p - A_p \|$ 自然而且重要，用于估计涉及噪声输入低秩逼近的任何过程输出的准确性。在本文中，我们发展了一种新方法（基于轮廓分析）来界定 $\| \tilde A_p - A_p \|$。通过该方法，我们可以利用衡量噪声矩阵 $E$ 与矩阵 $A$ 奇异向量之间偏斜程度的新参数，避免传统方法中使用的最坏情况分析。在许多情境下，我们比使用Eckart-Young-Mirsky 定理或Davis-Kahan 定理的经典方法取得显著的定量改进。