低秩近似的谱扰动界限及其在隐私保护中的应用

机器学习中核心挑战之一是理解噪声或测量误差如何影响低秩近似，尤其是在谱范数上。这一问题在差分隐私低秩近似中尤为重要，旨在保持数据导出矩阵的前 $p$ 结构，同时确保隐私。以往工作常分析 Frobenius 范数误差或重构质量变化，但这些指标可能高估或低估真实的子空间失真。谱范数则能捕捉最坏情况的方向性误差，提供最强的效用保证。我们在对称矩阵上建立新的高概率谱范数扰动界限，细化经典的 Eckart-Young-Mirsky 定理，并显式捕捉矩阵 $A \in \mathbb{R}^{n \times n}$ 与任意对称扰动 $E$ 之间的相互作用。在适当的特征间隙和范数条件下，界限给出了 $\|(A + E)_p - A_p\|$ 的精确估计，其中 $A_p$ 为 $A$ 的最优秩-$p$ 近似，较之而言提升了最高可达 $\sqrt{n}$ 倍。作为应用，我们推导了差分隐私 PCA 的改进效用保证，解决了文献中未解之问题。我们的分析依赖于来自复分析的新颖轮廓引导方法，并扩展至广泛的谱函数类，包括多项式和矩阵指数。实测结果表明，在多样化的扰动情形下，我们的界限与实际谱误差高度吻合。