中文

噪声下低秩逆逼近的扰动界限

机器学习 2025-10-30 v1 数据结构与算法 数值分析 数值分析 谱理论 统计理论 统计理论

摘要

低秩伪逆在可扩展的机器学习、优化和科学计算中用于逼近矩阵逆。然而,真实世界的矩阵常常伴随噪声,源于抽样、抽稀和量化。低秩逆逼近在谱范数下的鲁棒性仍知之甚少。我们系统地研究了谱范数误差 (A~1)pAp1\| (\tilde{A}^{-1})_p - A_p^{-1} \|,其中 n×nn \times n 对称矩阵 AAAp1A_p^{-1} 表示 A1A^{-1} 的最佳秩 pp 近似,A~=A+E\tilde{A} = A + E 为带噪声的观测。在噪声条件较轻的假设下,我们推导出尖锐的非渐近扰动界限,揭示了误差如何随特征间隙、谱衰减以及噪声与 AA 低曲率方向的对齐程度而扩展。我们的分析引入了一种将 contour integral 技术应用于非整函数 f(z)=1/zf(z) = 1/z 的新方法,得到的界限相对于经典全逆逼近结果的简单化提升可达 n\sqrt{n} 倍。实验表明,我们的界限在各种真实矩阵和合成矩阵上都能较好地跟踪真实扰动误差,而基于经典结果的估计则会显著高估。这些发现为在噪声计算环境下进行低秩逆逼近提供了实用的、基于谱的保证。

关键词

引用

@article{arxiv.2510.25571,
  title  = {Perturbation Bounds for Low-Rank Inverse Approximations under Noise},
  author = {Phuc Tran and Nisheeth K. Vishnoi},
  journal= {arXiv preprint arXiv:2510.25571},
  year   = {2025}
}

备注

NeurIPS 2025