中文

协方差矩阵的隐私低秩近似、Dyson Brownian Motion 与高斯扰动的特征值间隙界

数据结构与算法 2025-02-12 v1 密码学与安全 机器学习 数值分析 数值分析 概率论

摘要

我们考虑在 (ε,δ)(\varepsilon,\delta)-差分隐私下,用秩为 kk 的矩阵近似一个 d×dd \times d 协方差矩阵 MM 的问题。我们提出并分析了一种高斯机制的复数变体,并获得了该机制输出的矩阵与 MM 的最佳秩 kk 近似之间差值的 Frobenius 范数上界。我们的分析改进了先前的界限,特别是当 MM 的谱满足自然结构假设时。其新颖之处在于将向矩阵添加高斯噪声视为连续时间矩阵 Brownian motion。这一观点使我们能够追踪矩阵特征值与特征向量的演化,该演化由 Dyson 发现的随机微分方程所支配。这些方程使我们能够将 MM 的最佳秩 kk 近似与 MM 的高斯扰动之间的 Frobenius 距离上界表示为一个包含随机演化矩阵逆特征值间隙的积分,而非通过 Davis-Kahan 型定理获得的扰动界限之和。随后,同样利用 Dyson Brownian motion 的观点,我们证明了被高斯噪声扰动的矩阵 MM 的特征值以高概率具有较大间隙。这些结果也有助于分析平均情况扰动下的低秩近似,以及理解随机矩阵的特征值间隙,这两者可能具有独立的意义。

关键词

引用

@article{arxiv.2502.07657,
  title  = {Private Low-Rank Approximation for Covariance Matrices, Dyson Brownian Motion, and Eigenvalue-Gap Bounds for Gaussian Perturbations},
  author = {Oren Mangoubi and Nisheeth K. Vishnoi},
  journal= {arXiv preprint arXiv:2502.07657},
  year   = {2025}
}

备注

Published in Journal of the ACM. arXiv admin note: substantial text overlap with arXiv:2306.16648