协方差矩阵的隐私低秩近似、Dyson Brownian Motion 与高斯扰动的特征值间隙界
数据结构与算法
2025-02-12 v1 密码学与安全
机器学习
数值分析
数值分析
概率论
摘要
我们考虑在 -差分隐私下,用秩为 的矩阵近似一个 协方差矩阵 的问题。我们提出并分析了一种高斯机制的复数变体,并获得了该机制输出的矩阵与 的最佳秩 近似之间差值的 Frobenius 范数上界。我们的分析改进了先前的界限,特别是当 的谱满足自然结构假设时。其新颖之处在于将向矩阵添加高斯噪声视为连续时间矩阵 Brownian motion。这一观点使我们能够追踪矩阵特征值与特征向量的演化,该演化由 Dyson 发现的随机微分方程所支配。这些方程使我们能够将 的最佳秩 近似与 的高斯扰动之间的 Frobenius 距离上界表示为一个包含随机演化矩阵逆特征值间隙的积分,而非通过 Davis-Kahan 型定理获得的扰动界限之和。随后,同样利用 Dyson Brownian motion 的观点,我们证明了被高斯噪声扰动的矩阵 的特征值以高概率具有较大间隙。这些结果也有助于分析平均情况扰动下的低秩近似,以及理解随机矩阵的特征值间隙,这两者可能具有独立的意义。
引用
@article{arxiv.2502.07657,
title = {Private Low-Rank Approximation for Covariance Matrices, Dyson Brownian Motion, and Eigenvalue-Gap Bounds for Gaussian Perturbations},
author = {Oren Mangoubi and Nisheeth K. Vishnoi},
journal= {arXiv preprint arXiv:2502.07657},
year = {2025}
}
备注
Published in Journal of the ACM. arXiv admin note: substantial text overlap with arXiv:2306.16648