通过矩阵一致性实现紧密差分隐私主成分分析
机器学习
2025-10-31 v1 数据结构与算法
摘要
我们重新审视了在差分隐私下计算前 r 个奇异向量 u_1, ..., u_r 的张量的任务。我们证明,一个简单且高效的算法——基于奇异值分解和标准扰动机制——返回的私有秩为 r 的近似,其误差仅取决于 u_1, ..., u_r 的秩-r 一致性以及谱隙 \sigma_r - \sigma_{r+1}。这解决了 Hardt 和 Roth 所提出的问题。我们的估计器在某些情境下均显著优于最先进的技术。特别是,我们表明在稠密情况下,它为单根信号 PCA 在 Wishart 模型中获得的保证与最优非私有算法相同,而先前的私有算法未能做到。此外,我们证明(秩-r)一致性在高斯扰动下不会增加。这意味着任何基于高斯机制的估计器——包括我们的方法——都保留了输入的一致性。我们推测类似的行为也适用于其他结构化模型,包括图中的植入问题。我们还探讨了一致性在图问题中的应用。具体而言,我们提出了一个在低一致性假设下解决 Max-Cut 和其他约束满足问题的差分隐私算法。
引用
@article{arxiv.2510.26679,
title = {Tight Differentially Private PCA via Matrix Coherence},
author = {Tommaso d'Orsi and Gleb Novikov},
journal= {arXiv preprint arXiv:2510.26679},
year = {2025}
}
备注
SODA 2026; equal contribution