低秩分解的差分隐私代价

在本文中，我们研究了释放矩阵的“差分隐私低秩分解”所需付出的代价。我们考虑了接近低秩分解实际应用的各种设置：(i) 矩阵更新的方式（逐行或任意方式），(ii) 矩阵是否分布式，以及 (iii) 输出如何产生（在所有更新结束时产生一次，也称为“一次性算法”，或是连续产生）。尽管这些设置在无隐私情况下已被充分研究，但令人惊讶的是，除了矩阵逐行更新外，这些设置还没有私有算法。我们提出了针对所有这些设置的首套差分隐私算法。当私有矩阵以任意方式更新时，我们的算法承诺提供比先前研究更强的两种隐私保证，使用与非私有算法“相当”的空间和时间，并达到“最优精度”。作为正面结果的补充，我们还证明了我们的算法所需空间在对数因子内是最优的。当数据矩阵分布在多个服务器上时，我们给出了一种通信代价与维度无关的非交互式差分隐私算法。简而言之，我们给出的算法产生了最优代价。我们还进行了实验以验证我们所有算法在实践中表现良好，并在大范围参数下优于目前已知的最佳算法。我们给出了不同维度、$\alpha$ 和 $k$ 下的总近似误差和加性误差的实验结果。