Johnson-Lindenstrauss 变换本身保持差分隐私

本文证明了“老狗”即经典的 Johnson-Lindenstrauss 变换能“玩出新花样”——它提供了一种保持差分隐私的新方法。我们表明，如果取两个数据库 $D$ 和 $D'$，使得 (i) $D'-D$ 是一个有界范数的秩 -1 矩阵，且 (ii) $D$ 和 $D'$ 的所有奇异值都足够大，那么用独立同分布的正态高斯向量乘以 $D$ 或 $D'$ 中的任意一个，都会在差分隐私的意义下产生两个统计上接近的分布。此外，对输入进行微小、确定性且\emph{公开}的修改足以确保 $D$ 的所有奇异值都很大。我们将 Johnson-Lindenstrauss 变换应用于近似割查询任务：即图中跨越 $(S,\bar S)$-割的边数。我们表明，JL 变换允许我们\emph{发布一个 sanitized 图}，该图保持边差分隐私（其中两个图若仅相差一条边则视为邻居），同时向任何给定查询仅添加 $O(|S|/\epsilon)$ 的随机噪声（高概率成立）。将我们算法的加性噪声与现有以差分隐私方式回答割查询的算法进行比较，我们在小割（$|S| = o(n)$）上优于所有其他算法。我们还将该技术应用于估计给定矩阵在任意给定方向上的方差。JL 变换允许我们\emph{发布一个 sanitized 协方差矩阵}，该矩阵相对于有界变化（矩阵中的每一行最多改变一个范数为 1 的向量）保持差分隐私，同时添加的随机噪声量级与矩阵大小无关（高概率成立）。相比之下，现有算法引入的误差依赖于矩阵维度。