通过平方和指数机制实现纯差分隐私的高效均值估计

我们给出了第一个多项式时间算法，用于在纯差分隐私条件下，从$\tilde{O}(d)$个独立样本中估计具有有界协方差的$d$维概率分布的均值。先前解决此问题的算法要么需要指数级运行时间，要么需要$\Omega(d^{1.5})$个样本，要么仅满足更弱的集中或近似差分隐私条件。特别是，所有先前的多项式时间算法都需要$d^{1+\Omega(1)}$个样本，才能以“密码学”意义上的高概率$1-2^{-d^{\Omega(1)}}$保证较小的隐私损失，而我们的算法即使在这种严格设置下也能保持$\tilde{O}(d)$的样本复杂度。我们的主要技术是一种使用强大的平方和方法（SoS）来设计差分隐私算法的新方法。SoS证明到算法是近期高维算法统计中众多工作的一个关键主题——那些表面上需要指数级运行时间，但其分析可以用低次平方和证明捕获的估计器，可以自动转化为具有相同可证明保证的多项式时间算法。我们展示了一个类似的“证明到隐私算法”现象：那些表面上需要指数级时间，但可以用低次SoS证明进行分析的指数机制实例，可以自动转化为多项式时间的差分隐私算法。我们证明了一个捕捉这一现象的元定理，我们期望它在隐私算法设计中具有广泛用途。我们的技术还在高维差分隐私和鲁棒统计之间建立了新的联系。特别是，通过我们的“证明到隐私算法”视角来看，近期算法鲁棒统计工作中几个被充分研究的SoS证明直接产生了我们差分隐私均值估计算法的关键组成部分。