中文

通用高斯噪声机制及其在无偏均值估计中的最优性

统计理论 2023-12-22 v2 密码学与安全 数据结构与算法 机器学习 机器学习 统计理论

摘要

我们研究差分隐私下的无偏高维均值估计器。我们考虑这样的差分隐私机制:对于从固定有界 dd 维域 KK 中抽取的每一个数据集,其期望输出等于该输入数据集的均值。私有均值估计的经典方法是计算真实均值并向其添加无偏但可能相关的高斯噪声。本文第一部分,我们研究在误差以某个 p2p \ge 2p\ell_p 范数度量时,给定域 KK 下高斯噪声机制可达到的最优误差。我们给出了在适当假设下为给定 KK 计算高斯噪声最优协方差的算法,并证明了最优误差的若干良好几何性质。这些结果将分解机制理论从对称且有限(或等价地,对称多胞形)的域 KK 推广到任意有界域。在文章第二部分,我们证明高斯噪声机制在极强意义下在所有私有无偏均值估计机制中达到了近乎最优的误差。特别地,对于每个输入数据集,满足集中差分隐私的无偏均值估计器所引入的误差至少约等于最优高斯噪声机制。我们将该结果推广到本地差分隐私和近似差分隐私,但对于后者,误差下界对某个数据集或其相邻数据集成立,且这种松弛是必要的。

关键词

引用

@article{arxiv.2301.13850,
  title  = {General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean Estimation},
  author = {Aleksandar Nikolov and Haohua Tang},
  journal= {arXiv preprint arXiv:2301.13850},
  year   = {2023}
}

备注

The paper title was changed in v2, and more material on general Gaussian noise mechanisms was added