中文

审视并改进差分隐私的高斯机制

密码学与安全 2019-12-10 v2 人工智能 计算机与社会 数据库 机器学习

摘要

差分隐私提供了一个量化数据隐私的严格框架,近年来受到相当多的关注。满足 (ϵ,δ)(\epsilon, \delta)-差分隐私(DP)的随机机制大致意味着,除小概率 δ\delta 外,更改数据集中的一条记录不会使观察到某输出的概率变化超过乘性因子 eϵe^{\epsilon}(ϵ,δ)(\epsilon, \delta)-DP 的一个著名解决方案是由 Dwork 等人 [1] 于 2006 年提出、并由 Dwork 和 Roth [2] 于 2014 年改进的高斯机制,其中对于 2\ell_2-敏感度为 Δ\Delta 的查询,向查询结果的每一维独立添加高斯噪声量 2ln2δ×Δϵ\sqrt{2\ln \frac{2}{\delta}} \times \frac{\Delta}{\epsilon}([1])或 2ln1.25δ×Δϵ\sqrt{2\ln \frac{1.25}{\delta}} \times \frac{\Delta}{\epsilon}([2])。尽管两个经典高斯机制 [1,2] 均假设 0<ϵ10 < \epsilon \leq 1,我们的审视发现文献中许多研究在 ϵ\epsilonδ\delta 的取值下使用了经典高斯机制,而 [1,2] 所加噪声量并未实现 (ϵ,δ)(\epsilon,\delta)-DP。我们通过分析 (ϵ,δ)(\epsilon,\delta)-DP 的最优噪声量 σDPOPT\sigma_{DP-OPT} 并识别经典机制噪声量甚至小于 σDPOPT\sigma_{DP-OPT}ϵ\epsilonδ\delta 而得到该结果。由于 σDPOPT\sigma_{DP-OPT} 无闭式表达且需以迭代方式近似,我们通过推导 σDPOPT\sigma_{DP-OPT} 的闭式上界提出了高斯机制。我们的机制对任意 ϵ\epsilon 均实现 (ϵ,δ)(\epsilon,\delta)-DP,而经典机制 [1,2] 在给定 δ\delta 时对于大 ϵ\epsilon 不能实现 (ϵ,δ)(\epsilon,\delta)-DP。此外,我们机制的效用优于 [1,2],且接近最优但计算更昂贵的高斯机制。

关键词

引用

@article{arxiv.1911.12060,
  title  = {Reviewing and Improving the Gaussian Mechanism for Differential Privacy},
  author = {Jun Zhao and Teng Wang and Tao Bai and Kwok-Yan Lam and Zhiying Xu and Shuyu Shi and Xuebin Ren and Xinyu Yang and Yang Liu and Han Yu},
  journal= {arXiv preprint arXiv:1911.12060},
  year   = {2019}
}

备注

23 Pages