中文

关于差分隐私的泛化性质

机器学习 2015-11-11 v2 密码学与安全

摘要

由 Dwork 等人开启的一条新研究路线,探讨了利用样本回答统计查询的任务,并将该问题与差分隐私的概念联系起来。根据 Hoeffding 界,大小为 O(logk/α2)O(\log k/\alpha^2) 的样本足以在误差 α\alpha 内回答 kk 个非适应性查询,其中答案是通过在样本上评估统计查询计算得出的。当查询是适应性选择时(因此可能依赖于样本),该论证失效。Dwork 等人表明,如果答案是通过 (ϵ,δ)(\epsilon,\delta)-差分隐私计算的,则以 1O(δϵ)1-O(\delta^\epsilon) 的概率保证 O(ϵ)O(\epsilon) 的精度。利用私有乘法权重机制,他们得出结论:样本量仍可随 kk 呈多对数增长。最近,Bassily 等人提出了一个改进的界,并表明(一种变体的)私有乘法权重算法可以使用随 kk 呈对数增长的样本复杂度来回答 kk 个适应性选择的统计查询。然而,他们的结果不再适用于每一个差分隐私算法,并且需要修改私有乘法权重算法才能获得其高概率界。我们极大地简化了 Dwork 等人的结果,并通过证明差分隐私以 1O(δlog(1/ϵ)/ϵ)1-O(\delta\log(1/\epsilon)/\epsilon) 的概率保证 O(ϵ)O(\epsilon) 的精度,从而改进了该界。人们可能会猜测 (ϵ,δ)(\epsilon,\delta)-差分隐私计算应以 1O(δ)1-O(\delta) 的概率保证 O(ϵ)O(\epsilon) 的精度。然而,我们表明情况并非如此,且我们的界是紧的(直至对数因子)。

关键词

引用

@article{arxiv.1504.05800,
  title  = {On the Generalization Properties of Differential Privacy},
  author = {Kobbi Nissim and Uri Stemmer},
  journal= {arXiv preprint arXiv:1504.05800},
  year   = {2015}
}

备注

This paper was merged with another manuscript and is now subsumed by arXiv:1511.02513