中文

学习与估计中 Pan Privacy 与 Shuffle Privacy 的局限性

数据结构与算法 2020-12-07 v3 密码学与安全 机器学习

摘要

近期出现了一股对差分隐私中间信任模型的研究热潮,这些模型消除了对完全可信的中心数据收集者的需求,同时克服了本地差分隐私的局限性。这一关注促成了 Shuffle 模型(Cheu 等,EUROCRYPT 2019;Erlingsson 等,SODA 2019)的引入,并重新审视了 Pan-Private 模型(Dwork 等,ITCS 2010)。这一系列工作的核心信息是,对于各种低维问题——如计数、均值和直方图——这些中间模型提供了几乎与中心差分隐私同样强大的能力。然而,在使用这些模型处理高维学习和估计问题时,成功案例要少得多。在本工作中,我们证明了对于各种高维学习和估计问题,Shuffle 模型和 Pan-Private 模型相对于中心模型在样本复杂度上固有地承受着指数级的代价。例如,我们证明了在这些模型中,对 dd 比特上的奇偶函数进行隐私不可知学习需要 Ω(2d/2)\Omega(2^{d/2}) 个样本,而从 dd 个选项的集合中隐私选择最常见属性需要 Ω(d1/2)\Omega(d^{1/2}) 个样本,这两者均与中心模型存在指数级差距。我们的工作首次为 Pan-Private 模型和通用多消息 Shuffle 模型的这些问题提供了非平凡的下界。

关键词

引用

@article{arxiv.2009.08000,
  title  = {The Limits of Pan Privacy and Shuffle Privacy for Learning and Estimation},
  author = {Albert Cheu and Jonathan Ullman},
  journal= {arXiv preprint arXiv:2009.08000},
  year   = {2020}
}

备注

Corrected a proof in the Appendix. Added a reference to parallel and concurrent work