隐私核算的 ε 经济学：通过后验界改进差分隐私组合
密码学与安全
2023-06-21 v2
摘要
差分隐私（DP）是一种在发布聚合数据时用于推理隐私的广泛使用概念。在本文中，我们观察到某些 DP 机制适合进行后验隐私分析，其利用的事实是：某些输出比其他输出泄露关于输入数据库的更少信息。为利用这一现象，我们引入了输出差分隐私（ODP）和一种新的组合实验，并利用这些新构造在组合下获得显著的隐私预算节省和改善的隐私-效用权衡。这一切在隐私方面零代价；我们并未削弱隐私保证。为证明我们后验隐私分析技术的适用性，我们分析了两种知名机制：稀疏向量技术与提议-测试-发布框架。随后我们展示了我们的技术如何用于在更一般的情境中节省隐私预算：当差分隐私迭代机制在其达到最大迭代次数前终止时，以及当 DP 机制的输出提供不令人满意的效用时。前者的例子包括迭代优化算法，而后者的例子包括训练具有较大泛化误差的机器学习模型。我们的技术可超越本文应用于细化现有 DP 机制的分析或指导未来机制的设计。
引用
@article{arxiv.2205.03470,
title = {Privacy accounting $\varepsilon$conomics: Improving differential privacy composition via a posteriori bounds},
author = {Valentin Hartmann and Vincent Bindschaedler and Alexander Bentkamp and Robert West},
journal= {arXiv preprint arXiv:2205.03470},
year = {2023}
}
备注
25 pages, 2 figures. The formal proof and the code for generating the plots can be found at https://doi.org/10.6084/m9.figshare.19330649 Current version: fixed a mistake in the legend of Fig. 1