预算回收差分隐私
密码学与安全
2024-07-15 v4 数据结构与算法
信号处理
摘要
差分隐私（DP）机制通常会因在严格的隐私预算下产生“越界”噪声结果而强制降低数据效用。我们引入了预算回收差分隐私（BR-DP）框架，旨在为广泛的现有 DP 机制提供软边界噪声输出。所谓“软边界”，是指该机制能够在预定义的误差边界内发布大多数输出，从而同时提高效用并维护隐私。BR-DP 的核心由两个组件构成：一个负责每次迭代生成噪声答案的 DP 内核，以及一个以概率方式回收/重新生成或发布该噪声答案的回收器。我们深入研究了 BR-DP 的隐私核算，最终形成了一个预算分配原则，该原则在 DP 内核和回收器之间最优地子分配可用预算。此外，我们引入了在组合场景下进行严格 BR-DP 核算的算法，研究结果表明，与 DP 相比，BR-DP 在组合后实现了更低的隐私泄露。我们还探索了 BR-DP 框架内通过子采样进行隐私放大的概念，并为不同查询提出了 BR-DP 的最优采样率。我们在真实数据上进行了实验，结果证明了 BR-DP 在提升 DP 机制所提供的效用-隐私权衡方面的有效性。
引用
@article{arxiv.2403.11445,
title = {Budget Recycling Differential Privacy},
author = {Bo Jiang and Jian Du and Sagar Sharma and Qiang Yan},
journal= {arXiv preprint arXiv:2403.11445},
year = {2024}
}