揭示局部差分隐私协议的真实代价:一种审计视角

尽管现有关于差分隐私(DP)审计的文献主要关注中心化模型(例如审计 DP-SGD 算法),我们主张将该方法扩展至审计局部 DP(LDP)。为此,我们引入 LDP-Auditor 框架,用于经验估计局部差分隐私机制的隐私损失。该方法利用了近期针对 LDP 频率估计算法设计隐私攻击的进展。更确切地说,通过对众多最先进 LDP 协议的分析,我们广泛探讨了影响隐私审计的因素,例如不同编码与扰动函数的影响。此外,我们研究了域大小以及理论隐私损失参数 $\epsilon$ 和 $\delta$ 对局部隐私估计的影响。还进行了深入的案例研究以探索 LDP 审计的具体方面,包括针对纵向研究与多维数据的 LDP 协议的可区分性攻击。最后,我们展示了 LDP-Auditor 框架的一项显著成果,即在某个最先进的 LDP Python 包中发现了一个 bug。总体而言,我们的 LDP-Auditor 框架及研究为 LDP 协议中的随机性与信息损失来源提供了有价值的见解。这些贡献共同提供了对局部隐私损失的现实理解,可帮助从业者选择最符合其特定需求的 LDP 机制与隐私参数。我们在 \url{https://github.com/hharcolezi/ldp-audit} 开源了 LDP-Auditor。