“仅靠理论你想要什么？”对差分隐私合成数据生成进行严格审计的实验
密码学与安全
2024-05-21 v1
摘要
差分隐私合成数据生成（DP-SDG）算法用于发布在结构和统计上与敏感数据相似的数据集，同时提供信息泄露的形式化界限。然而，算法和实现中的错误可能导致实际信息泄露更高。这促使需要验证最先进DP-SDG实现的理论保证在实践中是否也成立。我们通过严格的审计过程来实现：通过一个进行区分游戏并运行成员推理攻击（MIA）的对手来计算信息泄露。如果经验观察到的泄露高于理论界限，我们识别出DP违规；如果非可忽略地低，则审计是宽松的。我们使用不同数据集和威胁模型审计了六个DP-SDG实现，发现常用于DP-SDG的黑盒MIA在能力上严重受限，产生显著宽松的经验隐私估计。然后，我们考虑更强威胁模型下的MIA，即被动和主动白盒，使用现有和新提出的攻击。总体而言，我们发现目前不仅需要白盒MIA，还需要最坏情况数据集来紧密估计DP-SDG的隐私泄露。最后，我们展示了自动化审计程序发现了已知的DP违规（在6个实现中的4个）以及DPWGAN实现中的一个新违规，该实现已成功提交给NIST DP合成数据挑战赛。重现我们实验所需的源代码可从https://github.com/spalabucr/synth-audit获取。
引用
@article{arxiv.2405.10994,
title = {"What do you want from theory alone?" Experimenting with Tight Auditing of Differentially Private Synthetic Data Generation},
author = {Meenatchi Sundaram Muthu Selva Annamalai and Georgi Ganev and Emiliano De Cristofaro},
journal= {arXiv preprint arXiv:2405.10994},
year = {2024}
}
备注
To appear at Usenix Security 2024