差分隐私库中敏感度被普遍低估及其修复方法
密码学与安全
2022-11-11 v2
摘要
我们识别出差分隐私实现中的一类新漏洞。具体而言,这些漏洞出现在计算求和等基本统计量时,其根源在于使用有限数据类型(即 int 或 float)实现的算术与在实数或整数上的理想化算术之间存在差异。这些差异导致所实现统计量的敏感度(即单个个体的数据对结果的影响程度)远大于我们预期的敏感度。因此,几乎所有差分隐私库都未能引入足够的噪声以满足差分隐私的要求,并且我们表明这可能在现实攻击中被利用,从而从私有查询系统中提取个体级别的信息。除了呈现这些漏洞外,我们还提供了若干解决方案,它们通过修改或约束求和的实现方式来恢复敏感度上的理想化或近理想化界限。
引用
@article{arxiv.2207.10635,
title = {Widespread Underestimation of Sensitivity in Differentially Private Libraries and How to Fix It},
author = {Sílvia Casacuberta and Michael Shoemate and Salil Vadhan and Connor Wagaman},
journal= {arXiv preprint arXiv:2207.10635},
year = {2022}
}
备注
Full version of the paper presented at ACM CCS 2022 and TPDP 2022