针对差分隐私激进松弛的重构攻击
密码学与安全
2022-09-09 v1
摘要
差分隐私是一种被广泛接受的正式隐私定义，它允许发布关于数据集的聚合信息，同时控制出现在数据中的个体的隐私泄露。由于隐私与效用之间不可避免的张力，已有许多工作试图放松差分隐私的要求以获得更大的效用。一类松弛（正开始在隐私界之外获得支持）体现在个体差分隐私（IDP）和自助法差分隐私（BDP）的定义中。差分隐私的原始版本定义了一组相邻数据库对，并通过要求每对邻居对攻击者几乎不可区分来实现其隐私保证。然而，我们所研究的隐私定义激进地减少了受保护的相邻对集合。IDP 和 BDP 都定义了满足后处理不变性和组合性等正式隐私属性的“隐私损失”度量，并且比传统的差分隐私变体实现了显著更好的效用。但是，存在一个显著的缺点——我们表明，它们允许使用在其隐私核算规则下具有任意低隐私损失的算法来重构数据集的很大一部分。我们使用这些隐私定义所偏好的机制来演示这些攻击。特别地，我们设计了一组查询，当这些查询由这些机制以保护方式处理且噪声设置较高（即声称隐私损失非常低）时，比完全不保护时产生关于数据集的更精确信息。
引用
@article{arxiv.2209.03905,
title = {Reconstruction Attacks on Aggressive Relaxations of Differential Privacy},
author = {Prottay Protivash and John Durrell and Zeyu Ding and Danfeng Zhang and Daniel Kifer},
journal= {arXiv preprint arXiv:2209.03905},
year = {2022}
}