当信号藏于噪声中：利用 Diffix 的粘性噪声
密码学与安全
2019-10-31 v4
摘要
匿名化数据对企业和研究人员都极具价值。然而大量研究表明，去标识化“发布即忘”模型（数据被匿名化后共享）存在严重局限。这促使了隐私保护型基于查询的系统的发展。基于“粘性噪声”思想，Diffix 近期被提出作为一种新颖的基于查询的机制，单独满足欧盟第 29 条工作组对匿名化的定义。据其作者称，与基于差分隐私的方案相比，Diffix 向答案中添加的噪声更少，同时允许无限次查询。本文提出一类新的噪声利用攻击，利用系统所添加的噪声来推断数据集中个体的隐私信息。我们的第一种差分攻击使用从 Diffix 中提取的样本进行似然比检验，以区分两种概率分布。我们表明，针对一个合成的最优情形数据集使用此攻击，仅用 5 个属性就能以 89.4% 的准确率推断隐私信息。我们的第二种克隆攻击使用虚拟条件，这些条件根据隐私属性的值对查询输出产生强烈的条件性影响。在四个真实世界数据集上使用此攻击，我们表明可以推断数据集中至少 93% 的用户的隐私属性，准确率介于 93.3% 至 97.1% 之间，每位用户中位发出 304 次查询。我们展示了如何优化此攻击，以针对 55.4% 的用户并以 91.7% 的准确率，每位用户最多仅用 32 次查询。我们的攻击表明，像 Diffix 那样添加数据依赖型噪声不足以防止隐私属性的推断。我们进一步主张 Diffix 单独无法满足第 29 条工作组对匿名化的定义。
引用
@article{arxiv.1804.06752,
title = {When the signal is in the noise: Exploiting Diffix's Sticky Noise},
author = {Andrea Gadotti and Florimond Houssiau and Luc Rocher and Benjamin Livshits and Yves-Alexandre de Montjoye},
journal= {arXiv preprint arXiv:1804.06752},
year = {2019}
}