先验知识与数据相关性对隐私泄露的影响：一种统一分析
机器学习
2019-06-07 v1 密码学与安全
概率论
机器学习
摘要
人们已广泛认识到差分隐私（DP）能够针对具有任意先验知识的对手提供严格隐私保障。然而，近期研究表明这对于相关数据可能不成立，并指出有三个因素可能影响隐私泄露：数据相关性模式、对手的先验知识以及查询函数的敏感度。这带来一个基本问题：这三个因素与隐私泄露之间的数学关系是什么？本文对该问题给出统一分析。我们提出一种称为先验差分隐私（PDP）的新隐私定义，用于在考虑对手所掌握确切先验知识的情况下评估隐私泄露。我们使用加权层次图（WHG）和多变量高斯模型分别分析离散与连续数据。我们证明正相关性、负相关性和混合相关性对隐私泄露具有不同影响。考虑一般相关性，我们推导了连续数据隐私泄露的闭式表达式，并给出了离散数据的链式法则。我们的结果对一般线性查询（包括计数、求和、均值和直方图）均成立。数值实验用于验证我们的理论分析。
引用
@article{arxiv.1906.02606,
title = {Impact of Prior Knowledge and Data Correlation on Privacy Leakage: A Unified Analysis},
author = {Yanan Li and Xuebin Ren and Shusen Yang and Xinyu Yang},
journal= {arXiv preprint arXiv:1906.02606},
year = {2019}
}