基于成员推断的差分隐私深度学习评估
密码学与安全
2020-05-27 v4 机器学习
摘要
旨在识别公开神经网络训练数据的攻击对参与训练数据集个体的隐私构成严重威胁。一种可能的保护手段是对训练数据或训练函数采用差分隐私进行匿名化。然而，数据科学家可在本地差分隐私与中心差分隐私之间选择，且需要选取有意义的隐私参数 ，这对非隐私专家而言颇具挑战。我们通过白盒与黑盒成员推断，在经验上比较本地与中心差分隐私机制，以评估它们相对的隐私-精度权衡。我们使用多个数据集进行实验，表明这两种机制的权衡相似。这表明本地差分隐私是差分隐私深度学习中中心差分隐私的一个合理替代方案，因为中心差分隐私中较小的 与本地差分隐私中较大的 会导致相似的成员推断攻击风险。
引用
@article{arxiv.1912.11328,
title = {Assessing differentially private deep learning with Membership Inference},
author = {Daniel Bernau and Philip-William Grassal and Jonas Robl and Florian Kerschbaum},
journal= {arXiv preprint arXiv:1912.11328},
year = {2020}
}