差分隐私与数据偏斜对成员推断脆弱性的影响
密码学与安全
2019-11-25 v1 机器学习
机器学习
摘要
成员推断攻击旨在推断私有训练模型中个体训练样本的隶属关系。本文提出一个名为 MPLens 的成员隐私分析与评估系统，具有三项独特贡献。首先，通过 MPLens，我们展示了成员推断攻击方法如何被用于对抗式机器学习。其次，通过 MPLens，我们强调预训练模型在成员推断攻击下的脆弱性并非在所有类别上均匀分布，尤其在训练数据本身存在偏斜时。我们表明，当模型使用偏斜的训练数据时，成员推断攻击带来的风险通常会增加。最后，我们研究了差分隐私作为抵御成员推断攻击的缓解技术的有效性。我们讨论了实施此类缓解策略在模型复杂度、学习任务复杂度、数据集复杂度和隐私参数设置方面的权衡。我们的实证结果显示：(1) 偏斜数据集中的少数群体表现出更高的成员推断风险；(2) 差分隐私作为缓解成员推断风险的技术存在诸多具有挑战性的权衡。
引用
@article{arxiv.1911.09777,
title = {Effects of Differential Privacy and Data Skewness on Membership Inference Vulnerability},
author = {Stacey Truex and Ling Liu and Mehmet Emre Gursoy and Wenqi Wei and Lei Yu},
journal= {arXiv preprint arXiv:1911.09777},
year = {2019}
}