针对机器学习模型的成员推断攻击
密码学与安全
2017-04-04 v2 机器学习
机器学习
摘要
我们定量地调查机器学习模型如何泄露关于其训练所依赖的单个数据记录的信息。我们聚焦于基本的成员推断攻击：给定某个数据记录并通过黑盒方式访问模型，确定该记录是否位于模型训练数据集中。为对目标模型执行成员推断攻击，我们对机器学习进行对抗性利用，通过训练自己的推断模型来识别目标模型在其训练数据上的输入与未训练数据上的输入预测结果之间的差异。我们在由谷歌、亚马逊等商业"机器学习即服务"提供商训练的分类模型上经验性地评估了我们的推断技术。使用包括敦煌院出院数据集在内的现实数据集和分类任务，该数据集的成员身份从隐私角度来看具有敏感性，我们表明这些模型可能遭受成员推断攻击。随后我们研究影响此泄露的因素并评估了缓解策略。
引用
@article{arxiv.1610.05820,
title = {Membership Inference Attacks against Machine Learning Models},
author = {Reza Shokri and Marco Stronati and Congzheng Song and Vitaly Shmatikov},
journal= {arXiv preprint arXiv:1610.05820},
year = {2017}
}
备注
In the proceedings of the IEEE Symposium on Security and Privacy, 2017