知识增强的分布式模型反演攻击
机器学习
2021-08-20 v4
摘要
模型反演（MI）攻击旨在从模型参数中重建训练数据。此类攻击已引发日益严重的隐私担忧，尤其在在线模型仓库不断增多的背景下。然而，现有针对深度神经网络（DNNs）的MI攻击在性能上仍有很大提升空间。我们提出一种新颖的专用于反演的GAN，能更好地从公开数据中提炼对私有模型实施攻击有用的知识。具体而言，我们训练判别器不仅区分真实与生成样本，还区分目标模型给出的软标签。此外，不同于以往直接搜索单一数据点以代表目标类别的工作，我们提出为每个目标类别建模一个私有数据分布。实验表明，这些技术的结合可将最先进MI攻击的成功率显著提升150%，并更好地泛化至多种数据集与模型。我们的代码发布于 https://github.com/SCccc21/Knowledge-Enriched-DMI。
引用
@article{arxiv.2010.04092,
title = {Knowledge-Enriched Distributional Model Inversion Attacks},
author = {Si Chen and Mostafa Kahla and Ruoxi Jia and Guo-Jun Qi},
journal= {arXiv preprint arXiv:2010.04092},
year = {2021}
}