GAN-Leaks：针对生成模型的成员推断攻击分类法
机器学习
2020-11-24 v3 密码学与安全
计算机视觉与模式识别
摘要
深度学习已取得压倒性成功，从判别模型到生成模型皆然。特别是，深度生成模型在从媒体操纵到净化数据集生成等诸多领域实现了全新水平的性能。尽管成就巨大，由生成模型引起的隐私泄露潜在风险尚未被系统分析。本文关注针对深度生成模型的成员推断攻击，该攻击可揭示受害模型所用训练数据的信息。具体而言，我们提出首个成员推断攻击分类法，不仅涵盖已有攻击，也包括我们提出的新型攻击。此外，我们提出首个通用攻击模型，可在大范围设定下实例化，并适用于多种深度生成模型。而且，我们提供一种理论支撑的攻击校准技术，在全部案例中、跨不同攻击设定、数据模态与训练配置，一致地提升攻击性能。我们以综合实验研究补充对攻击性能的系统分析，考察各类攻击相对于模型类型与训练配置的有效性，涵盖三种不同应用场景（即图像、医疗数据与位置数据）。
引用
@article{arxiv.1909.03935,
title = {GAN-Leaks: A Taxonomy of Membership Inference Attacks against Generative Models},
author = {Dingfan Chen and Ning Yu and Yang Zhang and Mario Fritz},
journal= {arXiv preprint arXiv:1909.03935},
year = {2020}
}
备注
CCS 2020, 20 pages