针对GAN的属性推断攻击
密码学与安全
2021-11-16 v1 人工智能
机器学习
机器学习
摘要
尽管机器学习（ML）在过去十年取得了巨大进展，但近期研究表明ML模型易受各种安全和隐私攻击。迄今为止，该领域大多数攻击聚焦于以分类器为代表的判别模型。同时，对生成模型（如生成对抗网络（GANs））的安全和隐私风险关注甚少。本文中，我们提出第一组针对GAN的训练数据集属性推断攻击。具体而言，攻击者的目标是推断宏观层面的训练数据集属性，即用于训练目标GAN的关于某一属性的样本比例。成功的属性推断攻击可使攻击者获得目标GAN训练数据集的额外知识，从而直接侵犯目标模型所有者的知识产权。此外，它还可作为公平性审计器，检查目标GAN是否使用有偏数据集训练。另外，属性推断可作为成员推断等其他高级攻击的构建模块。我们提出一个可适配两种攻击场景的通用攻击流程，包括全黑盒设置和部分黑盒设置。对于后者，我们引入一种新颖的优化框架以提升攻击效能。在五个属性推断任务上针对四个代表性GAN模型的大量实验表明，我们的攻击取得了强劲性能。此外，我们展示了我们的攻击可用于增强针对GAN的成员推断性能。
引用
@article{arxiv.2111.07608,
title = {Property Inference Attacks Against GANs},
author = {Junhao Zhou and Yufei Chen and Chao Shen and Yang Zhang},
journal= {arXiv preprint arXiv:2111.07608},
year = {2021}
}
备注
To Appear in NDSS 2022