针对深度生成模型数据的对抗攻击:综述
密码学与安全
2021-12-02 v1
摘要
深度生成模型因其生成数据的能力而备受关注,其应用涵盖医疗健康、金融科技、监控等诸多领域——其中最流行的模型是生成对抗网络(GAN)与变分自编码器(VAE)。然而,与所有机器学习模型一样,安全漏洞与隐私泄露的担忧始终存在,深度生成模型也不例外。这些模型近年来发展极为迅速,其安全性研究仍处起步阶段。为审视针对这些模型的当前与未来威胁,并为短期防御准备提供路线图,我们撰写了这篇关于 GAN 与 VAE 安全性与隐私保护的全面专门综述。我们聚焦于攻击与模型架构之间的内在联系,更具体地,聚焦于深度生成模型的五个组成部分:训练数据、潜码、GAN/VAE 的生成器/解码器、GAN/VAE 的判别器/编码器,以及生成数据。针对每个模型、组件与攻击,我们回顾当前研究进展并指出关键挑战。本文最后讨论了该领域可能的未来攻击与研究方向。
引用
@article{arxiv.2112.00247,
title = {Adversarial Attacks Against Deep Generative Models on Data: A Survey},
author = {Hui Sun and Tianqing Zhu and Zhiqiu Zhang and Dawei Jin. Ping Xiong and Wanlei Zhou},
journal= {arXiv preprint arXiv:2112.00247},
year = {2021}
}
备注
To be published in IEEE Transactions on Knowledge and Data Engineering