基于掩码GAN的少特征攻击以欺骗机器学习模型
机器学习
2019-11-15 v1
摘要
GAN是一种基于深度学习的生成式方法，用于生成图像、语言和语音等内容。最近的研究表明，GAN也可应用于生成对抗攻击样本以欺骗机器学习模型。与以往非学习的对抗样本攻击方法相比，基于GAN的对抗攻击样本方法在训练后每次面对新样本时利用GAN架构可快速生成对抗样本，但同时需要大量扰动攻击样本，导致在现实中应用不切实际。为解决此问题，我们提出一种新方法，称为少特征攻击GAN（FFA-GAN）。FFA-GAN比非学习的对抗样本方法具有显著的时间消耗优势，且比基于GAN的对抗样本方法具有更好的非零特征性能。FFA-GAN可通过GAN架构在黑盒攻击中自动生成攻击样本，而无需进化算法或其他非学习方法。此外，我们将掩码机制引入GAN架构的生成器网络以优化约束问题，这也可视为重要特征的稀疏性问题。在训练期间，生成器的不同损失权重在不同训练阶段被设置，以确保上述生成器的两个并行网络的发散。实验分别在维度相对较低的结构化数据集KDD-Cup 1999和CIC-IDS 2017上，以及维度相对较高的非结构化数据集MNIST和CIFAR-10上进行。实验结果表明了我们提出方法的有效性和鲁棒性。
引用
@article{arxiv.1911.06269,
title = {Few-Features Attack to Fool Machine Learning Models through Mask-Based GAN},
author = {Feng Chen and Yunkai Shang and Bo Xu and Jincheng Hu},
journal= {arXiv preprint arXiv:1911.06269},
year = {2019}
}