GanDef：一种基于 GAN 的神经网络分类器对抗训练防御方法
机器学习
2019-03-08 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
机器学习模型，尤其是神经网络（NN）分类器，被广泛应用于包括自然语言处理、计算机视觉和网络安全在内的许多应用中。它们在无攻击场景的假设下提供高准确率。然而，这一假设已被对抗样本——通常被误分类的、经过精心扰动的输入样本——的提出所打破。许多研究者试图开发针对对抗样本的防御；然而，我们离实现该目标仍相距甚远。在本文中，我们设计了一种基于生成对抗网络（GAN）的对抗训练防御，称为 GanDef，它利用竞争博弈在训练过程中调节特征选择。我们分析地表明 GanDef 能够训练一个分类器以防御对抗样本。通过对不同白盒对抗样本的广泛评估，由 GanDef 训练的分类器展现出与最先进（SOTA）对抗训练防御训练的分类器同等的测试准确率。更重要的是，GanDef 的变体 GanDef-Comb 可利用判别器在原样本与对抗样本的正确分类之间实现动态权衡。结果，当对抗样本比例超过 41.7% 时，它取得了最高的整体测试准确率。
引用
@article{arxiv.1903.02585,
title = {GanDef: A GAN based Adversarial Training Defense for Neural Network Classifier},
author = {Guanxiong Liu and Issa Khalil and Abdallah Khreishah},
journal= {arXiv preprint arXiv:1903.02585},
year = {2019}
}