通过边界条件GAN增强深度神经网络的鲁棒性
机器学习
2019-03-01 v1 机器学习
摘要
深度神经网络已广泛部署于各类机器学习任务中。然而,近期工作表明它们易受对抗样本攻击:精心制作的微小扰动可导致网络误分类。本文中,我们提出一种称为边界条件GAN(Boundary Conditional GAN)的新型防御机制,以增强深度神经网络抵御对抗样本的鲁棒性。边界条件GAN是条件GAN(Conditional GAN)的改进版本,可生成预训练分类器决策边界附近带有真实标签的边界样本。这些边界样本作为数据增强输入预训练分类器,使决策边界更为鲁棒。我们通过实验表明,经本方法改进的模型能持续成功地防御各类对抗攻击。我们还提供了关于鲁棒性提升的进一步定量研究以及决策边界的可视化,以佐证我们策略的有效性。这种利用边界样本增强网络鲁棒性的新防御机制,为持续防御对抗攻击开辟了新途径。
引用
@article{arxiv.1902.11029,
title = {Enhancing the Robustness of Deep Neural Networks by Boundary Conditional GAN},
author = {Ke Sun and Zhanxing Zhu and Zhouchen Lin},
journal= {arXiv preprint arXiv:1902.11029},
year = {2019}
}