在深度神经网络中强制线性以提升鲁棒性及对抗图像生成
机器学习
2019-10-22 v2 计算机视觉与模式识别
机器学习
摘要
近期关于神经网络对抗脆弱性的研究表明，以最小化所有可能对抗扰动下最坏情况损失上界为目标训练的模型可提升对抗攻击的鲁棒性。除利用对抗训练框架外，我们表明通过强制深度神经网络（DNN）在变换后的输入与特征空间中保持线性，可显著提升鲁棒性。我们还证明，通过在目标函数中加入局部 Lipschitz 正则化项可进一步增强模型的鲁棒性。我们的方法优于最复杂的对抗训练方法，并在 MNIST、CIFAR10 和 SVHN 数据集上达到了最先进的对抗精度。本文中，我们还利用逆表示学习以及对抗训练深度神经网络分类器的线性特性，提出了一种新颖的对抗图像生成方法。
引用
@article{arxiv.1910.08108,
title = {Enforcing Linearity in DNN succours Robustness and Adversarial Image Generation},
author = {Anindya Sarkar and Nikhil Kumar Gupta and Raghu Iyengar},
journal= {arXiv preprint arXiv:1910.08108},
year = {2019}
}
备注
Adversarial Machine Learning