MAT：一种缓解对抗攻击的多强度对抗训练方法
机器学习
2018-05-15 v2 计算机视觉与模式识别
摘要
近期一些工作揭示深度神经网络(DNNs)易受所谓对抗攻击，即输入样本被故意扰动以欺骗DNNs。本工作中，我们重新审视包含对抗样本于训练数据集中的DNN训练过程，以提高DNN对对抗攻击的鲁棒性，即对抗训练。我们的实验表明，不同的对抗强度（即对抗样本的扰动水平）具有不同的抵御攻击的工作区。基于该观察，我们提出了一种多强度对抗训练方法(MAT)，结合不同对抗强度的对抗训练样本来防御对抗攻击。开发了两种训练结构——混合MAT与并行MAT——以权衡训练时间与内存占用。我们的结果表明，MAT能大幅减小深度学习系统在MNIST、CIFAR-10、CIFAR-100和SVHN上因对抗攻击导致的精度退化。
引用
@article{arxiv.1705.09764,
title = {MAT: A Multi-strength Adversarial Training Method to Mitigate Adversarial Attacks},
author = {Chang Song and Hsin-Pai Cheng and Huanrui Yang and Sicheng Li and Chunpeng Wu and Qing Wu and Hai Li and Yiran Chen},
journal= {arXiv preprint arXiv:1705.09764},
year = {2018}
}
备注
6 pages, 4 figures, 2 tables