用于提升图像分类准确率与鲁棒性的局部对抗训练
机器学习
2019-09-12 v1 密码学与安全
计算机视觉与模式识别
图像与视频处理
机器学习
摘要
当今最先进的图像分类器无法正确分类经过精心操纵的对抗图像。在这项工作中，我们开发了一种新的局部对抗攻击，通过不可察觉地改变正常图像的背景来生成对抗样本。我们首先利用该攻击凸显神经网络对图像背景变化的不必要敏感性，然后将其作为一种新训练技术——局部对抗训练——的一部分。通过在训练集中加入局部对抗图像，我们能够创建一个在自然输入和对抗输入上均比非对抗训练的对照模型损失更小的分类器。我们的局部对抗训练算法在 MNIST 和 CIFAR-10 数据集上的评估显示，在自然图像上的准确率损失降低，且针对对抗输入的鲁棒性增强。
引用
@article{arxiv.1909.04779,
title = {Localized Adversarial Training for Increased Accuracy and Robustness in Image Classification},
author = {Eitan Rothberg and Tingting Chen and Luo Jie and Hao Ji},
journal= {arXiv preprint arXiv:1909.04779},
year = {2019}
}
备注
4 pages (excluding references). Presented at AdvML: 1st Workshop on Adversarial Learning Methods for Machine Learning and Data Mining at KDD '19