探索对抗图像的空间
神经与进化计算
2016-06-24 v5
摘要
对抗样本引发了关于深度神经网络鲁棒性和安全性的疑问。在这项工作中，我们形式化了给定预训练分类器的对抗图像问题，表明即使在线性情况下，所得优化问题也是非凸的。我们在 MNIST 和 ImageNet 数据集上使用浅层和深层分类器生成对抗图像。我们利用不同强度和分布的噪声探测对抗图像的像素空间。我们给出了展示该现象及其高可变性的新颖可视化。我们表明对抗图像出现在像素空间中的大区域，但对于相同任务，浅层分类器似乎比深度卷积网络对对抗图像更鲁棒。
引用
@article{arxiv.1510.05328,
title = {Exploring the Space of Adversarial Images},
author = {Pedro Tabacof and Eduardo Valle},
journal= {arXiv preprint arXiv:1510.05328},
year = {2016}
}
备注
Copyright 2016 IEEE. This manuscript was accepted at the IEEE International Joint Conference on Neural Networks (IJCNN) 2016. We will link the published version as soon as the DOI is available