深度神经网络易被愚弄：对不可识别图像的高置信度预测
计算机视觉与模式识别
2015-04-06 v4 人工智能
神经与进化计算
摘要
深度神经网络（DNN）近来在多种模式识别任务，尤其是视觉分类问题上，已取得最先进的性能。鉴于 DNN 现已能以接近人类水平的表现对图像中的物体进行分类，一个自然产生的问题是计算机视觉与人类视觉之间仍存在哪些差异。一项近期研究揭示，以人类无法察觉的方式改变一张图像（例如一张狮子的图像）可导致 DNN 将该图像完全标记为其他物体（例如，将狮子误标为图书馆）。本文展示了一个相关结果：很容易生成对人类而言完全无法识别，但最先进的 DNN 却以 99.99% 的置信度认为是可识别物体的图像（例如，确信地将白噪声静态图像标记为狮子）。具体而言，我们采用在 ImageNet 或 MNIST 数据集上训练表现良好的卷积神经网络，然后通过进化算法或梯度上升法寻找 DNN 以高置信度标记为属于每个数据集类别的图像。可以生成人类肉眼完全无法识别，而 DNN 几乎确信是熟悉物体的图像，我们称之为“愚弄图像”（更一般地，愚弄样本）。我们的结果揭示了人类视觉与当前 DNN 之间有趣的差异，并对 DNN 计算机视觉的泛化性提出了疑问。
引用
@article{arxiv.1412.1897,
title = {Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images},
author = {Anh Nguyen and Jason Yosinski and Jeff Clune},
journal= {arXiv preprint arXiv:1412.1897},
year = {2015}
}
备注
To appear at CVPR 2015