卷积神经网络中对抗样本的检测

卷积神经网络的巨大成功导致此类模型在大量计算机视觉应用中被广泛使用。然而，这些模型对某些输入（即对抗样本）脆弱，尽管人类不易察觉，它们却能使神经网络产生错误结果。本文关注于为执行图像分类的卷积神经网络所构造的对抗样本的检测。我们提出三种检测可能对抗样本的方法，在分析并比较其性能后，结合各自优点开发出更鲁棒的方法。第一种方法基于神经网络作为输出所产生的特征向量的正则化。第二种方法通过使用由神经网络隐藏层输出创建的直方图来检测对抗样本。这些直方图生成特征向量，用作SVM分类器的输入，将原始输入分类为对抗输入或真实输入。最后，第三种方法我们引入残差图像的概念，其包含关于神经网络忽略的输入模式部分的信息。该方法旨在通过使用残差图像并增强神经网络忽略的输入模式部分来检测可能的对抗样本。这些方法各自具有新颖性，结合它们可进一步改善检测结果。对于所提方法及其组合，我们给出了在MNIST数据集上检测对抗样本的结果。所提方法的组合相较类似的当前最优（SOTA）方法有一定提升。