基于情感分析的新对抗图像检测
密码学与安全
2023-05-08 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
深度神经网络（DNN）易受对抗样本攻击，而对抗攻击模型（如 DeepFool）不断增多并超越了对抗样本检测技术。本文提出了一种新型对抗样本检测器，在识别图像数据集上最新对抗攻击方面优于最先进的检测器。具体而言，我们提出利用情感分析进行对抗样本检测，其依据是受攻击 DNN 的隐藏层特征图上对抗扰动逐渐显现的影响。相应地，我们设计了一个具有最少可学习参数的模块化嵌入层，将隐藏层特征图嵌入为词向量并组装为可供情感分析的句子。大量实验表明，该新检测器在检测针对 CIFAR-10、CIFAR-100 和 SVHN 数据集上 ResNet 和 Inception 神经网络发起的最新攻击时，持续超越最先进的检测算法。该检测器仅约 200 万参数，使用 Tesla K80 GPU 卡检测由最新攻击模型生成的对抗样本耗时短于 4.6 毫秒。
引用
@article{arxiv.2305.03173,
title = {New Adversarial Image Detection Based on Sentiment Analysis},
author = {Yulong Wang and Tianxiang Li and Shenghong Li and Xin Yuan and Wei Ni},
journal= {arXiv preprint arXiv:2305.03173},
year = {2023}
}