对抗剖面：在预训练 CNN 中检测分布外样本与对抗样本
计算机视觉与模式识别
2020-11-19 v1
摘要
尽管卷积神经网络（CNN）具有很高的精度，但它们容易受到对抗样本和分布外样本的攻击。已有许多提出的方法试图检测这些欺骗样本或使 CNN 对其具有鲁棒性。然而，大多数此类方法需要访问大量的欺骗样本以重新训练网络或调整检测参数。在此，我们提出了一种针对预训练 CNN 检测对抗样本和分布外样本的方法，无需重新训练 CNN，也无需访问大量多样的欺骗样本。为此，我们仅使用一种对抗攻击生成技术为每个类别创建对抗剖面。然后，我们在预训练 CNN 外围包装一个检测器，该检测器将创建的对抗剖面应用于每个输入，并使用输出结果来决定输入是否合法。我们使用 MNIST 数据集对这种方法进行的初步评估表明，基于对抗剖面的检测在检测分布外样本和对抗样本方面分别至少达到了 92% 和 59% 的有效性。
引用
@article{arxiv.2011.09123,
title = {Adversarial Profiles: Detecting Out-Distribution & Adversarial Samples in Pre-trained CNNs},
author = {Arezoo Rajabi and Rakesh B. Bobba},
journal= {arXiv preprint arXiv:2011.09123},
year = {2020}
}
备注
Accepted on DSN Workshop on Dependable and Secure Machine Learning 2019