通用试金石图案：揭示CNN中的后门攻击
计算机视觉与模式识别
2020-05-18 v2
摘要
深度神经网络在许多应用中的空前成功使其成为对抗性利用的主要目标。本文提出一种用于检测深度卷积神经网络(CNNs)后门攻击（亦称木马攻击）的基准技术。我们引入通用试金石图案(ULPs)的概念，通过将这些通用图案输入网络并分析输出（即将网络分类为"干净"或"受损"），可揭示后门攻击。该检测速度快，因为仅需对CNN进行少量前向传播。我们在数千个于四个基准数据集（即德国交通标志识别基准GTSRB、MNIST、CIFAR10和Tiny-ImageNet）上训练的不同架构网络上证明了ULPs检测后门攻击的有效性。本文的代码及训练/测试模型见 https://umbcvision.github.io/Universal-Litmus-Patterns/。
引用
@article{arxiv.1906.10842,
title = {Universal Litmus Patterns: Revealing Backdoor Attacks in CNNs},
author = {Soheil Kolouri and Aniruddha Saha and Hamed Pirsiavash and Heiko Hoffmann},
journal= {arXiv preprint arXiv:1906.10842},
year = {2020}
}
备注
CVPR 2020 Oral