基于高频噪声筛分的对抗样本自动检测系统
计算机视觉与模式识别
2019-08-06 v1 机器学习
图像与视频处理
摘要
深度神经网络正被应用于诸多任务并取得令人鼓舞的结果，且常达到人类水平性能。然而，深度神经网络易受称为对抗样本的精心设计的输入样本攻击。特别地，神经网络倾向于将人类不可察觉的对抗样本误分类。本文引入一种新检测系统，可自动检测深度神经网络上的对抗样本。我们提出的系统能以端到端方式在无人工干预下大多区分对抗样本与良性图像。我们利用频域在对抗样本中的重要作用，提出一种在观测中检测恶意样本的方法。在两个标准基准数据集（MNIST 与 ImageNet）上评估时，我们的方法在许多设定下达到了 99.7%–100% 的外检测率。
引用
@article{arxiv.1908.01469,
title = {Automated Detection System for Adversarial Examples with High-Frequency Noises Sieve},
author = {Dang Duy Thang and Toshihiro Matsui},
journal= {arXiv preprint arXiv:1908.01469},
year = {2019}
}
备注
Appear to 11th International Symposium on Cyberspace Safety and Security CSS 2019, Guangzhou, China