HAWKEYE：深度神经网络的对抗样本检测器
机器学习
2019-09-24 v1 密码学与安全
摘要
对抗样本（AEs）是通过向原始图像引入轻微扰动而能误导深度神经网络（DNN）分类器的图像。近期工作表明，检测 AEs 比阻止其生成更有效。然而，最先进的 AE 检测仍表现出较高的误报率，从而拒绝了相当数量的正常图像。为解决此问题，我们提出 HAWKEYE，它是一个分析 DNN 输出层的独立神经网络，用于检测 AEs。HAWKEYE 的 AE 检测器利用输入图像的量化版本作为参考，并经过训练以区分 DNN 在输入图像上的输出变化特征与其在参考图像上的输出。我们还表明，级联为不同量化步长训练的 AE 检测器可大幅降低误报率，同时保持高检测率。
引用
@article{arxiv.1909.09938,
title = {HAWKEYE: Adversarial Example Detector for Deep Neural Networks},
author = {Jinkyu Koo and Michael Roth and Saurabh Bagchi},
journal= {arXiv preprint arXiv:1909.09938},
year = {2019}
}