利用自然场景统计与自适应去噪检测和防御深度学习中的对抗样本
计算机视觉与模式识别
2021-07-14 v1 密码学与安全
图像与视频处理
摘要
尽管深度神经网络（DNNs）具有巨大的性能，近期研究已表明它们易受对抗样本（AEs）的攻击，即精心扰动的输入，旨在欺骗目标DNN。目前，文献中充满了许多有效的攻击来制造此类AEs。同时，许多防御策略已被开发以缓解此漏洞。然而，后者仅对特定攻击显示出有效性，且不能很好地泛化到不同攻击。在本文中，我们提出了一个防御DNN分类器免受对抗样本攻击的框架。所提方法基于两阶段框架，包含一个独立的检测器和一个去噪块。检测器旨在通过自然场景统计（NSS）刻画AEs来检测它们，我们证明这些统计特征会被对抗扰动的存在所改变。去噪器基于块匹配3D（BM3D）滤波器，由卷积神经网络（CNN）估计的最优阈值输入，以将检测为AEs的样本投影回其数据流形。我们在三个标准数据集即MNIST、CIFAR-10和Tiny-ImageNet上进行了完整评估。实验结果表明，所提防御方法在黑盒、灰盒和白盒设置下针对一组攻击通过提高鲁棒性优于最先进的防御技术。源代码可在 https://github.com/kherchouche-anouar/2DAE 获取。
引用
@article{arxiv.2107.05780,
title = {Detect and Defense Against Adversarial Examples in Deep Learning using Natural Scene Statistics and Adaptive Denoising},
author = {Anouar Kherchouche and Sid Ahmed Fezza and Wassim Hamidouche},
journal= {arXiv preprint arXiv:2107.05780},
year = {2021}
}