利用深度神经网络改进对抗图像的检测
计算机视觉与模式识别
2020-07-14 v1 密码学与安全
摘要
机器学习技术在工业界和学术界得到了广泛应用。近期研究表明，用于分类任务的机器学习模型易受对抗样本的攻击，这限制了其在高精度要求领域中的应用。我们提出了一种称为特征图去噪（Feature Map Denoising）的新方法来检测对抗输入，并展示了在由不同攻击算法生成的对抗样本组成的混合数据集上的检测性能，该方法可以以较低成本与任何预训练的深度神经网络（DNN）结合使用。维纳滤波器（Wiener filter）也被引入到防御模型中作为去噪算法，可进一步提升性能。实验结果表明，通过我们的特征图去噪算法能够实现对对抗样本的良好检测准确率。
引用
@article{arxiv.2007.05573,
title = {Improved Detection of Adversarial Images Using Deep Neural Networks},
author = {Yutong Gao and Yi Pan},
journal= {arXiv preprint arXiv:2007.05573},
year = {2020}
}