面向理解与利用图像变换在对抗检测中的作用
计算机视觉与模式识别
2022-05-27 v3 人工智能
摘要
深度神经网络（DNNs）受到对抗样本的威胁。对抗检测区分对抗图像与良性图像，是基于DNN的鲁棒服务的基础。图像变换是检测对抗样本最有效方法之一。过去几年中，人们研究并讨论了多种图像变换以设计可靠的对抗检测器。本文以一种新的分类方法系统梳理了通过图像变换进行对抗检测的近期进展。随后，我们开展大量实验测试图像变换针对最先进对抗攻击的检测性能。此外，我们揭示单个变换均无法以鲁棒方式检测对抗样本，并提出一种称为\emph{AdvJudge}的基于DNN的方法，其结合了9种图像变换的得分。在不知晓哪些个体得分具有误导性或不具误导性情况下，AdvJudge能做出正确判断，并实现检测率的显著提升。最后，我们利用可解释AI工具展示每种图像变换对对抗检测的贡献。实验结果表明，图像变换对对抗检测的贡献差异显著，其组合可显著提升针对最先进对抗攻击的通用检测能力。
引用
@article{arxiv.2201.01080,
title = {Towards Understanding and Harnessing the Effect of Image Transformation in Adversarial Detection},
author = {Hui Liu and Bo Zhao and Yuefeng Peng and Weidong Li and Peng Liu},
journal= {arXiv preprint arXiv:2201.01080},
year = {2022}
}