MixDefense：一种基于统计与语义分析的对抗样本检测纵深防御框架
密码学与安全
2022-01-25 v2 人工智能
摘要
基于深度神经网络（DNNs）的机器学习已成为许多安全关键系统（如自动驾驶汽车和医疗诊断系统）的基础技术之一。然而，基于DNN的系统已知易受对抗样本（AEs）的攻击，对抗样本是合法输入的恶意扰动变体。尽管文献中已有大量研究来防御AE攻击，现有防御技术的性能仍远不能令人满意，尤其是对于自适应攻击——攻击者了解防御机制并相应制造AEs。在这项工作中，我们提出了一种用于AE检测的多层纵深防御框架，即MixDefense。对于第一层，我们关注那些具有大扰动的AEs。我们提议利用从输入中提取的“噪声”特征来发现自然图像与篡改图像之间的统计差异，以进行AE检测。对于小扰动的AEs，此类输入的推理结果会大幅偏离其语义信息。因此，我们提出了一种新颖的基于学习的方案来建模此类矛盾以进行AE检测。这两层都对自适应攻击具有鲁棒性，因为不存在用于生成AE的梯度传播路径。在图像分类数据集上采用多种AE攻击方法的实验结果表明，所提出的MixDefense方案以显著优势优于现有AE检测技术。
引用
@article{arxiv.2104.10076,
title = {MixDefense: A Defense-in-Depth Framework for Adversarial Example Detection Based on Statistical and Semantic Analysis},
author = {Yijun Yang and Ruiyuan Gao and Yu Li and Qiuxia Lai and Qiang Xu},
journal= {arXiv preprint arXiv:2104.10076},
year = {2022}
}