一种基于掩码的对抗防御方案
机器学习
2022-04-27 v1 人工智能
密码学与安全
摘要
对抗攻击通过对深度神经网络（DNNs）输入施加细微扰动，损害其功能与准确率。本工作中，我们提出一种新的基于掩码的对抗防御方案（MAD）用于 DNNs，以减轻对抗攻击的负面影响。具体而言，我们的方法通过随机掩码一部分潜在对抗图像来增强 DNN 的鲁棒性，从而使 DNN 的分类结果输出对微小输入扰动更具容忍度。与现有对抗防御技术相比，我们的方法不需要任何额外的去噪结构，也无需改变 DNN 的设计。我们在多种数据集的一系列 DNN 模型上测试了该方法，实验结果证实所提方法能有效提升 DNNs 针对所有被测对抗攻击方法的防御能力。在某些场景中，经 MAD 训练的 DNN 模型相较于接收对抗输入的原始模型，分类准确率提升了高达 20% 至 90%。
引用
@article{arxiv.2204.11837,
title = {A Mask-Based Adversarial Defense Scheme},
author = {Weizhen Xu and Chenyi Zhang and Fangzhen Zhao and Liangda Fang},
journal= {arXiv preprint arXiv:2204.11837},
year = {2022}
}
备注
7 pages