梯度隐藏：防御对抗攻击的免费午餐
计算机视觉与模式识别
2022-05-24 v1
摘要
近期研究表明，深度神经网络（DNNs）已在各类任务中取得巨大成功。然而，即便是当前最先进的基于深度学习的分类器也极易受到对抗样本的攻击，导致在大量未知攻击存在时判别准确率急剧下降。鉴于神经网络广泛应用于开放世界场景（可能为安全攸关情形），缓解深度学习方法的对抗效应已成为迫切需求。通常，传统DNNs在白盒场景下梯度完全暴露，因而可被以极高成功率攻击，仅需对原始数据空间施加难以察觉的扰动即可轻易摧毁训练良好的分类器。针对此问题，我们提出了一种即插即用、无需训练的层，称为梯度隐藏模块（GCM），其在推理时隐藏梯度的脆弱方向，同时保证分类准确率。GCM在ImageNet分类基准上报告了优越的防御结果，相较于原始DNNs，面对对抗输入时top-1攻击鲁棒性（AR）提升高达63.41%。此外，我们将GCM用于CVPR 2022鲁棒分类挑战赛，仅以tiny版ConvNext目前在第二阶段取得第2名。代码将公开。
引用
@article{arxiv.2205.10617,
title = {Gradient Concealment: Free Lunch for Defending Adversarial Attacks},
author = {Sen Pei and Jiaxi Sun and Xiaopeng Zhang and Gaofeng Meng},
journal= {arXiv preprint arXiv:2205.10617},
year = {2022}
}