AdvDrop：通过丢弃信息对深度神经网络进行对抗攻击
计算机视觉与模式识别
2021-08-23 v1 密码学与安全
机器学习
图像与视频处理
摘要
人类可轻易识别丢失信息的视觉对象：即使仅保留轮廓而丢失大多数细节（例如卡通），也能识别。然而，就深度神经网络（DNNs）的视觉感知而言，识别抽象对象（丢失信息的视觉对象）的能力仍具挑战。本文从对抗视角探讨该问题：仅丢失少量信息的图像是否也会使 DNN 性能下降？为此，我们提出一种名为 \textit{AdvDrop} 的新型对抗攻击，通过丢弃图像已有信息来制造对抗样本。先前大多数对抗攻击显式地在干净图像上添加额外扰动信息。与以往工作相反，我们所提方法从新视角探索 DNN 模型的对抗鲁棒性，通过丢弃难以察觉的细节来制造对抗样本。我们通过大量实验证明了 \textit{AdvDrop} 的有效性，并表明这类新型对抗样本更难被当前防御系统防御。
引用
@article{arxiv.2108.09034,
title = {AdvDrop: Adversarial Attack to DNNs by Dropping Information},
author = {Ranjie Duan and Yuefeng Chen and Dantong Niu and Yun Yang and A. K. Qin and Yuan He},
journal= {arXiv preprint arXiv:2108.09034},
year = {2021}
}
备注
Accepted to ICCV 2021