基于雨滴的对抗攻击
计算机视觉与模式识别
2023-07-18 v2
摘要
深度神经网络 (DNN) 已知容易受到对抗样本的攻击，这些样本通常是人为设计以愚弄 DNN 的，但在现实场景中很少存在。本文研究了由雨滴引起的对抗样本，以证明存在大量能够作为 DNN 对抗攻击者的自然现象。此外，我们提出了一种生成对抗雨滴的新方法，记为 AdvRD，使用生成对抗网络 (GAN) 技术来模拟自然雨滴。由我们的 AdvRD 生成的图像看起来与现实世界的雨滴图像非常相似，在统计上接近真实雨滴图像的分布，更重要的是，能够对最先进的 DNN 模型执行强大的对抗攻击。另一方面，我们表明使用 AdvRD 图像进行的对抗训练可以显著提高 DNN 对现实世界雨滴攻击的鲁棒性。进行了大量实验以证明 AdvRD 生成的图像在视觉和统计上接近自然雨滴图像，可以作为 DNN 模型的强大攻击者，同时也有助于提高 DNN 对雨滴攻击的鲁棒性。
引用
@article{arxiv.2302.14267,
title = {Adversarial Attack with Raindrops},
author = {Jiyuan Liu and Bingyi Lu and Mingkang Xiong and Tao Zhang and Huilin Xiong},
journal= {arXiv preprint arXiv:2302.14267},
year = {2023}
}
备注
10 pages, 7 figures, This manuscript was submitted to CVPR 2023