以眼还眼：利用梯度防御基于梯度的攻击
计算机视觉与模式识别
2022-02-03 v1 密码学与安全
机器学习
摘要
深度学习模型已被证明易受对抗攻击。特别是，基于梯度的攻击近期展示了很高的成功率。梯度度量了每个图像像素如何影响模型输出，其中包含用于生成恶意扰动的关键信息。本文中，我们展示梯度也可被用作防御对抗攻击的强大武器。通过使用梯度图与对抗图像作为输入，我们提出双流复原网络（TRN）来复原对抗图像。为以双流输入最优地复原被扰动图像，提出一种梯度图估计机制来估计对抗图像的梯度，并在 TRN 中设计融合块以探索与融合双流中的信息。一旦训练完成，我们的 TRN 可防御大范围攻击方法，且不显著降级良性输入的性能。此外，我们的方法具有可泛化、可扩展且难以绕过的特点。在 CIFAR10、SVHN 与 Fashion MNIST 上的实验结果表明我们的方法优于最先进的防御方法。
引用
@article{arxiv.2202.01117,
title = {An Eye for an Eye: Defending against Gradient-based Attacks with Gradients},
author = {Hanbin Hong and Yuan Hong and Yu Kong},
journal= {arXiv preprint arXiv:2202.01117},
year = {2022}
}