基于图像边界的深度神经网络不可感知对抗攻击
机器学习
2023-08-30 v1 密码学与安全
计算机视觉与模式识别
摘要
尽管深度神经网络（DNNs），如卷积神经网络（CNN）与 Vision Transformers（ViTs），已成功应用于计算机视觉领域，但它们被证明易受精心构造的对抗样本（AEs）的攻击，这些样本可轻易欺骗 DNNs。自 2014 年发现以来，关于 AEs 的研究十分活跃，许多对抗攻击与解释被提出。AE 存在的谜团仍是一个开放问题，许多研究指出 DNN 训练算法存在盲点。显著物体通常不与被边界重叠；因此边界并非 DNN 模型的关注区域。然而，近期研究表明边界可主导 DNN 模型的行为。故此，本研究旨在从另一视角审视 AEs，并提出一种不可感知的对抗攻击，系统性地攻击输入图像边界以寻找 AEs。实验结果表明，所提出的边界攻击方法仅使用 32% 的输入图像内容（来自边界）便有效攻击了六种 CNN 模型与 ViT，平均成功率（SR）为 95.2%，平均峰值信噪比为 41.37 dB。我们进行了相关性分析，包括对抗边界宽度与 SR 之间的关系，以及对抗边界如何改变 DNN 模型的注意力。本文的发现有望增进对 AEs 的理解，并为如何构造 AEs 提供不同视角。
引用
@article{arxiv.2308.15344,
title = {Imperceptible Adversarial Attack on Deep Neural Networks from Image Boundary},
author = {Fahad Alrasheedi and Xin Zhong},
journal= {arXiv preprint arXiv:2308.15344},
year = {2023}
}