AutoAdversary：一种用于稀疏对抗攻击的像素剪枝方法
计算机视觉与模式识别
2022-03-21 v1 人工智能
机器学习
摘要
深度神经网络（DNNs）已被证明易受对抗样本攻击。一类特殊的对抗样本，即稀疏对抗样本，仅通过扰动极少数像素即可欺骗目标 DNNs。然而，许多现有的稀疏对抗攻击使用启发式方法选择待扰动像素，并将像素选择与对抗攻击视为两个独立步骤。从神经网络剪枝的视角出发，我们提出了一种新颖的端到端稀疏对抗攻击方法，即 AutoAdversary，它通过将像素选择整合进对抗攻击中，自动找出最重要的像素。具体而言，我们的方法利用可训练的神经网络生成用于像素选择的二值掩码。在联合优化对抗扰动与神经网络后，仅扰动掩码中值为 1 所对应的像素。实验证明了我们所提方法相对于若干最先进方法的优越性。此外，由于 AutoAdversary 不需要启发式像素选择过程，当图像尺寸增大时，它不会像其他方法那样过度变慢。
引用
@article{arxiv.2203.09756,
title = {AutoAdversary: A Pixel Pruning Method for Sparse Adversarial Attack},
author = {Jinqiao Li and Xiaotao Liu and Jian Zhao and Furao Shen},
journal= {arXiv preprint arXiv:2203.09756},
year = {2022}
}