自适应神经网络的动态感知对抗攻击
计算机视觉与模式识别
2024-01-12 v4
摘要
本文研究自适应神经网络的动态感知对抗攻击问题。现有大多数对抗攻击算法基于一个基本假设——攻击过程中网络架构固定不变。然而，该假设对许多近期提出的自适应神经网络并不成立，这类网络会根据输入自适应地停用不必要的执行单元以提升计算效率。这导致严重的梯度滞后问题，使得当前步学到的攻击因后续架构变化而失效。为解决此问题，我们提出引导梯度方法（Leaded Gradient Method, LGM）并揭示了梯度滞后的显著影响。更具体地，我们重构梯度使其感知网络架构潜在的动态变化，从而在网络架构动态改变时，所学攻击比无动态感知的方法更好地“引导”下一步。在代表性自适应神经网络上对2D图像与3D点云的大量实验表明，与动态无感知攻击方法相比，我们的LGM实现了令人印象深刻的对抗攻击性能。代码见 https://github.com/antao97/LGM。
引用
@article{arxiv.2210.08159,
title = {Dynamics-aware Adversarial Attack of Adaptive Neural Networks},
author = {An Tao and Yueqi Duan and Yingqi Wang and Jiwen Lu and Jie Zhou},
journal= {arXiv preprint arXiv:2210.08159},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2112.09428