DVS-Attacks:面向脉冲神经网络的动态视觉传感器对抗攻击
计算机视觉与模式识别
2021-07-02 v1 机器学习
摘要
脉冲神经网络(SNNs)在神经形态硬件上实现并与基于事件的动态视觉传感器(DVS)结合时虽具能效优势,却易受对抗攻击等安全威胁,即在输入上添加微小扰动以引发误分类。为此,我们提出 DVS-Attacks,一组隐蔽而高效的对抗攻击方法,旨在扰动构成 SNN 输入的事件序列。首先,我们表明 DVS 的噪声滤波器可用作抵御对抗攻击的防御机制。随后,我们实现了若干攻击,并在两类 DVS 相机噪声滤波器存在的情况下进行测试。实验结果表明,这些滤波器只能部分防御我们提出的 DVS-Attacks。在使用最佳噪声滤波器设置时,我们提出的掩码滤波器感知 Dash 攻击相较于原始干净帧,在 DVS-Gesture 数据集上使准确率降低逾 20%,在 MNIST 数据集上降低逾 65%。所有提出的 DVS-Attacks 与噪声滤波器的源代码发布于 https://github.com/albertomarchisio/DVS-Attacks。
引用
@article{arxiv.2107.00415,
title = {DVS-Attacks: Adversarial Attacks on Dynamic Vision Sensors for Spiking Neural Networks},
author = {Alberto Marchisio and Giacomo Pira and Maurizio Martina and Guido Masera and Muhammad Shafique},
journal= {arXiv preprint arXiv:2107.00415},
year = {2021}
}
备注
Accepted for publication at IJCNN 2021