深度脉冲神经网络的固有对抗鲁棒性：离散输入编码与非线性激活的影响
计算机视觉与模式识别
2020-07-27 v2 神经与进化计算
摘要
在近期对可信神经网络的探索中，我们提出脉冲神经网络（SNN）作为对抗对抗攻击具有固有鲁棒性的潜在候选。在这项工作中，我们证明在基于梯度的攻击下，SNN 在 CIFAR 数据集上、深度 VGG 与 ResNet 架构中的对抗准确率高于其非脉冲对应网络，尤其在黑盒攻击场景中。我们将此鲁棒性归因于 SNN 的两个基本特性并分析其影响。首先，我们展示 Poisson 编码器引入的输入离散化以更少时间步数提升了对抗鲁棒性。其次，我们量化了 Leaky-Integrate-Fire（LIF）神经元中随泄漏率增加的对抗准确率。我们的结果表明，用 LIF 神经元和较少时间步数训练的 SNN 比用 IF（Integrate-Fire）神经元和较多时间步数训练的更鲁棒。此外，我们提出了一种从 SNN 构造攻击的技术，克服了在时域中创建基于梯度的对抗输入的瓶颈。
引用
@article{arxiv.2003.10399,
title = {Inherent Adversarial Robustness of Deep Spiking Neural Networks: Effects of Discrete Input Encoding and Non-Linear Activations},
author = {Saima Sharmin and Nitin Rathi and Priyadarshini Panda and Kaushik Roy},
journal= {arXiv preprint arXiv:2003.10399},
year = {2020}
}
备注
Accepted in 16th European Conference on Computer Vision (ECCV 2020)