脉冲神经网络对抗鲁棒性的综合分析
神经与进化计算
2019-05-08 v1 机器学习
信号处理
摘要
在机器学习模型的时代，其功能正受到对抗攻击的威胁。在使人工神经网络具备鲁棒性的斗争中，寻找一种对这些攻击具有弹性的模型至关重要。本工作中，我们首次对更具生物合理性的网络，即脉冲神经网络（SNN）在先进对抗测试下的行为进行了综合分析。我们在白盒与黑盒设定下，针对不同类型的单步与多步 FGSM（快速梯度符号法）攻击，使用 CIFAR-10 数据集对常规 VGG-9 人工神经网络（ANN）与等效脉冲网络的精度退化进行了比较研究。我们证明，在黑盒攻击场景下 SNN 相比 ANN 往往表现出更强的弹性。此外，我们发现 SNN 的鲁棒性在很大程度上依赖于相应的训练机制。我们观察到，由基于脉冲的反向传播训练的 SNN 在若干白盒与黑盒场景下比由 ANN 到 SNN 转换规则获得的 SNN 更具对抗鲁棒性。最后，我们还提出了一个简单而有效的从 SNN 构造对抗攻击的框架。我们的结果表明，依据我们所提方法从 SNN 构造的攻击比从 ANN 构造的攻击更强。
引用
@article{arxiv.1905.02704,
title = {A Comprehensive Analysis on Adversarial Robustness of Spiking Neural Networks},
author = {Saima Sharmin and Priyadarshini Panda and Syed Shakib Sarwar and Chankyu Lee and Wachirawit Ponghiran and Kaushik Roy},
journal= {arXiv preprint arXiv:1905.02704},
year = {2019}
}
备注
Accepted in IJCNN2019