利用固有结构参数保护深度脉冲神经网络免受对抗攻击
机器学习
2020-12-11 v1
摘要
深度学习（DL）算法因其实际解决问题的能力而广受欢迎。然而，它们面临严重的完整性威胁，即易受对抗攻击。在追求 DL 可信性的过程中，近期工作声称脉冲神经网络（SNN）对这些攻击具有固有鲁棒性，却未考虑其结构脉冲参数的可变性。本文通过内部结构参数探索 SNN 的安全性增强。具体而言，我们研究了具有不同神经元发放电压阈值和时间窗口边界取值的 SNN 对对抗攻击的鲁棒性。我们在强白盒设定下，针对不同噪声预算和可变脉冲参数，全面研究 SNN 在不同对抗攻击下的安全性。我们的结果表明结构参数对 SNN 安全性有显著影响，并且可以达到有前景的最优点，从而设计出比传统非脉冲 DL 系统鲁棒性高 85% 的可信 SNN。据我们所知，这是首个研究结构参数对 SNN 对抗攻击鲁棒性影响的工作。所提出的贡献和实验框架已在线提供给社区以进行可复现研究。
引用
@article{arxiv.2012.05321,
title = {Securing Deep Spiking Neural Networks against Adversarial Attacks through Inherent Structural Parameters},
author = {Rida El-Allami and Alberto Marchisio and Muhammad Shafique and Ihsen Alouani},
journal= {arXiv preprint arXiv:2012.05321},
year = {2020}
}
备注
Accepted for publication at the 24th Design, Automation and Test in Europe (DATE'21), February, 2021