脉冲神经网络安全吗？脉冲与深度神经网络安全性漏洞的比较研究
机器学习
2021-01-26 v2 密码学与安全
图像与视频处理
机器学习
摘要
与标准深度神经网络（DNNs）相比，脉冲神经网络（SNNs）被认为在生物合理性与能量效率方面具有诸多优势。近期工作表明 DNNs 易受对抗攻击，即输入数据上添加微小扰动可导致定向或随机误分类。本文旨在研究关键科学问题：“SNNs 是否安全？”为此，我们对 SNNs 与 DNNs 在对抗噪声方面的安全性漏洞进行了比较研究。随后，我们提出一种新颖的黑盒攻击方法，即在不知晓 SNN 内部结构的情况下，采用贪婪启发式自动生成难以察觉且鲁棒的对抗样本（即攻击图像）以攻击给定 SNN。为获得公平比较，我们对层数及神经元数量相同的脉冲深度信念网络（SDBN）与 DNN 进行了深入评估，以研究所提方法的有效性并理解 SNNs 与 DNNs 在对抗样本上的差异。考虑到 SNNs 与人脑功能的相似性，我们的工作为 SNNs 鲁棒性研究开辟了新途径。
引用
@article{arxiv.1902.01147,
title = {Is Spiking Secure? A Comparative Study on the Security Vulnerabilities of Spiking and Deep Neural Networks},
author = {Alberto Marchisio and Giorgio Nanfa and Faiq Khalid and Muhammad Abdullah Hanif and Maurizio Martina and Muhammad Shafique},
journal= {arXiv preprint arXiv:1902.01147},
year = {2021}
}
备注
Accepted for publication at the 2020 International Joint Conference on Neural Networks (IJCNN)