基于脉冲兼容梯度的脉冲神经网络对抗攻击探索
神经与进化计算
2020-10-02 v2 密码学与安全
机器学习
信号处理
摘要
近来，受时间反向传播启发的算法被广泛引入 SNN 以提升性能，这使得在给定时空梯度图的情况下精确攻击模型成为可能。我们提出两种方法来解决梯度输入不兼容与梯度消失的挑战。具体而言，我们设计了一个梯度到脉冲转换器，将连续梯度转换为与脉冲输入兼容的三值梯度。然后，我们设计了一个梯度触发器，在遇到全零梯度时，构造能够以可控翻转率随机翻转脉冲输入的三值梯度。将这些方法结合，我们建立了一种针对由监督算法训练的 SNN 的对抗攻击方法。此外，我们分析了训练损失函数与倒数第二层发放阈值的影响，这表明在交叉熵损失下存在一个可通过阈值调节逃逸的“陷阱”区域。我们进行了大量实验来验证我们方案的有效性。除对影响因素的定量分析外，我们证实 SNN 相比 ANN 对对抗攻击更具鲁棒性。本工作有助于揭示 SNN 攻击中发生的情况，并可能激发更多关于 SNN 模型与神经形态器件安全性的研究。
引用
@article{arxiv.2001.01587,
title = {Exploring Adversarial Attack in Spiking Neural Networks with Spike-Compatible Gradient},
author = {Ling Liang and Xing Hu and Lei Deng and Yujie Wu and Guoqi Li and Yufei Ding and Peng Li and Yuan Xie},
journal= {arXiv preprint arXiv:2001.01587},
year = {2020}
}