基于神经振荡启发的梯度掩蔽的对抗防御
机器学习
2022-11-07 v1 神经与进化计算
摘要
脉冲神经网络（SNNs）因其低功耗、低延迟和生物合理性而备受关注。随着它们被广泛部署于神经形态设备中以进行低功耗类脑计算，安全问题日益重要。然而，相较于深度神经网络（DNNs），SNNs 目前缺乏专门设计的抵御对抗攻击的防御方法。受神经膜电位振荡启发，我们提出一种新颖的神经模型，其融入生物启发的振荡机制以增强 SNNs 的安全性。我们的实验表明，在各种架构和数据集上，具有神经振荡神经元的 SNNs 比具有 LIF 神经元的普通 SNNs 对对抗攻击有更好抗性。此外，我们提出一种防御方法，通过替换振荡形式来改变模型梯度，从而隐藏原始训练梯度并误导攻击者使用“伪”神经元的梯度生成无效对抗样本。我们的实验表明，所提防御方法可有效抵御单步与迭代攻击，防御效果相当且计算成本远低于 DNNs 上的对抗训练方法。据我们所知，这是首个通过掩蔽 SNNs 上的替代梯度建立对抗防御的工作。
引用
@article{arxiv.2211.02223,
title = {Adversarial Defense via Neural Oscillation inspired Gradient Masking},
author = {Chunming Jiang and Yilei Zhang},
journal= {arXiv preprint arXiv:2211.02223},
year = {2022}
}