NiSNN-A：结合注意力机制的非迭代脉冲神经网络及其在运动想象脑电分类中的应用
神经与进化计算
2025-01-28 v2 机器学习
摘要
运动想象是脑电图（EEG）研究中的一个重要类别，通常与需要低能耗的场景相交，例如便携式医疗设备和孤立环境操作。传统的深度学习算法虽然有效，但其特点是计算需求大且能耗高。作为替代，受大脑生物功能启发的脉冲神经网络（Spiking Neural Networks, SNNs）成为一种极具前景的高能效解决方案。然而，SNNs 通常表现出低于其对应的卷积神经网络（CNNs）的准确率。尽管注意力机制通过聚焦相关特征成功提高了网络准确率，但它们在 SNN 框架中的集成仍是一个开放问题。在这项工作中，我们将 SNN 和注意力机制结合起来用于 EEG 分类，旨在提高精度并降低能耗。为此，我们首先提出了一种非迭代漏积分触发（Leaky Integrate-and-Fire, LIF）神经元模型，克服了使用迭代 LIF 神经元的传统 SNNs 中的梯度问题。然后，我们引入了基于序列的注意力机制来细化特征图。我们在大规模运动想象数据集 OpenBMI 上评估了所提出的结合注意力的非迭代脉冲神经网络（Non-iterative SNN with Attention, NiSNN-A）模型。实验结果表明：1）我们的模型通过获得更高的准确率优于其他 SNN 模型；2）与对应的 CNN 模型相比，我们的模型在保持相当准确率的同时提高了能效（即提高了 2.27 倍）。
引用
@article{arxiv.2312.05643,
title = {NiSNN-A: Non-iterative Spiking Neural Networks with Attention with Application to Motor Imagery EEG Classification},
author = {Chuhan Zhang and Wei Pan and Cosimo Della Santina},
journal= {arXiv preprint arXiv:2312.05643},
year = {2025}
}