中文

BackEISNN:一种具有自适应自反馈与平衡兴奋-抑制神经元的深度脉冲神经网络

神经与进化计算 2021-05-28 v1

摘要

脉冲神经网络(SNNs)通过离散脉冲传输信息,在处理时空信息方面表现良好。由于不可微特性,设计性能良好的 SNNs 仍存在困难。近来,借助梯度近似的提出,用反向传播训练的 SNNs 展现出优越性能。然而,在复杂任务上的性能仍远不及深度神经网络。受大脑中自突触(将脉冲神经元以自反馈连接)的启发,我们在膜电位上施加自适应时延自反馈以调节脉冲精度。同时,我们应用平衡兴奋与抑制神经元机制来动态控制脉冲神经元的输出。结合这两种机制,我们提出了一种具有自适应自反馈与平衡兴奋和抑制神经元的深度脉冲神经网络(BackEISNN)。在多个标准数据集上的实验结果表明,这两个模块不仅加速了网络收敛,还提升了准确率。对于 MNIST、FashionMNIST 和 N-MNIST 数据集,我们的模型取得了最先进的性能。对于 CIFAR10 数据集,我们的 BackEISNN 在相对轻量的结构上也取得了显著性能,可与最先进的 SNNs 相竞争。

关键词

引用

@article{arxiv.2105.13004,
  title  = {BackEISNN: A Deep Spiking Neural Network with Adaptive Self-Feedback and Balanced Excitatory-Inhibitory Neurons},
  author = {Dongcheng Zhao and Yi Zeng and Yang Li},
  journal= {arXiv preprint arXiv:2105.13004},
  year   = {2021}
}