基于脉冲时间位移的卷积脉冲神经网络误差反向传播
神经与进化计算
2021-09-01 v1 人工智能
计算机视觉与模式识别
摘要
我们最近提出了 STiDi-BP 算法,该算法避免反向递归梯度计算,用于训练基于单脉冲时间编码的多层脉冲神经网络(SNNs)。该算法采用线性近似计算脉冲延迟相对于膜电位的导数,并使用具有分段线性突触后电位的脉冲神经元以降低计算成本和神经处理的复杂性。在本文中,我们扩展了 STiDi-BP 算法以将其用于更深和卷积架构。基于两个流行基准 MNIST 和 Fashion-MNIST 数据集的图像分类任务的评估结果(准确率分别为 99.2% 和 92.8%)证实该算法已适用于深度 SNNs。我们考虑的另一个问题是降低存储内存和计算成本。为此,我们考虑一个具有两组权重的卷积 SNN(CSNN):在反向传播中更新的实值权重,以及在前馈过程中使用的其符号——二值权重。我们在 MNIST 和 Fashion-MNIST 两个数据集上评估二值 CSNN,相对于实值权重获得了可接受的性能,精度下降可忽略(分别约为 和 的下降)。
引用
@article{arxiv.2108.13621,
title = {Spike time displacement based error backpropagation in convolutional spiking neural networks},
author = {Maryam Mirsadeghi and Majid Shalchian and Saeed Reza Kheradpisheh and Timothée Masquelier},
journal= {arXiv preprint arXiv:2108.13621},
year = {2021}
}