STSC-SNN：面向脉冲神经网络的时序卷积与注意力时空突触连接
神经与进化计算
2023-06-07 v1 神经元与认知
机器学习
摘要
脉冲神经网络作为神经形态计算中的一种算法模型，因其时间信息处理能力、低功耗和高生物学合理性而受到广泛关注。其高效提取时空特征的潜力使其适合处理事件流。然而，SNN 中现有的突触结构几乎全是全连接或空间二维卷积，两者都无法充分提取时间依赖性。在这项工作中，我们从生物突触中汲取灵感，提出了一种时空突触连接 SNN（STSC-SNN）模型，以增强突触连接的时空感受野，从而建立跨层的时间依赖性。具体而言，我们结合时序卷积和注意力机制来实现突触滤波和门控功能。我们表明，赋予突触模型时间依赖性可以提高 SNN 在分类任务上的性能。此外，我们研究了不同时空感受野对性能的影响，并重新评估了 SNN 中的时间模块。我们的方法在神经形态数据集上进行了测试，包括 DVS128 Gesture（手势识别）、N-MNIST、CIFAR10-DVS（图像分类）和 SHD（语音数字识别）。结果表明，所提出的模型在几乎所有数据集上的准确率均优于 SOTA。
引用
@article{arxiv.2210.05241,
title = {STSC-SNN: Spatio-Temporal Synaptic Connection with Temporal Convolution and Attention for Spiking Neural Networks},
author = {Chengting Yu and Zheming Gu and Da Li and Gaoang Wang and Aili Wang and Erping Li},
journal= {arXiv preprint arXiv:2210.05241},
year = {2023}
}