在循环神经网络中通过脉冲卷积块注意力模块增强自适应历史保留
神经与进化计算
2024-01-09 v1
摘要
脉冲神经网络（SNNs）是处理时间序列中时空模式的一种高效模型，例如从动态视觉传感器（DVS）收集的地址事件表示（AER）数据。尽管卷积 SNNs 受益于卷积结构主导的空间特征提取能力，在这些 AER 数据集上取得了显著性能，但它们忽略了与顺序时间点相关的时序特征。在本文中，我们开发了一种嵌入了先进脉冲卷积块注意力模块（SCBAM）组件的循环脉冲神经网络（RSNN）模型，以结合时空模式的空间和时序特征。它通过 SCBAM 自适应地调用空间和时序通道中的历史信息，这带来了高效内存调用和消除历史冗余的优势。我们的模型在 DVS128-Gesture 数据集和其他时间序列数据集上进行了评估。实验结果表明，与其他模型相比，所提出的 SRNN-SCBAM 模型以更少的内存空间更好地利用了空间和时间维度上的历史信息，并实现了更高的准确率。
引用
@article{arxiv.2401.03719,
title = {Enhancing Adaptive History Reserving by Spiking Convolutional Block Attention Module in Recurrent Neural Networks},
author = {Qi Xu and Yuyuan Gao and Jiangrong Shen and Yaxin Li and Xuming Ran and Huajin Tang and Gang Pan},
journal= {arXiv preprint arXiv:2401.03719},
year = {2024}
}