${SpikePack}$: 高性能硬件兼容性下的脉冲神经网络信息流增强
神经与进化计算
2025-02-04 v2
摘要
脉冲神经网络 (SNN) 因其低能耗、受生物学启发的计算优势而备受关注。我们发现，脉冲传输过程中存在显著的信息损失，这与传统漏积积分-放电 (LIF) 神经元的时间依赖性密切相关，可能是限制 SNN 性能的关键因素。现有 SNN 架构也未能充分利用现代 GPU，受限于单比特脉冲存储和孤立的权重-脉冲运算，导致计算效率受限。我们提出 ，一种旨在减少传输损失、同时保留膜电位复位和漏积积分等关键特性的神经元模型。 实现了恒定的 时间复杂度和空间复杂度，能够高效地实现 GPU 上的并行处理，同时支持现有 SNN 硬件加速器上的串行推理。 与标准人工神经网络 (ANN) 架构兼容，支持在各种网络上实现近乎无损的 ANN-to-SNN 转换。在图像分类、检测和分割等任务上的实验结果表明， 在直接训练和转换后的 SNN 相较于最先进模型，在准确率和效率方面均实现显著提升。在 FPGA 平台上的测试进一步确认了跨平台的灵活性，实现了高性能和增强稀疏性。通过增强信息流并重新思考 SNN-ANN 集成， 推动了在多样化硬件平台上的高效 SNN 部署。
引用
@article{arxiv.2501.14484,
title = {$SpikePack$: Enhanced Information Flow in Spiking Neural Networks with High Hardware Compatibility},
author = {Guobin Shen and Jindong Li and Tenglong Li and Dongcheng Zhao and Yi Zeng},
journal= {arXiv preprint arXiv:2501.14484},
year = {2025}
}