FireFly-S：基于可重构时空架构的双稀疏性加速脉冲神经网络
硬件体系结构
2026-01-30 v3
摘要
脉冲神经网络（SNN）采用类脑结构，使用离散脉冲而非连续激活，正因其高效处理的特性而受到关注。在神经芯片上进行处理。虽然当前的SNN硬件加速器往往侧重于时序脉冲稀疏性，但利用稀疏突触权重潜在的效率优势尚未得到充分挖掘。为此，我们提出FireFly-S，这是FireFly系列的一个稀疏扩展版本。该方案聚焦于利用双稀疏性进行加速。软件层面，我们提出一种算法优化框架，结合剪枝的梯度重构和修改版的学习步长量化（LSQ）用于SNN，实现权重稀疏度超过85%，并可在几乎不损失精度的情况下实现高效4位量化。在硬件层面，我们提出一种高效的双稀疏性检测器，采用基于位图的稀疏解码逻辑，以确定非零权重和输入脉冲的位置。该逻辑允许直接绕过冗余计算，从而提升计算效率。与前述FireFly系列所采用的叠加式架构不同，我们采用参数化时空架构，配合跨层流水线，能够充分发挥Field-Programmable Gate Arrays（FPGA）的细粒度可编程性和可重构性，实现对各种模型的快速部署。还提出一种时空数据流以支持跨层流水线并避免长期时序依赖。在在MNIST、DVS-Gesture和CIFAR-10数据集上进行实验后，FireFly-S模型实现了85%~95%的稀疏度和4位量化，硬件加速器有效利用双稀疏性，分别在MNIST、DVS-Gesture和CIFAR-10上实现了10,047~FPS/W、3,683~FPS/W和2,327~FPS/W的性能指标。
引用
@article{arxiv.2408.15578,
title = {FireFly-S: Exploiting Dual-Side Sparsity for Spiking Neural Networks Acceleration with Reconfigurable Spatial Architecture},
author = {Tenglong Li and Jindong Li and Guobin Shen and Dongcheng Zhao and Qian Zhang and Yi Zeng},
journal= {arXiv preprint arXiv:2408.15578},
year = {2026}
}
备注
14 pages, 8 figures. Accepted for publication in IEEE Transactions on Circuits and Systems I: Regular Papers (TCAS-I)