QP-SNN：量化与剪枝的脉冲神经网络

脉冲神经网络（SNN）借助稀疏脉冲对信息进行编码，并以非同步事件驱动的方式运行，为机器智能提供了高度能效的范式。然而，当前SNN社区主要致力于通过开发大规模模型来提升性能，这限制了SNN在资源受限边缘设备中的应用。本文提出一种面向硬件友好且轻量级的SNN，旨在有效部署高性能SNN于资源受限场景。具体而言，我们首先开发一种将均匀量化和结构化剪枝集成的基线模型，称为QP-SNN基线。尽管该基线显著降低存储需求和计算成本，但因性能下降而受到限制。为此，我们对量化与剪枝导致性能退化的挑战进行深入分析，并提出相应解决方案以提升基线的性能。对于权重量化，我们提出一种权重重缩放策略，更有效地利用位宽，提高模型的表示能力。对于结构化剪枝，我们提出一种新颖的剪枝准则，利用时空脉冲活动的奇异值，以实现对冗余核的更准确删除。大量实验表明，将所提两种方法集成到基线模型后，QP-SNN能够实现最先进的性能与效率，凸显了其在边缘智能计算中提升SNN部署潜力的价值。