单时间步实现：提升多级脉冲神经网络的稀疏性与能源效率
神经与进化计算
2025-10-29 v1 人工智能
摘要
脉冲神经网络（SNN）是最具潜力的仿生神经网络模型之一，近年来受到广泛关注。SNN 的事件驱动通信机制允许其在专用神形态硬件上实现稀疏和理论上的低功耗运算。然而，瞬时脉冲的二元性也导致 SNN 在信息上的显著损失，进而引起准确率下降。为此，我们提出一种能够在接近全精度人工神经网络（ANN）性能的同时，提供低量化误差和最小推理延迟的多级脉冲神经元模型。实验结果表明，多级脉冲神经元在信息压缩方面表现更佳，从而实现在不牺牲性能的前提下降低延迟。与二元 SNN 在图像分类场景下相比，多级 SNN 可实现因量化区间数量而异，能源消耗降低 2 至 3 倍。在神形态数据上，我们的方法使推理延迟大幅降低至仅 1 个时间步，这相当于相对于之前研究结果的压缩因子为 10。从架构层面，我们提出一种新型残差架构，称为稀疏残差网络（Sparse-ResNet）。通过对脉冲在残差连接中传播进行的深入分析，我们指出一种脉冲雪崩效应，影响了大多数脉冲残差架构。使用我们的稀疏残差网络，我们在图像分类任务中实现了最先进的准确率，同时将网络活动相对于之前的脉冲 ResNet 降低超过 20%。
引用
@article{arxiv.2510.24637,
title = {All in one timestep: Enhancing Sparsity and Energy efficiency in Multi-level Spiking Neural Networks},
author = {Andrea Castagnetti and Alain Pegatoquet and Benoît Miramond},
journal= {arXiv preprint arXiv:2510.24637},
year = {2025}
}