Surrogates、Spikes 与稀疏性：SNN 超参数在硬件上的性能分析与特征化
硬件体系结构
2026-03-27 v1 人工智能
摘要
脉冲神经网络 (SNN) 由于稀疏、事件驱动的计算，具有低功耗推断的内在优势。然而，SNN 的理论能源优势常常与实际硬件性能脱节，因为训练时选择与推理时稀疏性之间存在不透明的关系。虽然已有工作聚焦于权重剪枝和压缩，但关于训练超参数—— Specifically 指代代理梯度函数和神经元模型配置——在塌造硬件级激活稀疏性方面的作用仍未得到充分探索。本文提出了一项工作特征化研究，量化了硬件延迟对 SNN 超参数灵敏度。我们解耦了代理梯度函数 (如 Fast Sigmoid、Spike Rate Escape) 和神经元模型 (LIF、Lapicque) 对分类准确率和推理效率的影响，研究对象包括 DVS128-Gesture、N-MNIST 和 DVS-CIFAR10 三个基于事件的视觉数据集。我们的分析表明，标准准确率指标是硬件效率的差坏预测器。虽然 Fast Sigmoid 在 DVS-CIFAR10 上实现最高准确率，但 Spike Rate Escape 在 DVS128-Gesture 上将推理延迟降低最高可达 12.2%，且准确率损失最小。我们还展示了神经元模型选择与参数调优同样关键；从 LIF 转为 Lapicque 神经元可实现最高 28% 的延迟降低。我们在自定义的基于 FPGA 的 cycle-accurate SNN 仪器平台上进行验证，表明基于稀疏性的超参数选择可将准确率提高 9.1%，将延迟提高超过 2 倍。这些发现建立了从训练参数预测硬件行为的方法论。RTL 和可重复性资源位于 https://zenodo.org/records/18893738。
引用
@article{arxiv.2603.24891,
title = {Surrogates, Spikes, and Sparsity: Performance Analysis and Characterization of SNN Hyperparameters on Hardware},
author = {Ilkin Aliyev and Jesus Lopez and Tosiron Adegbija},
journal= {arXiv preprint arXiv:2603.24891},
year = {2026}
}