SpikeFit: 为神经形态硬件的最优 SNN 部署而生
神经与进化计算
2025-11-04 v2 机器学习
神经元与认知
摘要
本文介绍了 SpikeFit，这是一种用于神经形态硬件上高效推断的 SNN (脉冲神经网络) 训练方法，考虑到其严格的要求：单个设备上能够容纳的神经元和突触的数量，以及较低的位宽表示（如 4 位、8 位）。不同于仅解决部分要求（有限数值精度和网络神经元数目限制）的传统压缩方法，SpikeFit 将允许权重的离散取值本身视为可学习的参数，与模型共同优化，以实现 Clusterization-Aware Training (CAT) 的 optimal 低精度（2 位、4 位或 8 位）训练，从而实现更高的网络压缩效率，同时将唯一突触连接数限制在神经形态处理器所需的范围内。这种联合优化使 SpikeFit 能找到与硬件约束一致的离散权重集合，实现对更广泛范围神经形态处理器的部署。此外，SpikeFit 引入了一种新的硬件友好型 Fisher Spike Contribution (FSC) 剪枝方法，展示了最新的性能。我们证明，对于受限于仅四种唯一突触权重值（M=4）的脉冲神经网络，SpikeFit 方法不仅在 SNN 压缩方法和常规基线（结合极端量化方案和聚类算法）上取得更佳性能，还能满足更广泛的神经形态硬件要求，并在实验中实现最低的能耗。
引用
@article{arxiv.2510.15542,
title = {SpikeFit: Towards Optimal Deployment of Spiking Networks on Neuromorphic Hardware},
author = {Ivan Kartashov and Mariia Pushkareva and Iakov Karandashev},
journal= {arXiv preprint arXiv:2510.15542},
year = {2025}
}
备注
Published at the European Conference on Neural Information Processing Systems (EurIPS 2025). 13 pages, 2 figures