RMP-Loss：用于脉冲神经网络膜电位分布正则化的损失函数
计算机视觉与模式识别
2023-08-15 v1
摘要
脉冲神经网络（SNNs）作为受生物学启发的模型之一，近年来受到广泛关注。由于它将实值膜电位量化为0/1脉冲来传递信息，从而在硬件实现时激活与权重的乘法可被加法替代，因此能显著降低能耗。然而，这种量化机制不可避免地引入量化误差，进而造成灾难性信息丢失。为解决量化误差问题，我们提出一种正则化膜电位损失（RMP-Loss），将直接与量化误差相关的分布调整至接近脉冲的范围。我们的方法实现极为简单，且训练SNN直观便捷。此外，研究表明其在不同网络架构与数据集上持续优于先前最先进的方法。
引用
@article{arxiv.2308.06787,
title = {RMP-Loss: Regularizing Membrane Potential Distribution for Spiking Neural Networks},
author = {Yufei Guo and Xiaode Liu and Yuanpei Chen and Liwen Zhang and Weihang Peng and Yuhan Zhang and Xuhui Huang and Zhe Ma},
journal= {arXiv preprint arXiv:2308.06787},
year = {2023}
}
备注
Accepted by ICCV2023