用于无训练ANN到SNN转换的差分编码
计算机视觉与模式识别
2025-07-09 v3
摘要
脉冲神经网络(SNN)因其低能耗而展现出显著潜力。将人工神经网络(ANN)转换为SNN是实现高性能SNN的有效途径。然而,许多转换方法基于速率编码,需要大量的脉冲和更长的时间步长,相比直接训练的SNN会导致能耗和延迟的增加。本文提出了一种用于ANN到SNN转换的差分编码,这是一种新颖的编码方案,通过传输速率信息的变化而非直接传输速率来减少脉冲计数和能耗,并探讨了其在各层中的应用。此外,还提出了阈值迭代方法,用于在将修正线性单元(ReLU)转换为脉冲神经元时基于激活分布优化阈值。在各种卷积神经网络(CNN)和Transformer上的实验结果表明,所提出的差分编码显著提高了准确性,同时降低了能耗,特别是与阈值迭代方法结合使用时,达到了最先进的性能。所提出的方法的源代码可在 https://github.com/h-z-h-cell/ANN-to-SNN-DCGS 获取。
引用
@article{arxiv.2503.00301,
title = {Differential Coding for Training-Free ANN-to-SNN Conversion},
author = {Zihan Huang and Wei Fang and Tong Bu and Peng Xue and Zecheng Hao and Wenxuan Liu and Yuanhong Tang and Zhaofei Yu and Tiejun Huang},
journal= {arXiv preprint arXiv:2503.00301},
year = {2025}
}