ANN-SNN 转换中的时间错位及其通过概率脉冲神经元的缓解
机器学习
2025-02-24 v2 人工智能
计算机视觉与模式识别
摘要
脉冲神经网络（SNN）通过模仿生物神经原理，提供了比人工神经网络（ANN）更高效的替代方案，因而被视为缓解大规模神经模型能源需求的有前景的方法。然而，充分发挥 SNN 的潜能仍然具有挑战性，这是由于其离散信号处理和时序动力学所致。ANN-SNN 转换已成为一种实用方法，使 SNN 能在复杂机器学习任务上实现具竞争力的性能。本文识别了 ANN-SNN 转换框架中的一种现象，称为时间错位（temporal misalignment），即随机脉冲在 SNN 各层之间的重新排列会导致性能提升。基于此观察，我们引入了双相概率（TPP）脉冲神经元，以进一步提升转换过程。我们通过在 CIFAR-10/100、CIFAR10-DVS 和 ImageNet 上的全面实验，从理论和实证角度证明了我们方法的优势，实现了各种架构的准确性突破。
引用
@article{arxiv.2502.14487,
title = {Temporal Misalignment in ANN-SNN Conversion and Its Mitigation via Probabilistic Spiking Neurons},
author = {Velibor Bojković and Xiaofeng Wu and Bin Gu},
journal= {arXiv preprint arXiv:2502.14487},
year = {2025}
}