基于误差补偿学习的高效 ANN-SNN 转换
机器学习
2025-06-04 v1 人工智能
神经与进化计算
摘要
人工神经网络（ANN）在众多任务中表现出色，但由于其高计算和高内存需求，在资源受限环境中的部署仍面临挑战。脉冲神经网络（SNN）通过离散脉冲事件运行，具有卓越的能效，提供了一种受生物学启发的替代方案。然而，当前的 ANN 到 SNN 转换由于截断、量化以及激活不均匀等转换误差，往往导致显著的精度损失和推理时间增加。本文提出了一种基于误差补偿学习的新型 ANN 到 SNN 转换框架。我们引入了可学习的阈值截断函数、双阈值神经元以及优化的膜电位初始化策略，以缓解转换误差。这些技术共同作用：通过自适应阈值解决截断误差，通过双阈值神经元动态降低量化误差，并通过有效管理膜电位来最小化非均匀性误差。在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上的实验结果表明，我们的方法在现有转换方法中实现了高精度和超低延迟。在 ResNet-18 结构下，仅使用两个时间步，我们的方法显著减少了推理时间，同时在 CIFAR-10 数据集上保持了 94.75% 的竞争性准确率。本研究促进了 SNN 在低功耗硬件上的实际应用，使高效的实时处理成为可能。
引用
@article{arxiv.2506.01968,
title = {Efficient ANN-SNN Conversion with Error Compensation Learning},
author = {Chang Liu and Jiangrong Shen and Xuming Ran and Mingkun Xu and Qi Xu and Yi Xu and Gang Pan},
journal= {arXiv preprint arXiv:2506.01968},
year = {2025}
}