脉冲神经网络中的时间灵活性：迈向跨时间步泛化与部署友好性
机器学习
2025-03-25 v1 人工智能
计算机视觉与模式识别
神经与进化计算
摘要
脉冲神经网络（SNNs）是一种受大脑神经机制启发的模型，能够在神经形态硬件上实现节能部署。然而，当前直接训练方法训练的SNNs受限于特定的时间步。这种“时间不灵活性”1）阻碍了SNNs在无时间步的全事件驱动芯片上的部署，2）阻止了基于动态推理时间步的能效平衡。在本研究中，我们首先探索训练能够跨不同时间步泛化的SNNs的可行性。然后，我们引入混合时间步训练（MTT），一种新颖的方法，提高了SNNs的时间灵活性，使SNNs适应多样的时间结构。在MTT的每次迭代中，随机时间步被分配给不同的SNN阶段，脉冲通过通信模块在阶段之间传输。训练后，权重在时间步和全事件驱动平台上部署和评估。实验结果表明，由MTT训练的模型获得了显著的时间灵活性，对事件驱动和时钟驱动部署均友好（在N-MNIST上几乎无损，在CIFAR10-DVS上比标准方法高10.1%），增强了网络泛化能力，并接近SOTA性能。据我们所知，这是首次报告大规模SNN在全事件驱动场景下部署结果的工作。
引用
@article{arxiv.2503.17394,
title = {Temporal Flexibility in Spiking Neural Networks: Towards Generalization Across Time Steps and Deployment Friendliness},
author = {Kangrui Du and Yuhang Wu and Shikuang Deng and Shi Gu},
journal= {arXiv preprint arXiv:2503.17394},
year = {2025}
}
备注
20 pages, ICLR 2025