仅需一个时间步：以超低延迟训练脉冲神经网络
神经与进化计算
2021-10-13 v1 人工智能
摘要
脉冲神经网络（SNNs）是常用深度神经网络（DNNs）的节能替代方案。通过事件驱动的信息处理，SNNs 可大幅降低 DNNs 昂贵的计算需求，同时取得可比的性能。然而，高推理延迟是深度 SNNs 边缘部署的一大阻碍。多个时间步上的计算不仅因操作数增加而提高延迟与总体能量预算，还会带来读取膜电位的访存开销，两者均削弱了 SNNs 的节能优势。为克服该瓶颈并发挥 SNNs 的全部潜力，我们提出一种 SNNs 的迭代初始化与重训练方法（IIR-SNN），以在时间轴上执行单次推理。该方法从训练了 T 个时间步（T>1）的 SNN 开始。然后在每个延迟缩减阶段，前一阶段以较高时间步训练的网络被用作后续以较低时间步训练的初始化。这充当一种压缩方法，因为网络在时间域上逐渐被收缩。本文中我们使用直接输入编码并选取 T=5，因为据文献，这是在 ImageNet 上取得满意性能所需的最小延迟。所提方案使我们能获得延迟低至单位时间的 SNNs，推理时仅需单次前向传播。我们在 CIFAR-10、CIFAR-100 和 ImageNet 上分别使用 VGG16 以仅 1 个时间步取得了 93.05%、70.15% 和 67.71% 的 top-1 准确率。此外，IIR-SNNs 相较其他 SOTA SNNs 推理延迟降低 5-2500 倍，且保持可比甚至更优的准确率。进一步，与标准 DNNs 相比，所提 IIR-SNNs 提供 25-33 倍更高的能量效率，同时在分类性能上与之相当。
引用
@article{arxiv.2110.05929,
title = {One Timestep is All You Need: Training Spiking Neural Networks with Ultra Low Latency},
author = {Sayeed Shafayet Chowdhury and Nitin Rathi and Kaushik Roy},
journal= {arXiv preprint arXiv:2110.05929},
year = {2021}
}