中文

基于每神经元至多一次脉冲的图像识别

神经与进化计算 2020-01-22 v3 机器学习 机器学习

摘要

为了将训练好的人工神经网络(ANNs)的性能移植到脉冲神经网络(SNNs)上——后者可在神经形态硬件中以大幅降低的能耗实现——需要一种高效的 ANN 到 SNN 转换方法。以往的转换方案侧重于用脉冲神经元的发放率来表示 ANN 中修正线性(ReLU)门的模拟输出。但这对于其他常用 ANN 门是不可能的,并且即使对于 ReLU 门也会降低吞吐量。我们提出了一种新的转换方法,其中 ANN 中的一个门(基本上可以是任意类型)由一个小型脉冲神经元电路模拟,每个神经元至多发放一次脉冲(AMOS)。我们表明,这种 AMOS 转换将 SNNs 在 ImageNet 上的准确率从 74.60% 提升到 80.97%,从而使其接近现有最佳 ANN 准确率(85.0%)。SNNs 的 Top5 准确率提升至 95.82%,更接近 ANNs 的最佳 Top5 性能 97.2%。此外,AMOS 转换将基于脉冲的图像分类的延迟和吞吐量改善了数个数量级。因此,这些结果表明 SNNs 为开发兼具高性能与应用通用性的高能效 AI 硬件提供了一条可行路径。

关键词

引用

@article{arxiv.2001.01682,
  title  = {Recognizing Images with at most one Spike per Neuron},
  author = {Christoph Stöckl and Wolfgang Maass},
  journal= {arXiv preprint arXiv:2001.01682},
  year   = {2020}
}

备注

14 pages, 7 figures