中文

神经形态硬件上的超低功耗图像分类

计算机视觉与模式识别 2024-06-25 v2

摘要

脉冲神经网络(SNNs)通过利用时空稀疏性,有望实现超低功耗应用。在神经形态硬件上执行时,称为脉冲的二值激活数量与所消耗功率成正比。对于主要依赖空间特征的视觉任务,使用随时间反向传播训练此类SNNs计算代价高昂。训练无状态人工神经网络(ANN)再将权重转换为SNN,是处理图像识别数据集的直接替代方案。多数转换方法依赖SNN中的速率编码来表示ANN激活,这使用海量脉冲从而消耗大量能量来编码信息。近期,时序转换方法展现出良好前景,所需每神经元脉冲数显著更少,但有时神经元模型复杂。我们提出一种基于首脉冲时间(TTFS)的时序ANN到SNN转换方法,称为Quartz。Quartz在达到高分类准确率的同时,可易于在神经形态硬件上实现,且使用最少的突触操作与内存访问。相较先前时序转换方法,它每神经元多两个突触的代价,而这些突触在神经形态硬件上 readily available。我们在MNIST、CIFAR10与ImageNet上通过仿真对Quartz进行基准测试以展示方法优势,并随后在Intel的神经形态芯片Loihi上实现。我们提供证据表明,在相似分类准确率下,时序编码在功耗、吞吐量与延迟方面具优势。我们的代码与模型已公开可用。

关键词

引用

@article{arxiv.2309.16795,
  title  = {Ultra-low-power Image Classification on Neuromorphic Hardware},
  author = {Gregor Lenz and Garrick Orchard and Sadique Sheik},
  journal= {arXiv preprint arXiv:2309.16795},
  year   = {2024}
}