SpikeSim：用于脉冲神经网络基准测试的首尾端存内计算硬件评估工具
神经与进化计算
2022-10-25 v1 计算机视觉与模式识别
摘要
SNN（脉冲神经网络）是面向高能效机器智能的活跃研究领域。与常规ANN（人工神经网络）相比，SNN使用时序脉冲数据以及具有生物合理性的神经元激活函数（如泄漏积分发放/积分发放(LIF/IF)）进行数据处理。然而，SNN带来大量的点积运算，在标准冯·诺依曼计算平台上导致高昂的内存与计算开销。如今，已提出存内计算(IMC)架构以缓解冯·诺依曼架构中普遍存在的“内存墙瓶颈”。尽管近期工作提出了基于IMC的SNN硬件加速器，但以下方面被忽视：1) 由于多个时间步上重复的模拟点积运算，交叉阵列非理想性对SNN性能的不利影响；2) LIF/IF及数据通信模块等SNN特有组件的硬件开销。为此，我们提出SpikeSim，一种能够对IMC映射的SNN进行真实性能、能耗、延迟和面积评估的工具。SpikeSim由一种称为SpikeFlow的实用单片IMC架构组成，用于映射SNN。此外，非理想性计算引擎(NICE)与能耗-延迟-面积(ELA)引擎对SpikeFlow映射的SNN执行硬件真实评估。基于65nm CMOS实现及在CIFAR10、CIFAR100和TinyImagenet数据集上的实验，我们发现LIF/IF神经元模块面积占比较大（超过总硬件面积的11%）。我们提出SNN拓扑修改，使神经元模块面积和整体能量延迟积分别降低1.24倍和10倍。此外，本文对IMC实现的ANN与SNN进行了整体比较，并得出结论：相较于4-bit ANN，更少的时间步数是SNN实现更高吞吐量与能效的关键。
引用
@article{arxiv.2210.12899,
title = {SpikeSim: An end-to-end Compute-in-Memory Hardware Evaluation Tool for Benchmarking Spiking Neural Networks},
author = {Abhishek Moitra and Abhiroop Bhattacharjee and Runcong Kuang and Gokul Krishnan and Yu Cao and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2210.12899},
year = {2022}
}
备注
14 pages, 22 figures