脉冲与否?SNN 与 CNN 的 FPGA 实现定量比较
硬件体系结构
2023-06-23 v1 人工智能
摘要
卷积神经网络(CNNs)被广泛用于解决各类问题,例如图像分类。由于其计算密集与数据密集的特性,CNN 加速器已被开发为 ASIC 或基于 FPGA。应用复杂度的提升导致这些加速器的资源开销与能耗需求不断增长。脉冲神经网络(SNNs)是 CNN 实现的一种新兴替代方案,有望提供更高的资源与能耗效率。本文解决的核心研究问题是:与等效的 CNN 相比,SNN 加速器是否真正实现了降低能耗的预期。为此,我们分析了多种用于 FPGA 的 SNN 硬件加速器在性能与能耗效率方面的表现。我们提出了一种新颖的脉冲事件队列编码方案与一种新颖的存储组织技术,以进一步提升 SNN 能耗效率。这两种技术已集成至最先进的 SNN 架构中,并在两种不同规模的现代 FPGA 平台上针对 MNIST、SVHN 和 CIFAR-10 数据集及相应网络架构进行了评估。对于 MNIST 等小规模基准测试,SNN 设计相较对应 CNN 实现几乎无或仅有极小的延迟与能耗效率优势。对于 SVHN 和 CIFAR-10 等更复杂基准测试,趋势则发生逆转。
引用
@article{arxiv.2306.12742,
title = {To Spike or Not to Spike? A Quantitative Comparison of SNN and CNN FPGA Implementations},
author = {Patrick Plagwitz and Frank Hannig and Jürgen Teich and Oliver Keszocze},
journal= {arXiv preprint arXiv:2306.12742},
year = {2023}
}
备注
Submitted to FPT'23 journal track