面向高能效嵌入式神经形态计算的众核大小型 μBrain 设计
神经与进化计算
2021-11-24 v1 硬件体系结构
摘要
随着基于脉冲的深度学习推理应用在嵌入式系统中的增多，这类系统倾向于集成如 Brain 等神经形态加速器以提升能效。我们提出一种基于 Brain 的可扩展众核神经形态硬件设计，以加速脉冲深度卷积神经网络 (SDCNNs) 的计算。为提升能效，核心在神经元与突触容量上设计为异构（大核容量高于小核），并采用并行分段总线互连，相较传统基于网格的片上网络 (NoC) 具有更低延迟与能耗。我们提出名为 SentryOS 的系统软件框架，将 SDCNN 推理应用映射至该设计。SentryOS 由编译器与运行时管理器组成。编译器利用大小型 Brain 核的内部架构将 SDCNN 应用编译为子网络。运行时管理器将这些子网络调度至各核并以流水线方式执行以提升吞吐。我们以五种常用 SDCNN 推理应用评估所提大小型众核神经形态设计及系统软件框架，结果表明该方案降低能耗（37% 至 98%）、降低延迟（9% 至 25%）并提升应用吞吐（20% 至 36%）。我们还展示 SentryOS 可轻松扩展至其他脉冲神经形态加速器。
引用
@article{arxiv.2111.11838,
title = {Design of Many-Core Big Little \mu Brain for Energy-Efficient Embedded Neuromorphic Computing},
author = {M. Lakshmi Varshika and Adarsha Balaji and Federico Corradi and Anup Das and Jan Stuijt and Francky Catthoor},
journal= {arXiv preprint arXiv:2111.11838},
year = {2021}
}
备注
Accepted for publication at DATE 2022