在 FireSim 上将 NVIDIA 深度学习加速器（NVDLA）与 RISC-V SoC 集成
分布式、并行与集群计算
2019-12-10 v2 计算机视觉与模式识别
摘要
NVDLA 是一款开源的深度神经网络（DNN）加速器，自 Nvidia 推出以来受到了社区的广泛关注。它是一款功能完备的硬件 IP，可作为开展集成加速器的 SoC 研发的良好参考。然而，在真实 SoC 中对该 IP 进行实验需要昂贵的 FPGA 板。此外，由于 NVDLA 在 FPGA 上时钟频率较低，难以基于此类设置进行准确的性能分析。为克服这些限制，我们使用 FireSim（一个周期精确的 FPGA 加速模拟器）将 NVDLA 集成到 Amazon 云 FPGA 上的真实 RISC-V SoC 中。随后我们通过运行 YOLOv3 目标检测算法评估 NVDLA 的性能。我们的结果显示，NVDLA 运行 YOLOv3 时可维持 7.5 fps。我们进一步分析性能，表明与 NVDLA 共享末级缓存可带来高达 1.56 倍的加速。我们随后发现，与加速器共享存储系统会导致该平台上运行的实时任务执行时间不可预测。我们认为这是一个重要问题，必须在将片上 DNN 加速器纳入实时嵌入式系统之前予以解决。
引用
@article{arxiv.1903.06495,
title = {Integrating NVIDIA Deep Learning Accelerator (NVDLA) with RISC-V SoC on FireSim},
author = {Farzad Farshchi and Qijing Huang and Heechul Yun},
journal= {arXiv preprint arXiv:1903.06495},
year = {2019}
}
备注
Presented at the 2nd Workshop on Energy Efficient Machine Learning and Cognitive Computing for Embedded Applications (EMC2'19)