增强 DNN 数据流表示下精度可缩放 MAC 阵列的分类与基准测试
分布式、并行与集群计算
2022-01-20 v2
摘要
降低精度和可变精度的乘积累加（MAC）运算提供了在无/有限算法性能损失的情况下，显著提高 DNN 加速器能效和吞吐量的机会，为在资源受限的边缘设备上部署 AI 应用铺平了道路。相应地，最近提出了各种精度可缩放 MAC 阵列（PSMA）架构。然而，由于每种提出的 PSMA 都在不同的系统和技术中得到验证，因此很难在这些替代方案之间进行公平的比较。这项工作旨在提供 PSMA 设计空间的清晰视图，并根据设计者的需求提供选择最佳架构的见解。首先，我们引入了一种精度增强的 DNN 数据流 for 循环表示。接着，我们使用这种新表示构建了一个全面的 PSMA 分类体系，能够系统地涵盖大多数最先进的 PSMA，并发现新的 PSMA 架构。随后，我们构建了一个高度参数化的 PSMA 模板，该模板可在设计时配置为分类体系所跨越的设计空间的一个庞大子集。这使得能够公平且彻底地对 72 种不同的 PSMA 架构进行基准测试。我们在 28nm 工艺下进行了此类研究，目标是从 8 位到 2 位的运行时精度可缩放性，工作频率为 200 MHz 和 1 GHz。分析所得的能耗和面积分布揭示了 PSMA 架构的关键设计准则。
引用
@article{arxiv.2108.04773,
title = {Taxonomy and Benchmarking of Precision-Scalable MAC Arrays Under Enhanced DNN Dataflow Representation},
author = {Ehab M. Ibrahim and Linyan Mei and Marian Verhelst},
journal= {arXiv preprint arXiv:2108.04773},
year = {2022}
}