面向 DNN 与视觉工作负载的带数据交换网格的稠密张量加速器
分布式、并行与集群计算
2021-11-29 v1
摘要
我们提出了一种名为VectorMesh的稠密张量加速器，这是一种可扩展且内存高效的架构，能够支持多种DNN和计算机视觉工作负载。其构建模块是分块执行单元（TEU），包含数十个处理单元（PE）和通过蝶形网络连接的SRAM缓冲器。TEU之间的FIFO网格促进了分块间的数据交换，并将局部数据提升为全局可见。根据屋顶线模型，与SOTA架构相比，我们的设计在CNN、GEMM和空间匹配算法上表现更佳。它可以将全局缓冲区和DRAM读取次数分别减少2至22倍和最高5倍。
引用
@article{arxiv.2111.12885,
title = {A Dense Tensor Accelerator with Data Exchange Mesh for DNN and Vision Workloads},
author = {Yu-Sheng Lin and Wei-Chao Chen. Chia-Lin Yang and Shao-Yi Chien},
journal= {arXiv preprint arXiv:2111.12885},
year = {2021}
}