ZigZag:一个以内存为中心的快速DNN加速器设计空间探索框架
分布式、并行与集群计算
2020-08-12 v3
摘要
构建高效的嵌入式深度学习系统需要DNN算法、内存层次与数据流之间的紧密协同设计。然而,由于设计空间自由度大,通过逐个实现设计点来寻找最优解变得不可行。近来出现了若干用于快速设计空间探索(DSE)的估计框架,但它们要么运行时间长,要么探索空间有限。本工作介绍ZigZag,一个以内存为中心的快速DNN加速器DSE框架,其通过非均匀映射机会扩展DSE,其中共享内存层级的操作数不再被绑定为每个循环索引使用相同的内存层级。为此,ZigZag采用以内存为中心的嵌套循环格式作为统一表示,以集成算法、加速器及算法到加速器的映射,并包含三个关键组件:1)延迟增强的分析型硬件代价估计器,2)支持任意类型内存层次上均匀/非均匀调度的时序映射生成器,3)探索整个内存层次设计空间的架构生成器。针对现有框架的基准实验,以及三个不同设计抽象层次的案例研究,展示了ZigZag的优势。通过引入ZigZag的非均匀调度机会,找到了至多33%更节能的解决方案。
引用
@article{arxiv.2007.11360,
title = {ZigZag: A Memory-Centric Rapid DNN Accelerator Design Space Exploration Framework},
author = {Linyan Mei and Pouya Houshmand and Vikram Jain and Sebastian Giraldo and Marian Verhelst},
journal= {arXiv preprint arXiv:2007.11360},
year = {2020}
}
备注
14 pages, 20 figures. Source code is available at https://github.com/ZigZag-Project/zigzag