STONNE：面向灵活神经网络加速器的详细体系结构模拟器
信号处理
2020-06-15 v1 硬件体系结构
机器学习
摘要
专门用于加速深度神经网络（DNNs）推理过程的专用体系结构设计如今是一个蓬勃发展的研究领域。第一代刚性方案已被更先进的灵活加速器体系结构迅速取代，后者能够高效支持多种层类型与维度。随着设计复杂度的增长，研究人员越来越需要随时可用的周期精确仿真工具，以便在设计早期进行快速准确的设计空间探索，并快速量化体系结构改进的功效。为此，我们提出STONNE（Simulation TOol of Neural Network Engines，神经网络引擎仿真工具），一个周期精确、高度模块化且高度可扩展的仿真框架，支持对运行完整当代DNN模型的灵活加速器体系结构进行端到端评估。我们使用STONNE对近期提出的MAERI体系结构建模，并展示其性能结果可紧密接近公开可用的BSV编码MAERI实现。随后，我们进行了综合评估，表明为MAERI实现的折叠策略导致极低的计算单元利用率（在5个DNN模型上平均仅25%），最终转化为较差的性能。
引用
@article{arxiv.2006.07137,
title = {STONNE: A Detailed Architectural Simulator for Flexible Neural Network Accelerators},
author = {Francisco Muñoz-Martínez and José L. Abellán and Manuel E. Acacio and Tushar Krishna},
journal= {arXiv preprint arXiv:2006.07137},
year = {2020}
}