用于降低卷积神经网络加速器延迟与功耗的稀疏周期脉动数据流
计算机视觉与模式识别
2022-07-04 v1
摘要
本文提出稀疏周期脉动(SPS)数据流,推进了支持轻量级神经网络的最先进硬件加速器。具体而言,SPS 数据流实现了一种由新兴剪枝方案——基于周期模式的稀疏性(PPS)所解锁的新型硬件设计方法。通过利用 PPS 的规律性,我们的稀疏感知编译器最优地重排权重,并在硬件中使用一个简单的索引单元来建立权重与激活值之间的匹配。通过编译器-硬件协同设计,SPS 数据流享有更高程度的并行性,同时免于高索引开销且无不损模型精度。在 VGG 与 ResNet 等流行基准上评估,SPS 数据流及配套神经网络编译器在面向 FPGA 设备的卷积神经网络(CNN)加速器设计中优于先前工作。相较于其他支持稀疏性的权重存储格式,SPS 带来 4.49 倍的能效提升,同时将总权重存储(未剪枝权重加索引)的存储需求降低 3.67 倍,索引内存降低 22,044 倍。
引用
@article{arxiv.2207.00068,
title = {Sparse Periodic Systolic Dataflow for Lowering Latency and Power Dissipation of Convolutional Neural Network Accelerators},
author = {Jung Hwan Heo and Arash Fayyazi and Amirhossein Esmaili and Massoud Pedram},
journal= {arXiv preprint arXiv:2207.00068},
year = {2022}
}
备注
6 pages, Published in ACM/IEEE International Symposium on Low Power Electronics and Design (ISLPED) 2022