SCNN：一种用于压缩稀疏卷积神经网络的加速器
神经与进化计算
2017-08-16 v1 硬件体系结构
机器学习
摘要
卷积神经网络（CNN）已成为机器学习的一项基础技术。高性能与极高的能效对于 CNN 在众多场景中的部署至关重要，尤其是在自动驾驶汽车、相机和电子个人助理等移动平台上。本文介绍了稀疏 CNN（SCNN）加速器架构，该架构通过利用训练过程中网络剪枝产生的零值权重，以及推理过程中常用的 ReLU 算子产生的零值激活，来提升性能和能效。具体而言，SCNN 采用了一种新颖的数据流，能够以压缩编码形式维持稀疏权重和激活，从而消除了不必要的数据传输并降低了存储需求。此外，SCNN 数据流有助于将这些权重和激活高效地传递到乘法器阵列，并在其中被广泛复用。同时，乘法结果的累加在一个新颖的累加器阵列中完成。我们的结果表明，在当代神经网络上，与同等配置的密集 CNN 加速器相比，SCNN 可将性能和能效分别提升 2.7 倍和 2.3 倍。
引用
@article{arxiv.1708.04485,
title = {SCNN: An Accelerator for Compressed-sparse Convolutional Neural Networks},
author = {Angshuman Parashar and Minsoo Rhu and Anurag Mukkara and Antonio Puglielli and Rangharajan Venkatesan and Brucek Khailany and Joel Emer and Stephen W. Keckler and William J. Dally},
journal= {arXiv preprint arXiv:1708.04485},
year = {2017}
}