Cnvlutin2：免无效激活与权重的深度神经网络计算
机器学习
2017-05-02 v1
摘要
我们讨论了对先前提出的用于深度学习网络卷积层和全连接层的Cnvlutin（CNV）加速器的若干修改和扩展。我们首先描述了被视为无效的激活值的几种编码方式。这些编码具有不同的内存开销和能耗特性。我们提议在从内存访问激活值时使用间接层以通过仅存储有效激活值来减少其内存占用。我们还提出了一种改进的组织结构，在从内存获取激活值时检测被视为无效的激活值。这与原始设计在上一层输出处检测它们不同。最后，我们提出了一种扩展的CNV，其还能跳过无效的权重。
引用
@article{arxiv.1705.00125,
title = {Cnvlutin2: Ineffectual-Activation-and-Weight-Free Deep Neural Network Computing},
author = {Patrick Judd and Alberto Delmas and Sayeh Sharify and Andreas Moshovos},
journal= {arXiv preprint arXiv:1705.00125},
year = {2017}
}
备注
6 pages, 5 figures