NESTA：基于汉明重量压缩的神经网络处理引擎
机器学习
2019-10-03 v1 机器学习
摘要
在本文中，我们提出 NESTA，一种专用的神经引擎，可显著加速深度卷积神经网络中卷积层的计算，同时降低计算能耗。NESTA 将卷积重格式化为 批次，并使用汉明重量压缩器层级结构来处理每个批次。此外，在处理跨多个通道的卷积时，NESTA 不是计算每个通道卷积的精确结果，而是快速计算其部分和以及残差值，使得将残差值加到近似部分和上可生成准确输出。然后，NESTA 不立即添加残差，而是在处理下一批次时，在具有可用容量的汉明重量压缩器中利用（消耗）该残差。该机制通过避免每轮计算中传播进位信号的需求而缩短了关键路径，并加速了每个通道的卷积。在计算的最后阶段，当计算出最后一个通道的部分和时，NESTA 通过将残差位加到近似输出来终止并生成正确结果。
引用
@article{arxiv.1910.00700,
title = {NESTA: Hamming Weight Compression-Based Neural Proc. Engine},
author = {Ali Mirzaeian and Houman Homayoun and Avesta Sasan},
journal= {arXiv preprint arXiv:1910.00700},
year = {2019}
}