E-PUR：一种面向循环神经网络的节能处理单元
神经与进化计算
2019-09-04 v1 硬件体系结构
摘要
循环神经网络（RNNs）是自动语音识别、机器翻译或图像描述等新兴应用的一项关键技术。长短期记忆（LSTM）网络是最成功的 RNN 实现，因为它们能够学习长期依赖关系以达到高准确率。遗憾的是，LSTM 网络的循环特性显著限制了并行度，因此多核 CPU 和众核 GPU 在 RNN 推理上效率低下。在本文中，我们提出 E-PUR，一种针对 LSTM 计算需求定制的节能处理单元。E-PUR 的主要目标是为低功耗移动设备支持大型循环神经网络。E-PUR 提供了 LSTM 网络的高效硬件实现，并可灵活支持多种应用。其主要创新之一是一种我们称之为最大化权重局部性（MWL）的技术，该技术改善了用于读取突触权重的访存时间局部性，大幅降低了存储需求。我们的实验结果表明，E-PUR 针对不同 LSTM 网络均实现了实时性能，同时相较于通用处理器和 GPU 将能耗降低了数个数量级，并且所需芯片面积极小。与现代移动 SoC NVIDIA Tegra X1 相比，E-PUR 平均节能 92 倍。
引用
@article{arxiv.1711.07480,
title = {E-PUR: An Energy-Efficient Processing Unit for Recurrent Neural Networks},
author = {Franyell Silfa and Gem Dot and Jose-Maria Arnau and Antonio Gonzalez},
journal= {arXiv preprint arXiv:1711.07480},
year = {2019}
}