NeuroTrainer：一种用于深度学习训练的智能内存模块
硬件体系结构
2017-10-13 v1
摘要
本文提出NeuroTrainer，一种带有内存内加速器的智能内存模块，它构成了可扩展架构的基本构件，用于深度神经网络的高效节能训练。所提架构基于在3D内存模块的逻辑层中集成由多个处理引擎组成的同质计算基底。NeuroTrainer利用基于可编程数据流的执行模型，在训练操作的不同阶段优化内存映射和数据重用。编程模型及支持架构利用灵活的数据流高效加速各类DNN的训练。在15nm FinFET工艺下的周期级仿真与综合设计显示出500 GFLOPS/W的能效，以及对包括卷积、循环、多层感知机和混合（CNN+RNN）网络在内的广泛DNN几乎相似的吞吐量。
引用
@article{arxiv.1710.04347,
title = {NeuroTrainer: An Intelligent Memory Module for Deep Learning Training},
author = {Duckhwan Kim and Taesik Na and Sudhakar Yalamanchili and Saibal Mukhopadhyay},
journal= {arXiv preprint arXiv:1710.04347},
year = {2017}
}