仅使用片上存储器的基于FPGA的深度神经网络实现
硬件体系结构
2016-08-30 v2 神经与进化计算
摘要
深度神经网络(DNNs)需要非常大量的计算与权值存储,因此使用专用硬件高效实现备受期待。本工作中,我们开发了仅使用片上存储器而不访问外部DRAM的基于FPGA的定点DNN系统。将所开发系统的执行时间与能耗同基于GPU的实现进行比较。由于FPGA中存储器容量有限,该实现仅使用3-bit权值,并采用基于训练的定点权值优化。使用Xilinx XC7Z045的实现在MNIST手写数字识别基准与TIMIT语料上的音素识别任务中进行了测试。所获得的速度约为基于GPU实现的四分之一,且远优于基于PC的实现。全速运行时功耗低于5瓦,相较于基于GPU的系统效率大幅提升。
引用
@article{arxiv.1602.01616,
title = {FPGA Based Implementation of Deep Neural Networks Using On-chip Memory Only},
author = {Jinhwan Park and Wonyong Sung},
journal= {arXiv preprint arXiv:1602.01616},
year = {2016}
}
备注
Published in ICASSP 2016