在可重构逻辑上扩展二值化神经网络
计算机视觉与模式识别
2017-01-30 v2 机器学习
摘要
二值化神经网络（BNN）因其显著更低的计算与内存开销而在深度学习界受到关注。它们特别适合可重构逻辑器件，这类器件包含大量细粒度计算资源，可实现更小、更低功耗的实现，或反之实现更高的分类速率。为此，近来提出了 Finn 框架，用于构建快速且灵活的现场可编程门阵列（FPGA）BNN 加速器。Finn 利用一组新颖的优化，实现了 BNN 到硬件的高效映射，并实现了全连接、无填充的卷积和池化层，各层计算资源根据用户给出的吞吐量需求定制。然而，由于所选 FPGA 的规模，FINN 未在更大拓扑上评估，且因缺乏填充而表现出精度下降。在本文中，我们改进 Finn，展示了如何在 BNN 上采用填充，同时保持 1 位数据通路和高精度。基于该技术，我们展示了大量实验以说明方法的灵活性与可扩展性。特别地，我们展示了一个需要每帧 12 亿次操作的大型 BNN 在 ADM-PCIE-8K5 平台上能以 12 kFPS 分类图像，延迟 671 微秒，板卡功耗低于 41 W，并以 88.7% 准确率分类 CIFAR-10 图像。我们对该网络的实现达到了每秒 14.8 万亿次操作。我们相信这是迄今为止在该精度水平上该基准测试所报道的最快分类速率。
引用
@article{arxiv.1701.03400,
title = {Scaling Binarized Neural Networks on Reconfigurable Logic},
author = {Nicholas J. Fraser and Yaman Umuroglu and Giulio Gambardella and Michaela Blott and Philip Leong and Magnus Jahre and Kees Vissers},
journal= {arXiv preprint arXiv:1701.03400},
year = {2017}
}
备注
To appear in the PARMA-DITAM workshop at HiPEAC 2017, January 2017