XNOR 神经引擎：一款用于 21.6 fJ/op 二值神经网络推理的硬件加速器 IP
神经与进化计算
2018-07-23 v1 硬件体系结构
机器学习
摘要
二值神经网络（BNNs）有望以常规深度神经网络在内存和能耗方面极小的一部分代价提供可比的精度。在本文中，我们介绍了 XNOR 神经引擎（XNE），一种用于 BNN 的全数字可配置硬件加速器 IP，其集成于配备自主 I/O 子系统和混合 SRAM / 标准单元存储器的微控制器单元（MCU）中。XNE 能够自主或与 MCU 中的内核协作地完全计算卷积层和全连接层，以实现更复杂的行为。我们给出了 XNE IP 在 65nm 和 22nm 工艺下的综合后结果，以及完整 MCU 在 22nm 工艺下的布局后结果，表明该系统可将每次二值操作的能耗降至 0.4V 下每操作 21.6 fJ，同时具有足够的灵活性与性能，以低于每帧 2.2 mJ、8.9 fps 的代价执行诸如 ResNet-34 等最先进的 BNN 拓扑。
引用
@article{arxiv.1807.03010,
title = {XNOR Neural Engine: a Hardware Accelerator IP for 21.6 fJ/op Binary Neural Network Inference},
author = {Francesco Conti and Pasquale Davide Schiavone and Luca Benini},
journal= {arXiv preprint arXiv:1807.03010},
year = {2018}
}
备注
11 pages, 8 figures, 2 tables, 3 listings. Accepted for presentation at CODES'18 and for publication in IEEE Transactions on Computer-Aided Design of Circuits and Systems (TCAD) as part of the ESWEEK-TCAD special issue