面向可穿戴设备的二值化神经网络推理分类能耗最小化
信号处理
2019-03-28 v1
摘要
本文中，我们提出一种低功耗硬件，用于高效部署已针对生理数据集训练好的二值化神经网络（BNNs）。BNNs将权重和特征图限制为1位，可在一个内存条目所提供的宽度内尽可能多地装入1位权重，并可通过在对齐打包条目上的一次融合按位xnor与众数计数指令执行多个乘加（MAC）操作。我们所提硬件随处理引擎（PEs）数量和内存宽度可扩展，二者均可针对给定应用以最节能配置进行调整。我们在平台上实现了两个真实案例研究，包括体力活动监测与压力检测，并在目标平台上针对各案例研究寻求最优PE与内存配置。我们的实现结果表明，在Artix-7 FPGA与65nm CMOS ASIC实现上，具备良好内存宽度与PE数选择的配置可分别将能耗优化达4倍与2.5倍。我们还表明，一般而言，更宽的内存可造就更高效的BNN处理硬件。为进一步降低能耗，我们引入池化跳过（Pool-Skipping）技术，可跳过BNNs中伴随最大池化层的至少25%的操作，在压力检测案例研究中实现总计22%的操作削减。相较于采用相同案例研究、相同目标平台且分类精度相同的相关工作，我们的硬件在FPGA上的压力检测与ASIC上的体力活动监测分别节能4.5倍与250倍。
引用
@article{arxiv.1903.11381,
title = {Minimizing Classification Energy of Binarized Neural Network Inference for Wearable Devices},
author = {Morteza Hosseini and Hirenkumar Paneliya and Uttej Kallakuri and Mohit Khatwani and Tinoosh Mohsenin},
journal= {arXiv preprint arXiv:1903.11381},
year = {2019}
}
备注
Accepted and presented at 20th International Symposium on Quality Electronic Design (ISQED 2019) on March 7th, 2019, Santa Clara, CA, USA