FPGA上的二值复神经网络加速
机器学习
2021-08-11 v1
摘要
能够从带有相位信息的复杂数据中学习，对许多信号处理应用而言至关重要。当今实值深度神经网络（DNN）在潜在信息分析方面已展现出高效性，但应用于复域时表现不足。相比之下，深度复网络（DCN）可从复杂数据中学习，但计算成本高昂；因此，它们无法满足许多处理短观测或短信号突发的可部署系统对即时决策的要求。近期，二值化复神经网络（BCNN）将DCN与二值化神经网络（BNN）相结合，在实时分类复杂数据方面展现出巨大潜力。本文提出一种基于结构化剪枝的BCNN加速器，能够在边缘设备上提供超过5000帧/秒的推理吞吐量。高性能来源于算法与硬件两方面。在算法侧，我们对原始BCNN模型进行结构化剪枝，获得20的剪枝率且精度损失可忽略；在硬件侧，我们提出一种面向二值复神经网络的新型二维卷积运算加速器。实验结果表明，所提设计利用率超过90%，在使用CIFAR-10数据集和Alveo U280板卡时，对复杂NIN-Net和ResNet-18分别实现5882帧/秒和4938帧/秒的推理吞吐量。
引用
@article{arxiv.2108.04811,
title = {Binary Complex Neural Network Acceleration on FPGA},
author = {Hongwu Peng and Shanglin Zhou and Scott Weitze and Jiaxin Li and Sahidul Islam and Tong Geng and Ang Li and Wei Zhang and Minghu Song and Mimi Xie and Hang Liu and Caiwen Ding},
journal= {arXiv preprint arXiv:2108.04811},
year = {2021}
}
备注
ASAP 2021, 8 pages