FracBNN：具有分数激活的精确且FPGA高效的二值神经网络
机器学习
2020-12-23 v1 计算机视觉与模式识别
摘要
二值神经网络(BNNs)具有1位权重和激活。此类网络非常适于FPGA，因为其主导计算为按位算术且内存需求也显著降低。然而，相较于最先进的紧凑卷积神经网络(CNN)模型，BNNs在如ImageNet等真实数据集上往往产生低得多的精度。此外，BNNs的输入层已逐渐成为一个主要计算瓶颈，因为为避免较大精度损失，其 conventionally 被排除在二值化之外。本工作提出FracBNN，其利用分数激活大幅改进BNNs的精度。具体而言，我们的方法采用双精度激活方案，使用额外的稀疏二值卷积以最多两位计算特征。我们进一步通过新颖的 thermometer 编码对输入层进行二值化。总体而言，FracBNN保留了传统BNNs的关键优势，即所有卷积层均以纯二值MAC操作(BMACs)计算。我们为这一新颖BNN模型设计了一款高效的基于FPGA的加速器，支持分数激活。为在资源受限场景下评估FracBNN性能，我们在嵌入式FPGA(Xilinx Ultra96v2)上实现了整个优化网络架构。我们在ImageNet上的实验表明，FracBNN取得了与MobileNetV2相当的精度，超越FPGA上已知最佳BNN设计，top-1精度提升28.9%且模型尺寸缩减2.5倍。FracBNN也优于近期引入的BNN模型，在使用相同模型尺寸时top-1精度提升2.4%。在嵌入式FPGA器件上，FracBNN展示了实时图像分类的能力。
引用
@article{arxiv.2012.12206,
title = {FracBNN: Accurate and FPGA-Efficient Binary Neural Networks with Fractional Activations},
author = {Yichi Zhang and Junhao Pan and Xinheng Liu and Hongzheng Chen and Deming Chen and Zhiru Zhang},
journal= {arXiv preprint arXiv:2012.12206},
year = {2020}
}
备注
Published at the 29th ACM/SIGDA International Symposium on Field-Programmable Gate Arrays (FPGA 2021)