二值神经网络作为设备端计算机视觉的通用计算范式
计算机视觉与模式识别
2022-02-09 v1
摘要
要使二值神经网络（BNNs）成为主流的设备端计算机视觉算法，它们必须在速度-精度权衡上优于 8 位量化，并在视觉任务中建立起类似程度的通用适用性。为此，我们提出了一个 BNN 框架，包含 1）面向硬件友好的极简推理方案，2）用于高精度的过参数化训练方案，以及 3）适配不同视觉任务的简单流程。所得框架在分类、检测、分割、超分辨率和匹配任务的速度-精度权衡上超越了 8 位量化：我们的 BNN 不仅保留了其 8 位基线的精度水平，还在移动端 CPU 上展现出 1.3-2.4 更快的 FPS。对于典型的基于 systolic-array 的 AI 加速器也可得出类似结论，其中我们的 BNN 相比 8 位量化有望减少 2.8-7 的执行周期，相比其他 BNN 设计减少 2.1-2.7 的周期。这些结果表明，大规模采用 BNN 的时机或许已经到来。
引用
@article{arxiv.2202.03716,
title = {Binary Neural Networks as a general-propose compute paradigm for on-device computer vision},
author = {Guhong Nie and Lirui Xiao and Menglong Zhu and Dongliang Chu and Yue Shen and Peng Li and Kang Yang and Li Du and Bo Chen},
journal= {arXiv preprint arXiv:2202.03716},
year = {2022}
}
备注
13 pages, 3 figures