PokeBNN：轻量级精度的二值化追求
机器学习
2022-05-02 v2 计算机视觉与模式识别
摘要
ImageNet Top-1 准确率的优化催生了在推理场景中可能不切实际的大型网络。二值神经网络（BNN）有潜力显著降低计算强度，但现有模型质量较低。为克服此缺陷，我们提出 PokeConv，一种二值卷积块，通过添加多条残差路径、调整激活函数等技术提升 BNN 质量。我们将其应用于 ResNet-50 并优化 ResNet 难以二值化的初始卷积层。我们将所得网络系列命名为 PokeBNN。这些技术的选取旨在同时带来 Top-1 准确率与网络代价的良好改进。为支持代价与准确率的联合优化，我们定义了算术计算量（ACE），一种受硬件与能耗启发的用于量化与二值化网络的代价度量。我们还识别出有必要优化一个未被充分探索的、控制二值化梯度近似的超参数。我们在 Top-1 准确率以及常用 CPU64 代价、ACE 代价和网络规模度量上确立了新的强最先进（SOTA）水平。此前的 BNN SOTA ReActNet-Adam 以 7.9 ACE 取得 70.5% 的 Top-1 准确率。PokeBNN 的一个小变体以 2.6 ACE 取得 70.5% Top-1，代价降低逾 3 倍；一个更大的 PokeBNN 以 7.8 ACE 取得 75.6% Top-1，准确率提升逾 5% 且不增加代价。PokeBNN 的 JAX/Flax 实现与复现说明可在 AQT 仓库获取：https://github.com/google/aqt
引用
@article{arxiv.2112.00133,
title = {PokeBNN: A Binary Pursuit of Lightweight Accuracy},
author = {Yichi Zhang and Zhiru Zhang and Lukasz Lew},
journal= {arXiv preprint arXiv:2112.00133},
year = {2022}
}
备注
Accepted to CVPR 2022