HMQ：面向硬件友好的 CNN 混合精度量化模块
机器学习
2020-07-21 v1 计算机视觉与模式识别
机器学习
摘要
近期网络量化的工作利用混合精度量化取得了最先进的结果。许多高效边缘设备硬件实现的一个迫切需求是：其量化器是均匀的且阈值为 2 的幂次。在本工作中，我们引入硬件友好混合精度量化模块（HMQ）以满足该需求。HMQ 是一个混合精度量化模块，它将 Gumbel-Softmax 估计器重新用作一对量化参数（即位宽与阈值）的平滑估计器。HMQ 利用此在有限的量化方案空间上搜索。在经验上，我们应用 HMQ 量化在 CIFAR10 与 ImageNet 上训练的分类模型。对于 ImageNet，我们量化四种不同架构并表明，尽管对我们的量化方案增加了限制，我们仍取得了有竞争力的、且在某些情况下为最先进的结果。
引用
@article{arxiv.2007.09952,
title = {HMQ: Hardware Friendly Mixed Precision Quantization Block for CNNs},
author = {Hai Victor Habi and Roy H. Jennings and Arnon Netzer},
journal= {arXiv preprint arXiv:2007.09952},
year = {2020}
}