FracBits：基于分数比特宽度的混合精度量化
计算机视觉与模式识别
2020-12-04 v2 图像与视频处理
摘要
模型量化有助于减小深度神经网络的模型尺寸与延迟。混合精度量化在支持多种比特宽度算术运算的定制硬件上尤为有利，可实现最高效率。我们提出一种新颖的基于学习的算法，在目标计算约束与模型尺寸下端到端地导出混合精度模型。在优化过程中，模型中每一层/卷积核的比特宽度处于两个相邻比特宽度之间的分数状态，可逐步调整。借助可微正则化项，资源约束可在量化感知训练期间得到满足，从而得到优化的混合精度模型。此外，我们的方法可自然地与通道剪枝结合，以实现更好的计算成本分配。在不同资源约束下的 ImageNet 数据集上，我们的最终模型在 MobilenetV1/V2、ResNet18 上取得了与先前混合精度量化方法相当或更好的性能。
引用
@article{arxiv.2007.02017,
title = {FracBits: Mixed Precision Quantization via Fractional Bit-Widths},
author = {Linjie Yang and Qing Jin},
journal= {arXiv preprint arXiv:2007.02017},
year = {2020}
}
备注
Accepted by AAAI 2021