Mobilenets的子张量量化
计算机视觉与模式识别
2020-11-17 v1 机器学习
摘要
深度神经网络的量化使开发者能够以更少的内存和更高效的低功耗推理部署模型。然而,并非所有DNN设计都对量化友好。例如,流行的Mobilenet架构已通过可分离深度卷积调整以减少参数大小和计算延迟,但并非所有量化算法都能很好地工作,其精度可能低于浮点版本。在本文中,我们分析了量化损失的几个根本原因,并提出了不依赖于逐通道或训练感知方法的替代方案。我们在ImageNet数据集上评估图像分类任务,我们的训练后量化8位推理top-1精度在浮点版本的0.7%以内。
引用
@article{arxiv.2011.08009,
title = {Subtensor Quantization for Mobilenets},
author = {Thu Dinh and Andrey Melnikov and Vasilios Daskalopoulos and Sek Chai},
journal= {arXiv preprint arXiv:2011.08009},
year = {2020}
}
备注
Embedded Vision Workshop, 16th European Conference on Computer Vision (ECCV), Aug 2020