面向深度神经网络快速部署的量化方法
神经与进化计算
2018-10-15 v1
摘要
本文旨在将最先进的深度神经网络（DNNs）快速部署到高能效加速器上，而无需耗时的微调或拥有完整数据集。将全精度 DNN 转换为有限精度，对于利用具有更小内存占用和计算能力的加速器至关重要。然而，该任务并非易事，因为它通常需要完整的训练和验证数据集来分析网络统计信息，并微调网络以恢复量化后损失的精度。为解决这些问题，我们提出一种识别通道级分布的简单方法，以降低量化引起的精度损失，并最小化用于分析的所需图像样本数。我们在 ImageNet 分类基准上训练的十一个网络以及 Pascal VOC 目标检测基准上训练的一个网络上评估了我们的方法。结果证明，这些网络可以在不微调的情况下量化为 8 位整数精度。
引用
@article{arxiv.1810.05488,
title = {Quantization for Rapid Deployment of Deep Neural Networks},
author = {Jun Haeng Lee and Sangwon Ha and Saerom Choi and Won-Jo Lee and Seungwon Lee},
journal= {arXiv preprint arXiv:1810.05488},
year = {2018}
}