DNQ:动态网络量化
机器学习
2018-12-07 v1 计算机视觉与模式识别
摘要
网络量化是在内存与能耗受限的移动设备上部署神经网络的一种有效方法。本文提出一种动态网络量化(DNQ)框架,由两个模块组成:位宽控制器与量化器。与大多数对整个网络使用统一量化位宽的现有量化方法不同,我们利用策略梯度训练一个智能体,通过位宽控制器学习每一层的位宽。该控制器能够在准确率与压缩比之间做出权衡。给定量化位宽序列后,量化器在量化过程中采用量化距离作为权重重要性的判据。我们在多种主流神经网络上广泛验证了所提方法,并取得了令人印象深刻的结果。
引用
@article{arxiv.1812.02375,
title = {DNQ: Dynamic Network Quantization},
author = {Yuhui Xu and Shuai Zhang and Yingyong Qi and Jiaxian Guo and Weiyao Lin and Hongkai Xiong},
journal= {arXiv preprint arXiv:1812.02375},
year = {2018}
}