深度网络损失感知权重量化
机器学习
2018-05-11 v2
摘要
深度网络的巨大规模阻碍其在小型计算设备上的使用。本文考虑通过权重量化来压缩网络。我们将最近提出的损失感知权重二值化方案扩展到三值化,其正负权重可具有不同缩放参数,并扩展到m-bit(其中m > 2)量化。在前馈和循环神经网络上的实验表明,所提方案优于最先进的权重量化算法,并且与全精度网络一样准确(甚至更准确)。
引用
@article{arxiv.1802.08635,
title = {Loss-aware Weight Quantization of Deep Networks},
author = {Lu Hou and James T. Kwok},
journal= {arXiv preprint arXiv:1802.08635},
year = {2018}
}