中文

深度网络损失感知权重量化

机器学习 2018-05-11 v2

摘要

深度网络的巨大规模阻碍其在小型计算设备上的使用。本文考虑通过权重量化来压缩网络。我们将最近提出的损失感知权重二值化方案扩展到三值化,其正负权重可具有不同缩放参数,并扩展到m-bit(其中m > 2)量化。在前馈和循环神经网络上的实验表明,所提方案优于最先进的权重量化算法,并且与全精度网络一样准确(甚至更准确)。

关键词

引用

@article{arxiv.1802.08635,
  title  = {Loss-aware Weight Quantization of Deep Networks},
  author = {Lu Hou and James T. Kwok},
  journal= {arXiv preprint arXiv:1802.08635},
  year   = {2018}
}