低精度循环神经网络：在不损失精度的情况下量化 RNN
机器学习
2017-10-30 v1 人工智能
机器学习
摘要
与卷积神经网络类似，循环神经网络（RNN）通常存在过度参数化的问题。量化权重和激活值的位宽能提高硬件上的运行时效率，但往往以精度降低为代价。本文提出一种量化方法，在降低位宽的同时增加模型规模。该方法将使网络能够保持其基线精度，同时仍保有降低精度和整体模型规模缩减的优势。
引用
@article{arxiv.1710.07706,
title = {Low Precision RNNs: Quantizing RNNs Without Losing Accuracy},
author = {Supriya Kapur and Asit Mishra and Debbie Marr},
journal= {arXiv preprint arXiv:1710.07706},
year = {2017}
}