Pieces of Eight: 8位神经机器翻译
计算与语言
2018-04-16 v1
摘要
神经机器翻译已经达到了在不久前还令人惊讶的流畅度和充分性水平。输出质量对于工业应用极为重要，然而在尽可能短的时间内产生结果同样重要，这主要针对延迟敏感的应用以及控制云托管成本。在本文中，我们展示了对于使用32位浮点数值训练的模型，使用8位量化进行翻译的有效性。结果表明，8位翻译在速度上产生了不可忽视的影响，且在准确性和充分性上没有退化。
引用
@article{arxiv.1804.05038,
title = {Pieces of Eight: 8-bit Neural Machine Translation},
author = {Jerry Quinn and Miguel Ballesteros},
journal= {arXiv preprint arXiv:1804.05038},
year = {2018}
}
备注
To appear at NAACL 2018 Industry Track