快速神经机器翻译实现
计算与语言
2018-06-11 v3
摘要
本文描述了由爱丁堡大学、密茨凯维奇大学、Tilde 和阿利坎特大学成员在神经机器翻译与生成研讨会上提交至 GPU 效率赛道的参赛作品。我们重点关注 Amun（神经机器翻译的快速推理引擎）中实现的循环深度学习模型的高效实现。我们通过高效的 mini-batching 算法，以及将 softmax 操作与 k-best 提取算法相融合，提升了性能。使用 Amun 的参赛作品在 GPU 效率赛道中分别获得了第一、第二和第三快。
引用
@article{arxiv.1805.09863,
title = {Fast Neural Machine Translation Implementation},
author = {Hieu Hoang and Tomasz Dwojak and Rihards Krislauks and Daniel Torregrosa and Kenneth Heafield},
journal= {arXiv preprint arXiv:1805.09863},
year = {2018}
}