神经机器翻译的词表选择策略
计算与语言
2016-10-04 v1
摘要
经典的翻译模型通过基于输入句子选择翻译规则的子集来约束可能输出的空间。最近关于提高神经翻译模型效率的工作采用了类似的策略，将输出词表限制为给定源文本的似然候选词子集。在本文中，我们实验了基于上下文和嵌入的选择方法，并通过更详细地检查速度和准确性的权衡扩展了先前的工作。我们表明，在 WMT15 英-德和 WMT16 英-罗马尼亚语任务上，在准确率相同或仅有可忽略变化的情况下，CPU 上的解码时间最多可减少 90%，训练时间可减少 25%。这使得在单个 CPU 核心上使用最先进的神经翻译系统对英-德语进行解码的时间降至每句仅 140 毫秒多一点。
引用
@article{arxiv.1610.00072,
title = {Vocabulary Selection Strategies for Neural Machine Translation},
author = {Gurvan L'Hostis and David Grangier and Michael Auli},
journal= {arXiv preprint arXiv:1610.00072},
year = {2016}
}