基于分支熵选择大词汇表的神经机器翻译模型
计算与语言
2017-09-07 v6
摘要
神经机器翻译（NMT）作为一种新的机器翻译方法，已取得与传统方法（如统计机器翻译（SMT））相媲美的前景结果。尽管最近取得成功，NMT无法处理更大的词汇表，因为训练复杂度和解码复杂度随目标词数量成比例增加。当翻译包含许多罕见技术术语的专利文档时，此问题变得更加严重。本文中，我们提出使用分支熵的统计方法选择包含未登录词的短语。这使得所提出的NMT系统可应用于任何语言对的翻译任务，而无需关于技术术语识别的任何语言特定知识。所选短语在训练期间被替换为标记，并通过SMT的短语翻译表进行后翻译。在日汉、汉日、日英和英日专利句子翻译上的评估证明了使用分支熵选择的短语的有效性，其中提出的NMT模型比没有我们提出技术的基线NMT模型实现了实质性改进。此外，没有我们提出技术的基线NMT模型的欠翻译错误数量由提出的NMT模型减少到大约一半。
引用
@article{arxiv.1704.04520,
title = {Neural Machine Translation Model with a Large Vocabulary Selected by Branching Entropy},
author = {Zi Long and Ryuichiro Kimura and Takehito Utsuro and Tomoharu Mitsuhashi and Mikio Yamamoto},
journal= {arXiv preprint arXiv:1704.04520},
year = {2017}
}
备注
MT summit 2017 poster