中文

神经机器翻译的快速领域自适应

计算与语言 2016-12-22 v1

摘要

神经机器翻译(NMT)是一种将文本从一种人类语言自动翻译为另一种语言的新方法。NMT 的基本概念是训练一个大型神经网络,使其在给定平行语料库上的翻译性能最大化。NMT 在研究界日益流行,因为它在 WMT 的若干翻译任务及其他评估任务/基准测试中,至少在某些语言对上,超越了传统的统计机器翻译(SMT)方法。然而,SMT 多年来取得的许多改进尚未被纳入 NMT 框架。本文聚焦于其中一项改进,即领域自适应。我们提出了一种使 NMT 系统适应新领域的方法。领域自适应的核心思想在于,拥有大量领域外训练数据和少量领域内训练数据。在两个语言对上,我们提出的方法在自动评估指标和人工主观评估指标上均取得了显著提升。通过我们的自适应方法,在新领域上表现出大幅改进,而通用领域的性能仅略有下降。此外,我们的方法速度足够快,能在数小时内使已训练的系统适应新领域,无需在合并数据上重新训练 NMT 模型,后者通常需要数天/数周时间,具体取决于数据量。

关键词

引用

@article{arxiv.1612.06897,
  title  = {Fast Domain Adaptation for Neural Machine Translation},
  author = {Markus Freitag and Yaser Al-Onaizan},
  journal= {arXiv preprint arXiv:1612.06897},
  year   = {2016}
}