将离散翻译词典融入神经机器翻译
计算与语言
2016-10-06 v2
摘要
神经机器翻译(NMT)在翻译对理解句子意义至关重要的低频内容词时经常出错。我们提出一种方法,通过用离散翻译词典增强NMT系统来缓解此问题,这些词典高效编码了这些低频词的翻译。我们描述了一种方法,利用NMT模型的注意力向量来选择模型应关注的源词词典概率,从而计算翻译候选中下一个词的词典概率。我们测试了两种将该概率与标准NMT概率结合的方法:(1)将其用作偏置,(2)线性插值。在两个语料库上的实验显示了2.0-2.3 BLEU和0.13-0.44 NIST分数的提升,以及更快的收敛时间。
引用
@article{arxiv.1606.02006,
title = {Incorporating Discrete Translation Lexicons into Neural Machine Translation},
author = {Philip Arthur and Graham Neubig and Satoshi Nakamura},
journal= {arXiv preprint arXiv:1606.02006},
year = {2016}
}
备注
Accepted at EMNLP 2016