纠正神经机器翻译中的长度偏差
计算与语言
2018-09-05 v2
摘要
我们研究神经机器翻译(NMT)中的两个问题。首先,在束搜索中,尽管更宽的束原则上应有助于翻译,却常常损害 NMT。其次,NMT 倾向于生成过短的翻译。在此,我们认为这些问题密切相关,且都根源于标签偏差(label bias)。我们表明,纠正简短问题几乎消除了束问题;我们比较了一些常用的纠正方法,发现简单的逐词奖励效果良好;并引入一种使用感知机算法调整该奖励的简单快速方法。
引用
@article{arxiv.1808.10006,
title = {Correcting Length Bias in Neural Machine Translation},
author = {Kenton Murray and David Chiang},
journal= {arXiv preprint arXiv:1808.10006},
year = {2018}
}
备注
WMT 2018