神经机器翻译中可信结果的更强基线
计算与语言
2017-06-30 v1
摘要
对神经机器翻译的兴趣迅速增长,因为其有效性已在跨语言和数据场景中得以证明。新研究定期引入架构和算法改进,这些改进相对于“朴素”NMT实现带来显著增益。然而,这些新技术很少在先前已发表的技术背景下进行评估,特别是那些在最先进的生成与共享任务系统中广泛使用的技术。因此,通常难以确定研究的改进是否会延续到部署用于实际使用的系统中。在这项工作中,我们推荐三种特定方法,它们相对容易实现并导致强得多的实验系统。除了报告显著更高的BLEU分数外,我们深入分析了改进来源以及基本NMT模型的哪些固有弱点正被解决。然后,我们比较文献中提出的其他几种技术在从朴素系统与我们更强基线开始时所提供的相对增益,表明实验结论可能根据所选基线而改变。这表明选择强基线对于报告可靠的实验结果至关重要。
引用
@article{arxiv.1706.09733,
title = {Stronger Baselines for Trustable Results in Neural Machine Translation},
author = {Michael Denkowski and Graham Neubig},
journal= {arXiv preprint arXiv:1706.09733},
year = {2017}
}
备注
To appear at the Workshop on Neural Machine Translation (WNMT)