神经机器翻译的动态数据选择
计算与语言
2017-08-03 v1
摘要
智能选择训练数据已被证明是一种成功的技术，可同时提高基于短语的机器翻译 (PBMT) 的训练效率和翻译性能。随着神经机器翻译 (NMT) 近期日益普及，本文探讨了 NMT 在何种程度上以及如何从数据选择中受益。虽然最先进的数据选择方法 (Axelrod et al., 2011) 在 PBMT 中 consistently 表现良好，但我们表明其在 NMT 中的增益显著较低。接下来，我们引入了针对 NMT 的动态数据选择方法，该方法在不同的训练轮次之间变化所选的训练数据子集。实验表明，当应用我们称为“渐进微调”的技术时可获得最佳结果，相较于原始数据选择方法 BLEU 值提升高达 +2.6，相较于通用基线提升高达 +3.1。
引用
@article{arxiv.1708.00712,
title = {Dynamic Data Selection for Neural Machine Translation},
author = {Marlies van der Wees and Arianna Bisazza and Christof Monz},
journal= {arXiv preprint arXiv:1708.00712},
year = {2017}
}
备注
Accepted at EMNLP2017