通过“协同课程学习”动态组合领域数据选择与干净数据选择用于神经机器翻译
计算与语言
2019-06-05 v1 机器学习
摘要
噪声和领域是神经机器翻译数据质量的重要方面。现有研究分别关注领域数据选择、干净数据选择或其静态组合,未明确考察它们之间的动态交互。本文引入一种“协同课程学习”(co-curricular learning)方法,将动态领域数据选择与动态干净数据选择相组合,以实现两种能力间的迁移学习。我们采用 EM 风格的优化过程进一步精炼该“协同课程”。在两个领域上的实验结果与分析证明了该方法的有效性以及由协同课程所调度数据的特性。
引用
@article{arxiv.1906.01130,
title = {Dynamically Composing Domain-Data Selection with Clean-Data Selection by "Co-Curricular Learning" for Neural Machine Translation},
author = {Wei Wang and Isaac Caswell and Ciprian Chelba},
journal= {arXiv preprint arXiv:1906.01130},
year = {2019}
}
备注
11 pages