改进低资源语言的零样本翻译
计算与语言
2018-11-06 v1
摘要
近期关于多语言神经机器翻译的研究报道了相对于双语模型的竞争性能，甚至在训练时未出现过的（零样本）翻译方向上也有令人惊讶的良好表现。我们在此研究一种特别低资源多语言设定下的零样本翻译。我们提出一种简单的迭代训练流程，利用系统为零样本方向直接生成的翻译的对偶性。系统产生的翻译（由于包含来自共享词汇的混合语言而次优）随后与原始平行数据一起用于供给并迭代地重新训练多语言网络。随着时间推移，这使系统能从自身生成且日益改善的输出中学习。我们的方法在改进多语言模型的两条零样本方向上显示有效。特别地，我们观察到相较基线多语言模型约有 9 个 BLEU 点的提升，以及相较使用两个双语模型的枢轴机制最高 2.08 BLEU 的提升。进一步分析显示，在非零样本语言方向上也有轻微改进。
引用
@article{arxiv.1811.01389,
title = {Improving Zero-Shot Translation of Low-Resource Languages},
author = {Surafel M. Lakew and Quintino F. Lotito and Matteo Negri and Marco Turchi and Marcello Federico},
journal= {arXiv preprint arXiv:1811.01389},
year = {2018}
}
备注
Published at the International Workshop on Spoken Language Translation (IWSLT), Tokyo, Japan, December 2017