用于低资源机器翻译的语言图蒸馏
计算与语言
2019-08-20 v1
摘要
由于缺乏双语句子对,低资源语言的神经机器翻译具有挑战性。先前的工作通常在多语言设置下通过知识迁移来解决低资源翻译问题。在本文中,我们提出语言图的概念,并进一步设计一种新颖的图蒸馏算法,通过前向和反向知识蒸馏在图中提升低资源翻译的准确率。在TED演讲多语言数据集上的初步实验证明了我们所提方法的有效性。具体而言,我们将低资源翻译对在BLEU分数上提高了超过3.13个点。
引用
@article{arxiv.1908.06258,
title = {Language Graph Distillation for Low-Resource Machine Translation},
author = {Tianyu He and Jiale Chen and Xu Tan and Tao Qin},
journal= {arXiv preprint arXiv:1908.06258},
year = {2019}
}