基于去噪适配器的多语言无监督神经机器翻译
计算与语言
2021-10-22 v1
摘要
我们考虑多语言无监督机器翻译问题,即利用辅助平行语言对,在仅有单语数据的语言之间进行互译。对于该问题,迄今为止利用单语数据的标准流程是回译,其计算成本高且难以调参。在本文中,我们提出在预训练的 mBART-50 之上使用去噪适配器,即带有去噪目标的适配器层。除了该方法的模块化和灵活性外,我们表明所得翻译质量以 BLEU 衡量与回译相当,并且它支持以增量方式添加未见过的语言。
引用
@article{arxiv.2110.10472,
title = {Multilingual Unsupervised Neural Machine Translation with Denoising Adapters},
author = {Ahmet Üstün and Alexandre Bérard and Laurent Besacier and Matthias Gallé},
journal= {arXiv preprint arXiv:2110.10472},
year = {2021}
}
备注
Accepted as a long paper to EMNLP 2021