用于多语言机器翻译的抗干扰适配器
计算与语言
2021-09-14 v2 人工智能
摘要
开发统一的多语言模型一直是机器翻译的追求。然而，现有方法存在性能退化问题——单一多语言模型在富资源语言上劣于单独训练的双语模型。我们推测此类现象是由多语言联合训练引起的干扰所致。为解决这个问题，我们提出CIAT，一种带有少量参数开销的适配Transformer模型，用于多语言机器翻译。我们在多个基准数据集上评估CIAT，包括IWSLT、OPUS-100和WMT。实验表明，CIAT在全部66个语言方向中的64个上持续优于强大的多语言基线，其中42个方向取得超过0.5 BLEU的提升。我们的代码可在 \url{https://github.com/Yaoming95/CIAT}~ 获取。
引用
@article{arxiv.2104.08154,
title = {Counter-Interference Adapter for Multilingual Machine Translation},
author = {Yaoming Zhu and Jiangtao Feng and Chengqi Zhao and Mingxuan Wang and Lei Li},
journal= {arXiv preprint arXiv:2104.08154},
year = {2021}
}
备注
12 pages, accepted by EMNLP'21 Findings