通过交替冻结语言特定编码器-解码器训练多语言机器翻译
计算与语言
2020-06-03 v1
摘要
我们提出了一种由语言特定的编码器-解码器组成的模块化架构，该架构构成一个多语言机器翻译系统，可在新增语言时无需重新训练现有系统即可增量扩展至新语言。与以往工作不同，我们通过交替冻结编码器或解码器模块，在所有翻译方向上同时训练 种语言，这间接迫使系统为所有语言训练出一个公共的中间表示。多语言机器翻译的实验结果表明，我们可以成功训练该模块化架构，在初始语言上有所提升，但在新增语言或进行零样本翻译时略有落后。在自然语言推理任务中对句子表示质量的额外比较表明，交替冻结训练在该方向上同样有益。
引用
@article{arxiv.2006.01594,
title = {Training Multilingual Machine Translation by Alternately Freezing Language-Specific Encoders-Decoders},
author = {Carlos Escolano and Marta R. Costa-jussà and José A. R. Fonollosa and Mikel Artetxe},
journal= {arXiv preprint arXiv:2006.01594},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:2004.06575