解耦词汇学习实现对未见语言的零样本翻译

多语言神经机器翻译系统学习将不同语言的句子映射到共同表示空间。在直观上，随着所见语言数量的增加，编码器的句子表示会变得更灵活，更容易适应新语言。本文通过对未见语言进行零样本翻译来测试这一假设。在处理来自未知语言的未知词汇表时，我们提出了一种设置方式，即对词汇和语法进行解耦：对于每种语言，我们在单独的步骤中学习词语表示（使用跨语言词嵌入），然后在保持这些词表示冻结的情况下进行翻译训练。我们展示了，这种设置使我们能够实现对完全未见语言的零样本翻译。在使用在德语系和罗马语系语言上训练的模型进行零样本翻译时，我们在 TED 领域实现了 42.6 BLEU 的葡萄牙语-英语和 20.7 BLEU 的俄语-英语的零样本翻译得分。我们探讨了随着编码器所见语言数量变化而产生的这种零样本翻译能力。最后，我们探讨了解耦学习策略在无监督机器翻译中的有效性。通过利用我们模型的零样本翻译能力进行迭代回译，我们实现了与有监督设置相当的性能。