联合丢弃：通过短语对变量提升低资源神经机器翻译的泛化能力
计算与语言
2023-07-25 v1
摘要
尽管神经机器翻译（NMT）取得了巨大成功，其在低资源语言对上的表现仍然欠佳，部分原因在于处理先前未见输入的能力有限，即泛化能力。在本文中，我们提出一种称为联合丢弃（Joint Dropout）的方法，通过将短语替换为变量来解决低资源神经机器翻译的挑战，从而显著提升组合性，而组合性是泛化的一个关键方面。我们观察到在资源极少的语言对上翻译质量有实质性改进，这体现在 BLEU 和直接评估分数上。此外，我们进行了错误分析，发现联合丢弃还从跨域鲁棒性与适应性的角度增强了低资源 NMT 的泛化能力。
引用
@article{arxiv.2307.12835,
title = {Joint Dropout: Improving Generalizability in Low-Resource Neural Machine Translation through Phrase Pair Variables},
author = {Ali Araabi and Vlad Niculae and Christof Monz},
journal= {arXiv preprint arXiv:2307.12835},
year = {2023}
}
备注
Accepted at MT Summit 2023