基于元学习的低资源领域无监督神经机器翻译
计算与语言
2021-05-10 v2 人工智能
机器学习
摘要
无监督机器翻译利用未配对单语语料作为训练数据，已取得与有监督机器翻译相当的性能。然而，它在数据稀缺领域仍存在不足。为解决此问题，本文提出一种用于无监督神经机器翻译（UNMT）的新颖元学习算法，该算法仅利用少量训练数据即可训练模型适应另一领域。我们假定领域通用知识是处理数据稀缺领域的重要因素。因此，我们扩展元学习算法，利用从高资源领域学到的知识来提升低资源 UNMT 的性能。我们的模型在 BLEU 分数上超越基于迁移学习的方法达 2-4 分。大量实验结果表明，我们提出的算法适用于快速适应，并持续优于其他基线模型。
引用
@article{arxiv.2010.09046,
title = {Unsupervised Neural Machine Translation for Low-Resource Domains via Meta-Learning},
author = {Cheonbok Park and Yunwon Tae and Taehee Kim and Soyoung Yang and Mohammad Azam Khan and Eunjeong Park and Jaegul Choo},
journal= {arXiv preprint arXiv:2010.09046},
year = {2021}
}
备注
to be published in ACL2021