跨语言监督改进无监督神经机器翻译
计算与语言
2021-04-02 v3
摘要
神经机器翻译(NMT)对零资源语言无效。近期探索仅使用单语数据的无监督神经机器翻译(UNMT)可能性的工作取得了有前景的结果。然而,UNMT 与具有平行监督的 NMT 之间仍存在较大差距。在本工作中,我们引入了一个多语言无监督 NMT(\method)框架,以利用来自高资源语言对的弱监督信号到零资源翻译方向。更具体地,对于无监督语言对 \texttt{En-De},我们可以充分利用平行数据集 \texttt{En-Fr} 的信息,在单一模型中联合训练无监督翻译方向。\method 基于多语言模型,无需对标准无监督 NMT 做任何改动。实证结果表明,\method 在六个基准无监督翻译方向上以超过 3 个 BLEU 分数显著提升了翻译质量。
引用
@article{arxiv.2004.03137,
title = {Cross-lingual Supervision Improves Unsupervised Neural Machine Translation},
author = {Mingxuan Wang and Hongxiao Bai and Hai Zhao and Lei Li},
journal= {arXiv preprint arXiv:2004.03137},
year = {2021}
}
备注
NAACL Industry Track