多域多语言神经机器翻译中领域能否跨语言迁移?
计算与语言
2022-10-24 v1
摘要
先前的工作大多聚焦于神经机器翻译(NMT)的多语言或多领域方面之一。本文研究在多域与多语言 NMT 相组合的情况下领域信息能否跨语言迁移,尤其针对某些语言对缺失域内双语语料的 incomplete data 条件。我们在精心设计的留一域(leave-one-domain-out)实验中结果显示,多域多语言(MDML)NMT 可将零样本翻译性能提升高达 +10 BLEU 增益,并有助于多域 NMT 向缺失领域的泛化。我们还探索了多语言与多域 NMT 有效整合的策略,包括语言与领域标签组合及辅助任务训练。我们发现,学习领域感知表示并向编码器添加目标语言标签可得到有效的 MDML-NMT。
引用
@article{arxiv.2210.11628,
title = {Can Domains Be Transferred Across Languages in Multi-Domain Multilingual Neural Machine Translation?},
author = {Thuy-Trang Vu and Shahram Khadivi and Xuanli He and Dinh Phung and Gholamreza Haffari},
journal= {arXiv preprint arXiv:2210.11628},
year = {2022}
}
备注
WMT2022