面向低资源神经机器翻译的平凡迁移学习
计算与语言
2020-07-09 v1
摘要
迁移学习已被证明是低资源条件下神经机器翻译的一种有效技术。现有方法要求共同的目标语言、语言相关性或特定的训练技巧与机制。我们提出了一种简单的迁移学习方法:首先针对高资源语言对训练一个“父”模型,然后仅通过替换训练语料来在低资源语言对上继续训练。该“子”模型的表现显著优于仅针对低资源语言对训练的基线模型。我们首次展示了该方法可用于面向不同语言的目标,并且即使对于使用不同字母表的不相关语言,我们也观察到了性能提升。
引用
@article{arxiv.1809.00357,
title = {Trivial Transfer Learning for Low-Resource Neural Machine Translation},
author = {Tom Kocmi and Ondřej Bojar},
journal= {arXiv preprint arXiv:1809.00357},
year = {2020}
}
备注
Accepted to WMT18 reseach paper, Proceedings of the 3rd Conference on Machine Translation 2018