重新审视模块化多语 NMT 以满足工业需求
计算与语言
2020-10-20 v1 机器学习
摘要
当前研究中，多语翻译（1-1）的完全参数共享一直是主流方法。然而，容量瓶颈导致的性能下降以及低可维护性阻碍了其工业界的广泛应用。在本研究中，我们重新审视仅在相同语言间共享模块的多语神经机器翻译模型（M2），将其作为 1-1 的实用替代方案以满足工业需求。通过综合实验，我们明确了多向训练的优势，并证明 M2 能够享受这些优势而不受容量瓶颈之苦。此外，M2 的语际空间便于对模型进行便捷修改。通过利用已训练模块，我们发现增量添加的模块比单独训练的模型表现更好。所添加模块的零样本性能甚至可与有监督模型相媲美。我们的发现表明，M2 可成为工业界多语翻译的有力候选方案。
引用
@article{arxiv.2010.09402,
title = {Revisiting Modularized Multilingual NMT to Meet Industrial Demands},
author = {Sungwon Lyu and Bokyung Son and Kichang Yang and Jaekyoung Bae},
journal= {arXiv preprint arXiv:2010.09402},
year = {2020}
}
备注
The 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP)