NiuTrans 面向 WMT21 的机器翻译系统
计算与语言
2021-09-23 v1
摘要
本文描述了 NiuTrans 神经机器翻译系统参与 WMT 2021 新闻翻译任务的情况。我们向 9 个语言方向提交了结果，包括 EnglishChinese, Japanese, Russian, Icelandic 以及 EnglishHausa 任务。我们的主要系统构建于若干有效的 Transformer 变体之上，例如 Transformer-DLCL、ODE-Transformer。我们还利用回译、知识蒸馏、后集成以及迭代微调技术来进一步提升模型性能。
引用
@article{arxiv.2109.10485,
title = {The NiuTrans Machine Translation Systems for WMT21},
author = {Shuhan Zhou and Tao Zhou and Binghao Wei and Yingfeng Luo and Yongyu Mu and Zefan Zhou and Chenglong Wang and Xuanjun Zhou and Chuanhao Lv and Yi Jing and Laohu Wang and Jingnan Zhang and Canan Huang and Zhongxiang Yan and Chi Hu and Bei Li and Tong Xiao and Jingbo Zhu},
journal= {arXiv preprint arXiv:2109.10485},
year = {2021}
}