NiuTrans.LMT：面向包容性可扩展多语言机器翻译的大语言模型
计算与语言
2026-04-27 v2
摘要
大型语言模型显著推动了多语言机器翻译（MMT），但在保持跨语言质量稳定的前提下实现大规模语言扩展仍具有挑战性。本文识别了多向平行数据进行多语言监督微调（SFT）时的一种失效模式：当此类数据围绕某一支点语言（如英语）进行对称重用时，反向方向（X 支点语言）的性能会显著下降。我们称该现象为“方向性退化”，其根源在于过度的多对一映射促成了捷径学习。我们提出了“战略性下采样”（Strategic Downsampling, SD）以缓解此类退化。此外，我们引入了“平行多语言提示”（Parallel Multilingual Prompting, PMP），通过增强翻译指令中附加的平行句子来促进训练期间的跨语言迁移，并在辅助翻译可用时支持测试时增强。我们进一步开发了\textbf{NiuTrans.LMT}（\textbf{L}arge-scale \textbf{M}ultilingual \textbf{T}ranslation，简称\textbf{LMT}），这是一套以中文-英文为中心的多语言翻译模型，包含四种规模（0.6B/1.7B/4B/8B），覆盖60种语言和234种翻译方向。综合评估表明，LMT在开源MMT系统中表现具有竞争力，且我们的4B LMT模型在质量上与或优于显著更大的基线模型。我们将发布模型及项目资源，以支持包容性和可扩展的MMT。
引用
@article{arxiv.2511.07003,
title = {NiuTrans.LMT: Toward Inclusive and Scalable Multilingual Machine Translation with LLMs},
author = {Yingfeng Luo and Ziqiang Xu and Yuxuan Ouyang and Murun Yang and Dingyang Lin and Kaiyan Chang and Tong Zheng and Bei Li and Peinan Feng and Quan Du and Tong Xiao and Jingbo Zhu},
journal= {arXiv preprint arXiv:2511.07003},
year = {2026}
}
备注
Accepted to ACL 2026 Main Conference. Models are available at: https://github.com/NiuTrans/LMT