基于 MBR 解码选择 NMT 与 LLM 假设的最终翻译：HW-TSC 在 WMT24 通用机器翻译共享任务中的提交
人工智能
2024-09-24 v1
摘要
本文介绍华为翻译服务中心（HW-TSC）提交至 WMT24 通用机器翻译（MT）共享任务的方案，参赛语言对为英译中（en2zh）。类似过往年份的做法，我们采用正则 dropout、双向训练、数据多样化、前向翻译、后向翻译、交替训练、课程学习和无监督集成学习等训练策略，基于深度 Transformer-big 架构训练神经机器翻译（NMT）模型。不同之处在于，我们还使用持续预训练、监督微调和对比偏好优化来训练基于大语言模型（LLM）的 MT 模型。通过采用最小贝叶斯风险（MBR）解码从多个 NMT 和 LLM 基于 MT 的模型假设中选择最终翻译，我们的提交在最终评估中取得竞争成绩。
引用
@article{arxiv.2409.14800,
title = {Choose the Final Translation from NMT and LLM hypotheses Using MBR Decoding: HW-TSC's Submission to the WMT24 General MT Shared Task},
author = {Zhanglin Wu and Daimeng Wei and Zongyao Li and Hengchao Shang and Jiaxin Guo and Shaojun Li and Zhiqiang Rao and Yuanchang Luo and Ning Xie and Hao Yang},
journal= {arXiv preprint arXiv:2409.14800},
year = {2024}
}
备注
10 pages, 4 figures, 2 Tables, EMNLP2024