BJTU-WeChat 在 WMT22 聊天翻译任务中的系统
计算与语言
2022-11-29 v1
摘要
本文介绍了北京交通大学与微信 AI 联合提交的 WMT'22 英德聊天翻译任务系统。基于 Transformer 模型，我们应用了多种有效的变体。在实验中，我们采用了先预训练后微调的范式。在第一个预训练阶段，我们使用了数据过滤和合成数据生成（即回译、前向翻译和知识蒸馏）。在第二个微调阶段，我们研究了说话人感知的领域内数据生成、说话人自适应、基于提示的上下文建模、目标去噪微调以及基于自 COMET 增强的模型集成。我们的系统取得了 0.810 和 0.946 的 COMET 分数。其英德和德英方向的 COMET 分数在所有提交系统中均为最高。
引用
@article{arxiv.2211.15009,
title = {BJTU-WeChat's Systems for the WMT22 Chat Translation Task},
author = {Yunlong Liang and Fandong Meng and Jinan Xu and Yufeng Chen and Jie Zhou},
journal= {arXiv preprint arXiv:2211.15009},
year = {2022}
}
备注
Accepted by WMT 2022 as a system paper