统一词级与跨度级任务:NJUNLP 参与 WMT2023 质量估计共享任务
计算与语言
2023-12-12 v4
摘要
我们介绍了 NJUNLP 团队在 WMT 2023 质量估计(QE)共享任务中的提交。我们的团队针对英德语言对在所有两个子任务上提交了预测:(i)句子级和词级质量预测;以及(ii)细粒度错误跨度检测。今年,我们基于 NJUQE 框架(https://github.com/NJUNLP/njuqe)进一步探索了 QE 的伪数据方法。我们使用来自 WMT 翻译任务的平行数据生成伪 MQM 数据。我们在伪 QE 数据上预训练 XLMR large 模型,然后在真实 QE 数据上对其进行微调。在这两个阶段,我们联合学习句子级分数和词级标签。根据经验,我们进行了实验以找出提升性能的关键超参数。在技术层面,我们提出了一种将词级输出转换为细粒度错误跨度结果的简单方法。总体而言,我们的模型在英德方向的词级和细粒度错误跨度检测子任务上均以显著优势取得了最佳结果。
引用
@article{arxiv.2309.13230,
title = {Unify word-level and span-level tasks: NJUNLP's Participation for the WMT2023 Quality Estimation Shared Task},
author = {Xiang Geng and Zhejian Lai and Yu Zhang and Shimin Tao and Hao Yang and Jiajun Chen and Shujian Huang},
journal= {arXiv preprint arXiv:2309.13230},
year = {2023}
}
备注
WMT2023 System Paper