MDQE:一种更精确的机器翻译质量估计直接预训练方法
计算与语言
2022-04-19 v2
摘要
评估机器翻译(MT)结果代价高昂,通常需以人工翻译作为参考。机器翻译质量估计(QE)是一项不依赖任何参考而预测机器翻译质量的任务。近来,以预测器-估计器框架(将预测器训练为特征提取器、估计器作为 QE 预测器)及预训练语言模型(PLM)为代表的方案取得了可喜的 QE 性能。然而,我们认为预测器与估计器之间在数据质量与训练目标上仍存在鸿沟,阻碍了 QE 模型更直接地从大量平行语料中获益。基于此前已在一定程度上缓解鸿沟的相关工作,我们提出了一种新框架,为 QE 任务提供更精确的直接预训练。该框架中,生成器被训练以产生更接近真实 QE 数据的伪数据,估计器在这些数据上以与 QE 任务相同的新目标进行预训练。在广泛使用基准上的实验表明,我们提出的框架优于现有方法,且未使用任何如 BERT 之类的预训练模型。
引用
@article{arxiv.2107.14600,
title = {MDQE: A More Accurate Direct Pretraining for Machine Translation Quality Estimation},
author = {Lei Lin},
journal= {arXiv preprint arXiv:2107.14600},
year = {2022}
}
备注
Just some ideas of my own, not supported by experiments