DirectQE：面向机器翻译质量估计的直接预训练
计算与语言
2021-05-18 v1
摘要
机器翻译质量估计（QE）是一项在不依赖任何参考译文的情况下预测机器翻译质量的任务。近期，预测器-估计器框架将预测器训练为特征提取器，从而利用无 QE 标签的额外平行语料，取得了令人满意的 QE 性能。然而，我们认为预测器与估计器之间在数据质量和训练目标上均存在鸿沟，这阻碍了 QE 模型更直接地从大量平行语料中获益。我们提出了一种称为 DirectQE 的新框架，为 QE 任务提供直接预训练。在 DirectQE 中，生成器被训练以产生更接近真实 QE 数据的伪数据，检测器则在这些数据上以类似于 QE 任务的新目标进行预训练。在广泛使用的数据集上的实验表明，DirectQE 优于现有方法，且未使用任何如 BERT 之类的预训练模型。我们还给出了大量分析，说明修复上述两个鸿沟如何促成我们的性能提升。
引用
@article{arxiv.2105.07149,
title = {DirectQE: Direct Pretraining for Machine Translation Quality Estimation},
author = {Qu Cui and Shujian Huang and Jiahuan Li and Xiang Geng and Zaixiang Zheng and Guoping Huang and Jiajun Chen},
journal= {arXiv preprint arXiv:2105.07149},
year = {2021}
}