QE-EBM：将质量估计器作为能量损失用于机器翻译
计算与语言
2024-10-15 v1 人工智能
摘要
强化学习在多种文本生成任务中展现出巨大的潜力，包括机器翻译。对于翻译任务，奖励可以轻松地从质量估计（QE）模型处获取，这些模型可以为无标签数据生成奖励。尽管如此，强化学习无法利用关于 QE 分数的梯度。我们提出 QE-EBM 方法，将质量估计器作为可训练的损失网络，直接反向传播到 NMT 模型。我们在几个低资源和高资源目标语言上进行测试，其中源语言为英文。QE-EBM 在所有目标语言上均优于强大的基线方法，如 REINFORCE 和近端策略优化（PPO），以及监督微调，尤其是低资源目标语言。最显著的是，对于英语到蒙古语翻译，我们的方法相对于监督基线实现了 2.5 BLEU、7.1 COMET-KIWI、5.3 COMET 和 6.4 XCOMET 的提升。
引用
@article{arxiv.2410.10228,
title = {QE-EBM: Using Quality Estimators as Energy Loss for Machine Translation},
author = {Gahyun Yoo and Jay Yoon Lee},
journal= {arXiv preprint arXiv:2410.10228},
year = {2024}
}