从解码目标视角理解与解决 NMT 中的译本不足问题
计算与语言
2024-05-30 v1
摘要
神经机器翻译 (NMT) 已在过去几年中取得显著进展。然而，译本不足和译本过多仍是当前最先进 NMT 系统中的两个具有挑战性的问题。本文从解码目标的角度对 NMT 中的译本不足问题进行深入分析，提供了一种解释：为了优化 beam search 目标，模型倾向于忽略它对某些单词不够自信的地方，从而导致译本不足现象。相应地，当发生译本不足时，模型对预测终端句子 (EOS) 的信心会下降，作为译本不足候选对象的轻微惩罚。基于此分析，我们提出了将预测 EOS 的置信度作为译本不足检测器，并加强置信度基于惩罚以惩罚高风险译本不足的候选对象。在 synthetic 和真实世界数据上的实验表明，我们的方法可以准确检测和纠正译本不足的输出，对其他正确翻译几乎没有影响。
关键词
引用
@article{arxiv.2405.18922,
title = {Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective},
author = {Chenze Shao and Fandong Meng and Jiali Zeng and Jie Zhou},
journal= {arXiv preprint arXiv:2405.18922},
year = {2024}
}
备注
ACL 2024 main conference