利用特征归因减少神经机器翻译中的幻觉
计算与语言
2023-06-16 v2
摘要
神经条件语言生成模型在神经机器翻译（NMT）中达到了最先进水平，但高度依赖于平行训练数据集的质量。当在低质量数据集上训练时，这些模型容易出现多种错误类型，包括幻觉，即输出流畅但与源句无关。这些错误尤其危险，因为表面上翻译可能被视为正确输出，特别是如果读者不懂源语言的话。我们提出了一个案例研究，侧重于模型理解与正则化以减少 NMT 中的幻觉。我们首先使用特征归因方法来研究产生幻觉的 NMT 模型的行为。然后我们利用这些方法提出一种新颖的损失函数，可大幅减少幻觉且无需从头重新训练模型。
引用
@article{arxiv.2211.09878,
title = {Reducing Hallucinations in Neural Machine Translation with Feature Attribution},
author = {Joël Tang and Marina Fomicheva and Lucia Specia},
journal= {arXiv preprint arXiv:2211.09878},
year = {2023}
}