大型多语言翻译模型中的幻觉现象
计算与语言
2023-03-29 v1
摘要
大规模多语言机器翻译系统已展现出直接在众多语言间进行翻译的卓越能力，使其在实际应用中的吸引力与日俱增。然而，当部署于真实环境时，这些模型可能生成幻觉翻译，有可能严重损害用户信任并引发安全担忧。现有关于幻觉的研究主要集中于在高资源语言上训练的小型双语模型，导致我们对大规模多语言模型在不同翻译场景下的幻觉现象理解存在空白。在这项工作中，我们通过对传统神经机器翻译模型的 M2M 系列与可作为翻译提示的通用大语言模型(LLM) ChatGPT 进行全面分析，填补了这一空白。我们的调查涵盖广泛的条件，跨越各种资源水平下的 100 多个翻译方向，并超越以英语为中心的语言对。我们提供了关于幻觉的普遍性、性质及缓解措施的关键见解，为构建更负责任、更可靠的机器翻译系统铺平了道路。
引用
@article{arxiv.2303.16104,
title = {Hallucinations in Large Multilingual Translation Models},
author = {Nuno M. Guerreiro and Duarte Alves and Jonas Waldendorf and Barry Haddow and Alexandra Birch and Pierre Colombo and André F. T. Martins},
journal= {arXiv preprint arXiv:2303.16104},
year = {2023}
}