机器翻译中的词对齐作为偏好
计算与语言
2024-11-22 v2 人工智能
摘要
机器翻译 (MT) 中的幻觉与遗漏问题长期以来一直是一个持久问题,当大型语言模型 (LLM) 用于 MT 时,这一问题更为突出,因为 LLM 本身容易受到这些现象的影响。在本工作中,我们通过引导其更好地进行 word alignment 来缓解 LLM-based MT 模型中的幻觉和遗漏问题。我们首先研究 word alignment 与机器翻译中幻觉和遗漏现象之间的相关性。随后,我们提出利用 word alignment 作为偏好来优化 LLM-based MT 模型。偏好数据通过从多个 MT 工具中选择 chosen 和 rejected 翻译来构建。随后,使用直接偏好优化来针对偏好信号优化 LLM-based 模型。鉴于缺乏专为幻觉和遗漏在 MT 中评估的评估器,我们进一步提出选择困难实例并利用 GPT-4 直接评估模型在缓解这些问题方面的性能。我们通过实验验证了这些设计的评估方法的合理性,随后通过大量结果表明,word alignment-based 偏好优化有效缓解了幻觉和遗漏问题。另一方面,尽管在缓解幻觉和遗漏方面显示出前景,但 LLM 在不同语言方向上的整体 MT 性能仍然呈现混合态况,BLEU 和 COMET 指标略有增加和下降。
引用
@article{arxiv.2405.09223,
title = {Word Alignment as Preference for Machine Translation},
author = {Qiyu Wu and Masaaki Nagata and Zhongtao Miao and Yoshimasa Tsuruoka},
journal= {arXiv preprint arXiv:2405.09223},
year = {2024}
}
备注
EMNLP 2024 Main