TEaR：通过系统性自优化提升基于大语言模型的机器翻译
计算与语言
2024-06-24 v3 人工智能
摘要
大语言模型 (LLMs) 在机器翻译 (MT) 方面取得了令人瞩目的成果。然而，人工仔细评估表明，LLMs 生成的翻译仍包含多种错误。重要的是，将此类错误信息反馈给 LLMs 可以引发自优化，从而提升翻译性能。受这些见解启发，我们引入了一种系统性的基于 LLM 的自优化翻译框架，命名为 TEaR，代表翻译 (Translate)、评估 (Estimate) 和优化 (Refine)，标志着在该方向上的重大进展。我们的研究结果表明：1) 我们的自优化框架成功协助 LLMs 提升了广泛语言对的翻译质量，无论是从高资源语言到低资源语言，还是以英语为中心或围绕其他语言；2) TEaR 展现出卓越的系统性和可解释性；3) 不同的评估策略产生不同的影响，直接影响最终修正的有效性。此外，传统神经翻译模型和评估模型通常独立运行，由于能力有限往往专注于单一任务，而通用 LLMs 具备同时承担这两项任务的能力。我们进一步进行了跨模型修正实验，以探究通用 LLMs 的翻译与评估能力之间的潜在关系。我们的代码和数据可在 https://github.com/fzp0424/self_correct_mt 获取。
引用
@article{arxiv.2402.16379,
title = {TEaR: Improving LLM-based Machine Translation with Systematic Self-Refinement},
author = {Zhaopeng Feng and Yan Zhang and Hao Li and Bei Wu and Jiayu Liao and Wenqiang Liu and Jun Lang and Yang Feng and Jian Wu and Zuozhu Liu},
journal= {arXiv preprint arXiv:2402.16379},
year = {2024}
}
备注
Our code and data are available at https://github.com/fzp0424/self_correct_mt