基于质量估计引导大语言模型的情境学习用于机器翻译
计算与语言
2024-09-19 v3
摘要
大型语言模型（LLMs）的输出质量，特别是在机器翻译（MT）中，与提供查询（即要翻译的文本）along with 的情境示例（ICEs）的质量密切相关。这些 ICEs 的有效性受到诸多因素影响，包括源文本的领域、ICEs 的呈现顺序、这些示例的数量以及使用的提示模板。自然而然，选择最具影响力的 ICEs 取决于理解这些因素如何影响 resulting translation quality，这最终依赖于翻译参考或人类判断。本文提出了一种 novel 情境学习（ICL）方法，依赖于由领域特定质量估计（QE）指导的搜索算法。利用 XGLM 模型，我们的方法在不需要翻译参考的情况下估计 resulting translation quality，选择 MT 有效的 ICEs 以最大化翻译质量。我们的结果表明，相较于现有 ICL 方法，本方法在翻译性能上显著提高，尤其是相较于对预训练语言模型（PLM）进行微调（如 mBART-50），效果更佳。
引用
@article{arxiv.2406.07970,
title = {Guiding In-Context Learning of LLMs through Quality Estimation for Machine Translation},
author = {Javad Pourmostafa Roshan Sharami and Dimitar Shterionov and Pieter Spronck},
journal= {arXiv preprint arXiv:2406.07970},
year = {2024}
}
备注
Camera-ready version of the paper for the Association for Machine Translation in the Americas (AMTA), including the link to the paper's repository