在推理时利用领域知识进行 LLM 翻译：检索与生成
计算与语言
2025-03-10 v1
摘要
虽然大型语言模型（LLM）越来越多地被用于机器翻译（MT），但它们在医学和法律等专业领域的性能仍然是一个开放挑战。先前的研究表明，LLM 可以通过检索针对性的少样本示例或术语并将其包含在提示中，在测试时进行领域适应。同时，对于通用 LLM 翻译，最近的研究发现，在翻译之前从 LLM 本身生成类似的领域知识也取得了一些成功。我们的工作通过精心的提示设置研究了 LLM 的领域适应翻译，发现示例始终优于术语，检索始终优于生成。我们发现，使用较弱模型生成示例可以缩小与较大模型零样本性能之间的差距。鉴于示例的有效性，我们进行了详细分析以理解其价值。我们发现领域特异性尤为重要，而流行的多领域基准测试更多地是在测试对特定写作风格的适应，而非对特定领域的适应。
引用
@article{arxiv.2503.05010,
title = {Leveraging Domain Knowledge at Inference Time for LLM Translation: Retrieval versus Generation},
author = {Bryan Li and Jiaming Luo and Eleftheria Briakou and Colin Cherry},
journal= {arXiv preprint arXiv:2503.05010},
year = {2025}
}