面向资源导向分析的开源大语言模型域特定翻译
计算与语言
2025-06-03 v4
摘要
本文比较了开源自回归解码器型大语言模型（LLM）与任务导向机器翻译（MT）模型在域特定翻译性能方面的表现。我们的实验聚焦于医疗领域，涵盖四种语言方向及不同资源可得性：英译法、英译葡、英译斯瓦希利语及斯瓦希利语译英。尽管近期取得了进展，LLM在专业翻译方面仍与诸如 NLLB-200 等多语言编码解码 MT 模型相比存在显著质量差距。我们的结果表明，NLLB-200 3.3B 在三大四个语言方向上均优于评估的 7-8B 参数规模的 LLM。虽然对 Mistral 和 Llama 等模型进行微调可提升性能，但这些模型仍低于微调后的 NLLB-200 3.3B 模型。我们的发现凸显了在中资源和低资源环境中实现高质量域特定翻译仍需专用 MT 模型的持续需求。此外，较大规模 LLM 相较于其 8B 变体的优越性能，暗示了在针对特定翻译任务中提升质量与效率方面，采用针对性数据选择和知识蒸馏方法构建面向域特定的中等规模语言模型具有潜在价值。
引用
@article{arxiv.2412.05862,
title = {Domain-Specific Translation with Open-Source Large Language Models: Resource-Oriented Analysis},
author = {Aman Kassahun Wassie and Mahdi Molaei and Yasmin Moslem},
journal= {arXiv preprint arXiv:2412.05862},
year = {2025}
}