打破语言壁垒：在多语言 LLM 应用中直接推理能否胜过预翻译？
计算与语言
2024-03-11 v1 机器学习
摘要
大语言模型在多语言应用中具有巨大潜力。然而，源于以英语为中心的预训练的固有偏差导致了预翻译的普遍做法，即在推理之前将非英语输入翻译为英语，这带来了复杂性和信息丢失。本研究在 PaLM2 模型的背景下重新评估了预翻译的必要性，该模型已被证实在多语言任务中具有高度性能。我们跨越 108 种语言和 6 个多样化的基准测试提供了全面的调查，包括之前类似研究排除的开放式生成任务。我们的发现挑战了先前研究中确立的预翻译范式，突显了 PaLM2 中直接推理的优势。具体而言，PaLM2-L 在 108 种语言中的 94 种中始终优于预翻译。这些发现为更高效、更有效的多语言应用铺平了道路，减轻了与预翻译相关的限制并解锁了语言真实性。
引用
@article{arxiv.2403.04792,
title = {Breaking the Language Barrier: Can Direct Inference Outperform Pre-Translation in Multilingual LLM Applications?},
author = {Yotam Intrator and Matan Halfon and Roman Goldenberg and Reut Tsarfaty and Matan Eyal and Ehud Rivlin and Yossi Matias and Natalia Aizenberg},
journal= {arXiv preprint arXiv:2403.04792},
year = {2024}
}