No One Fits All: From Fixed Prompting to Learned Routing in Multilingual LLMs

基于翻译的提示被广泛用于多语言LLM，但其有效性因语言和任务而异。我们评估了跨十种不同资源水平语言和四个基准的提示策略。我们的分析表明，没有单一策略是普遍最优的。翻译极大地有利于低资源语言，即使翻译质量不完美，高资源语言则获益甚微，而基于提示的自我路由表现不如显式翻译。受这些发现启发，我们将提示策略选择形式化为一个学习决策问题，并引入了轻量级分类器，用于预测对于每个实例，是原生提示还是基于翻译的提示是最优的。这些分类器在四个基准上相对于固定策略取得了统计上显著的改进，并泛化到训练中未见过的任务格式。进一步分析表明，决定翻译何时有益的是语言资源水平，而非仅翻译质量。