仅需少量多语言数据即可实现多语言指令微调

随着指令微调大语言模型(LLMs)在全球范围内得到应用，其遵循多种语言指令的能力变得愈发关键。本文研究了在多语言 LLM 指令微调过程中，多语言性如何影响预训练语料库中各种语言的指令遵循能力。我们首先表明，即使仅进行单语言微调，许多语言也能将部分指令遵循能力迁移至其他语言。此外，我们发现，在英语微调集中仅加入 40 个多语言示例，就能显著提升多语言指令遵循能力，无论这些语言在微调中是否出现过。总体而言，我们观察到，与单语言微调模型相比，在多语言混合数据上微调的模型在多种语言上表现出相当或更优的性能，尽管这些语言的训练示例数量仅为前者的十分之一。最后，我们发现，即使仅用 2-4 种语言来丰富指令微调集，也能显著提升跨语言泛化能力。我们的结果表明，仅需极少量的多语言指令-回答对，即可构建大规模多语言指令微调模型。