xCoT: 面向跨语言思维链推理的跨语言指令微调

思维链（CoT）已成为一种强大的技术，用于激发大型语言模型的推理能力并改进各种下游任务。CoT 主要在英语中表现出色，但由于语言泛化能力差，其在低资源语言中的使用受到限制。为了弥合不同语言之间的差距，我们提出了一个跨语言指令微调框架（xCOT），将知识从高资源语言迁移到低资源语言。具体来说，我们创建了多语言指令训练数据（xCOT-INSTRUCT），以鼓励多种语言的语义对齐。我们引入了跨语言上下文少样本学习（xICL），以加速指令微调中的多语言一致性，其中示例中源语言的某些片段被其目标语言的对等翻译随机替换。在多语言指令微调期间，我们采用随机在线 CoT 策略，通过首先将查询翻译成另一种语言，然后用英语回答，来增强大型语言模型的多语言推理能力。为了进一步促进语言迁移，我们利用高资源 CoT 通过跨语言蒸馏来监督低资源语言的训练。在先前基准上的实验结果表明，xCoT 在减少不同语言之间的差距方面具有优越性能，突显了其缩小跨语言差距的潜力。