X-Instruction：通过自策展跨语言指令对齐低资源语言的语言模型

大语言模型在高资源语言（如英语）中表现良好，但在低资源语言中则面临困难。这可能是由于这些语言中缺乏高质量的指令遵循数据。直接将英语样本翻译成这些语言可能是一种解决方案，但并不可靠，会导致响应带有翻译错误且缺乏语言特定或文化知识。为解决这一问题，我们提出了一种新方法，用于构建指令为英语、响应为低资源语言的跨语言指令遵循样本。具体来说，语言模型首先学习根据其他语言的自然网络文本作为响应，生成合适的英语指令。候选的跨语言指令调优样本进一步被精炼和多样化。我们采用这种方法构建了一个包含10种语言的大规模跨语言指令调优数据集，即X-Instruction。与朴素翻译方法相比，使用我们的方法构建的指令数据包含了更多语言特定的知识。实验结果表明，在X-Instruction上调优的模型的响应质量大大超过了从强大教师模型蒸馏得到的模型，达到甚至超过了ChatGPT。此外，我们发现，在跨语言指令遵循样本上调优的模型无需进一步调优即可遵循输出语言的指令。