WizardLM：赋能大型预训练语言模型以遵循复杂指令
计算与语言
2025-05-28 v3 人工智能
摘要
使用开放域指令跟随数据训练大型语言模型（LLMs）取得了巨大成功。然而，人工创建此类指令数据非常耗时耗力。此外，人类可能难以产出高复杂度指令。本文展示了一种用LLM而非人类来创建大量不同复杂度级别指令数据的途径。从一组初始指令出发，我们使用提出的Evol-Instruct将其逐步重写为更复杂的指令。然后，我们混合所有生成的指令数据来微调LLaMA。我们将所得模型称为WizardLM。在复杂度均衡的测试床与Vicuna测试集上的人类评估表明，Evol-Instruct的指令优于人工创建的指令。通过分析高复杂度部分的人类评估结果，我们证明我们的WizardLM的输出优于OpenAI ChatGPT的输出。在GPT-4自动评估中，WizardLM在29项技能中的17项上达到ChatGPT 90%以上的能力。尽管WizardLM在某些方面仍落后于ChatGPT，我们的发现表明，用AI演化指令进行微调是增强LLMs的一个有前景的方向。我们的代码与数据公开于 https://github.com/nlpxucan/WizardLM
引用
@article{arxiv.2304.12244,
title = {WizardLM: Empowering large pre-trained language models to follow complex instructions},
author = {Can Xu and Qingfeng Sun and Kai Zheng and Xiubo Geng and Pu Zhao and Jiazhan Feng and Chongyang Tao and Qingwei Lin and Daxin Jiang},
journal= {arXiv preprint arXiv:2304.12244},
year = {2025}
}
备注
large language model, instruction fine-tune