中文大模型指令微调的实证研究
计算与语言
2023-10-23 v2 人工智能
摘要
ChatGPT的成功验证了大语言模型（LLMs）在通用人工智能（AGI）中的潜力。随后，LLMs的发布引发了开源社区对指令微调（instruction-tuning）的兴趣，这被视为加速ChatGPT复现进程的途经。然而，针对中文——世界上使用人数最多的语言——的LLM指令微调研究仍处于早期阶段。因此，本文对中文LLM指令微调进行了深入实证研究，可作为一本提供有价值发现的参考书，用于有效定制能更好响应中文指令的LLMs。具体而言，我们系统探究了LLM基座、参数高效方法、指令数据类型这三个指令微调最重要元素的影响。此外，我们还通过实验研究了其他因素（如思维链数据与人类价值对齐）的影响。我们希望该实证研究能为开源中文版ChatGPT做出微薄贡献。本文将发布一个可与ChatGLM媲美的强大中文LLM。代码与数据见https://github.com/PhoebusSi/Alpaca-CoT。
引用
@article{arxiv.2310.07328,
title = {An Empirical Study of Instruction-tuning Large Language Models in Chinese},
author = {Qingyi Si and Tong Wang and Zheng Lin and Xu Zhang and Yanan Cao and Weiping Wang},
journal= {arXiv preprint arXiv:2310.07328},
year = {2023}
}
备注
EMNLP 2023