探索指令数据规模对大语言模型的影响：基于真实用例的实证研究
计算与语言
2023-03-28 v1
摘要
ChatGPT的成功近期吸引了众多复现它的努力，其中指令微调策略是实现卓越结果的关键因素。指令微调不仅显著提升了模型的性能与泛化能力，还使模型生成的结果更符合人类语言模式。然而当前研究很少探讨不同数量的指令数据对模型性能的影响，尤其是在真实世界用例中。本文中，我们探索了基于指令微调的大语言模型在不同指令数据规模下的表现。实验中构建了一个由12个主要在线用例组成的评测数据集。以Bloomz-7B1-mt为基础模型，结果表明：1）仅增加指令数据量可令开放式生成等任务持续受益；2）在数学与代码等任务中，模型性能曲线随数据量增大保持相当平坦。我们进一步分析了这些现象的可能成因，并提出了未来潜在研究方向，如有效筛选高质量训练数据、扩展基础模型以及针对困难任务的专用训练方法。我们将发布训练与评测数据集，以及模型检查点。
引用
@article{arxiv.2303.14742,
title = {Exploring the Impact of Instruction Data Scaling on Large Language Models: An Empirical Study on Real-World Use Cases},
author = {Yunjie Ji and Yong Deng and Yan Gong and Yiping Peng and Qiang Niu and Lei Zhang and Baochang Ma and Xiangang Li},
journal= {arXiv preprint arXiv:2303.14742},
year = {2023}
}