Mosaic-IT：面向指令调优的无成本组合数据合成
计算与语言
2025-06-06 v3
摘要
通过对大量指令-响应对进行微调，增强了大语言模型理解和遵循指令的能力。当前指令调优主要依赖教师模型或人工干预来生成和细化训练用的指令和响应，这种方式成本高昂、不可持续且可能缺乏多样性。本文引入 Mosaic 指令调优（Mosaic-IT），一种人类/模型无关的组合数据合成方法，能够高效地从现有的指令调优数据中创建丰富且多样的增强数据，以提升大语言模型的性能。Mosaic-IT 随机拼接多个指令数据，并通过预定义的高层次元指令训练模型，以生成相应的响应，从而加强其多步骤指令遵循和格式遵循能力。我们的广泛评估表明，Mosaic-IT 在性能和训练效率上均优于现有方法，相较于原始指令调优实现了约 80% 的训练成本降低。我们的代码和数据已公开于 https://github.com/tianyi-lab/Mosaic-IT。
引用
@article{arxiv.2405.13326,
title = {Mosaic-IT: Cost-Free Compositional Data Synthesis for Instruction Tuning},
author = {Ming Li and Pei Chen and Chenguang Wang and Hongyu Zhao and Yijun Liang and Yupeng Hou and Fuxiao Liu and Tianyi Zhou},
journal= {arXiv preprint arXiv:2405.13326},
year = {2025}
}
备注
ACL2025, Camera-ready