MDIT：多样指令调优的无模型数据插值方法
计算与语言
2025-04-15 v2
摘要
随着大型语言模型（Large Language Models, LLMs）在 various tasks 中的应用日益增多，指令调优（instruction tuning）已成为提高模型性能的关键方法。然而，当前的数据管理策略在生成多样且全面的数据方面面临重大挑战，限制了模型性能的进一步提升。为解决这一 gap，我们提出了 MDIT（Model-free Data Interpolation for Diverse Instruction Tuning），一种用于多样指令调优的 novel 无模型数据插值方法，通过执行任务插值生成多样且高质量的指令数据。此外，它包含基于多样性的聚类策略，以确保训练数据的多样性。大量实验表明，我们的方法在多个 benchmark 任务中实现了优异的性能。使用 MDIT 微调的 LLMs 在诸多任务中显示出显著的改进，包括常规问答、数学推理和代码生成。MDIT 提供了一种高效且自动化的数据合成方法，能够在不依赖外部资源的情况下生成多样的指令数据，同时扩大了 LLMs 在复杂环境中的应用潜力。
引用
@article{arxiv.2504.07288,
title = {MDIT: A Model-free Data Interpolation Method for Diverse Instruction Tuning},
author = {Yangning Li and Zihua Lan and Lv Qingsong and Yinghui Li and Hai-Tao Zheng},
journal= {arXiv preprint arXiv:2504.07288},
year = {2025}
}