$\textbf{Only-IF}$: 揭示指令多样性对泛化能力的决定性影响

理解和准确遵循指令对于大型语言模型(LLM)在各种任务中有效执行至关重要。在这项工作中,我们严格检验了使模型能够泛化到未见指令的关键因素,为指导指令微调的数据收集提供了见解。通过受图灵完备马尔可夫算法启发的受控实验,我们证明了这种泛化$\textbf{仅在}$训练数据在语义领域上足够多样化时才会出现。我们的发现还揭示,仅在有限领域内多样化无法确保稳健的泛化。相比之下,即使在受限的数据预算下,跨领域数据多样化也能显著增强模型的适应性。我们进一步将分析扩展到现实场景,包括微调\textit{\textbf{专家}}和\textit{\textbf{通才}}模型。在这两种情况下,我们证明:1) 在保持数据规模不变的情况下,增加已有数据集的多样性可以获得更好的性能;2) 在扩展数据时,使指令的语义多样化比简单增加相似数据的数量更有效。我们的研究为数据集整理提供了重要见解,特别是在通过扩展训练数据来优化专家和通才场景下的模型性能时。我们表明,仔细考虑数据多样化是关键:使用超出其核心领域的数据训练专家模型可带来显著的性能提升,而通才模型则受益于多样化的数据混合,这增强了它们在广泛应用中的整体指令遵循能力。我们的结果强调了策略性多样化的关键作用,并为提高数据质量提供了明确的指导方针。