作为大语言模型指令数据探矿者的少样本学习

当代指令微调实践往往依赖于扩大数据规模，而缺乏确保数据质量的明确策略，无意中引入了可能损害模型性能的噪声。为应对这一挑战，我们引入了\textsc{Nuggets}，这是一种新颖且高效的方法，利用少样本学习（one-shot learning）从大规模数据集中识别并选择高质量的指令数据。\textsc{Nuggets}评估单个指令示例作为有效少样本学习实例的潜力，从而识别出那些能显著改善多样化任务性能的示例。\textsc{Nuggets}利用基于候选示例对多样化锚点集困惑度影响的评分系统，促进选择最有利于指令微调的数据。通过在 MT-Bench 和 Alpaca-Eval 两个基准上的全面评估，我们表明，使用由\textsc{Nuggets}精选的前 1% 示例进行指令微调，其表现大幅优于使用整个数据集的传统方法。