你的数据策略会奏效吗？进行一次快速研究

本工作提出了一种快速方法，用于评估特定类型指令微调数据的有效性，该方法仅需少量探针示例且无需重新训练模型。该方法采用基于梯度的数据影响估计思想，通过分析所选策略的探针示例在评估示例上的梯度投影来评估其优势。基于该方法，我们进行了三项快速研究，以调查思维链（CoT）数据、查询澄清数据和响应评估数据在增强模型泛化能力方面的潜力。随后，我们开展了一项验证研究，以证实这些快速研究的发现。在该验证研究中，我们针对每种所研究的策略开发了定制的数据集，并比较了使用与不使用这些数据集时的模型性能。验证研究的结果与快速研究的发现相一致，验证了我们提出方法的有效性。