赛博格数据：融合人类与AI生成的训练数据

大规模评估中使用的自动评分(AS)系统传统上使用小型统计模型，需要大量手工评分数据才能进行准确预测，这既耗时又昂贵。生成式大型语言模型在多任务上进行训练，并显示出对新任务具有惊人的泛化能力，几乎不需要数据。虽然这些模型需要更大的计算资源才能进行预测，但它们仍需要一些微调才能满足操作标准。证据表明，这些模型甚至在仅用少量数据进行微调的情况下，就能超过人类-人类之间的一致性水平。基于此，我们提出了一个模型蒸馏管道，其中大型生成模型（教师模型）教导一个小型模型（学生模型）。教师模型在训练数据的子集上进行训练，用于为剩余的训练数据提供评分，然后用于训练学生模型。我们将 resulting 数据集称为"赛博格数据"，因为它结合了人类和机器评分的响应。我们的发现表明，基于"赛博格数据"训练的学生模型在性能上相当于在整个数据集上训练，仅需原始手工评分数据的10%。