ZPD Detector：基于能力-难度对齐的大语言模型数据选择
计算与语言
2026-01-19 v1
摘要
随着训练大语言模型的成本持续增加且高质量训练数据日益稀缺，在有限数据预算下选择高价值样本或合成有效训练数据已成为一个关键的研究问题。大多数现有的数据选择方法依赖于静态标准，如难度、不确定性或启发式方法，未能对模型与数据之间不断演变的关系进行建模。受最近发展区（ZPD）教育理论的启发，我们提出了 ZPD Detector，这是一种数据选择框架，通过显式建模样本难度与模型当前能力之间的对齐，采用模型与数据之间的双向视角。ZPD Detector 集成了难度校准、基于项目反应理论（IRT）的模型能力估计以及能力-难度匹配得分，以在每个学习阶段动态识别最具信息量的样本，从而提高数据利用效率；此外，这种动态匹配策略为训练策略设计提供了新的见解。我们所有的代码和数据将在工作被接受后发布，以支持可复现的研究。
引用
@article{arxiv.2601.10986,
title = {ZPD Detector: Data Selection via Capability-Difficulty Alignment for Large Language Models},
author = {Bo Yang and Yunkui Chen and Lanfei Feng and Yu Zhang and Shijian Li},
journal= {arXiv preprint arXiv:2601.10986},
year = {2026}
}