基于答案发散的指令数据选择
计算与语言
2026-04-21 v2
摘要
指令调谐依赖大型指令-响应语料库，其质量和组成对下游性能影响巨大。我们提出了基于答案发散的选择方法（ADG），该方法依据多样本输出的几何结构来选择指令数据。ADG 为每个指令抽取多个高温度生成样本，将响应映射到嵌入空间，并计算联合编码散度幅度和形状各向异性的输出发散得分。得分高的指令其答案既相互遥远又多模态，而非沿单一方向聚集的平行改写。无论是在两个 backbone 还是三个公开指令池上，使用仅 10K 个 ADG 选中示例在涵盖推理、知识和编码的六个基准测试上始终优于强大的选择器。进一步分析表明，散度幅度和形状各向异性都不可或缺，支持答案发散作为指令数据选择的实用信号。附录中包含代码。
引用
@article{arxiv.2604.10448,
title = {Instruction Data Selection via Answer Divergence},
author = {Bo Li and Mingda Wang and Shikun Zhang and Wei Ye},
journal= {arXiv preprint arXiv:2604.10448},
year = {2026}
}
备注
Github: https://github.com/WisdomShell/ADG Project: https://wisdomshell.github.io/ADG/