低置信度金：为高效指令调优精炼低置信度样本
计算与语言
2026-04-09 v7 人工智能
摘要
指令微调（instruction fine-tuning）对大型语言模型（LLM）的有效性，根本受限于训练数据集的质量和效率。本工作引入低置信度金（Low-Confidence Gold, LCG），一种新型过滤框架，采用基于质心的聚类和置信度引导选择，用于识别有价值指令对。通过半监督方法，使用在代表性样本上训练的轻量级分类器，LCG精选高质量子集，同时保持数据多样性。实验评估表明，在仅6000个样本的LCG过滤子集上微调的模型，相比现有方法在MT-bench上实现卓越的性能，并在全面评估指标上持续获得提升。该框架在保持模型性能的同时，证明了高效指令调优的可行性，为该方向的探索提供了希望。所有开源资产均公开于 https://github.com/Lizruletheworld/Low-Confidence_Gold。
引用
@article{arxiv.2502.18978,
title = {Low-Confidence Gold: Refining Low-Confidence Samples for Efficient Instruction Tuning},
author = {Hongyi Cai and Jie Li and Mohammad Mahdinur Rahman and Wenzhen Dong},
journal= {arXiv preprint arXiv:2502.18978},
year = {2026}
}
备注
Accepted to EMNLP Findings 2025