零人工标注的善用标记

主动学习策略性地选择信息丰富的未标记数据点并查询其真实标签以进行模型训练。当前这一机器学习范式的主要假设是获取这些真实标签将最佳地增强模型性能。然而，这一假设并不总是成立，尤其是在考虑获取真实标签所需的昂贵人力标注成本时。本文提出了善用标记方法，该方法无需人工标注即可自动为最具信息性的样本分配最有益的标签。具体而言，我们利用影响函数——一种用于估计样本影响的工具——来选择新添加的样本，并通过选择最大化其正面影响的类别来分配其善用标签。这一过程消除了对人工标注的需求。在九个基准数据集上进行的大量实验表明，我们的善用标记方法优于传统主动学习策略。此外，我们提供了对大型语言模型(LLM)微调的几个深入探索和实际应用。