DEUCE：面向冷启动主动学习的双多样性增强与不确定性感知
计算与语言
2025-02-04 v1 人工智能
信息检索
摘要
冷启动主动学习（CSAL）从无标签数据集中选择有价值的实例进行人工标注。它为标签稀缺的文本分类任务提供了低标注成本的高质量数据。然而，现有的CSAL方法忽略了弱类类别和困难代表性示例，导致学习存在偏差。为了解决这些问题，本文提出了一种新颖的双多样性增强与不确定性感知（DEUCE）框架用于CSAL。具体而言，DEUCE利用预训练语言模型（PLM）高效地提取文本表示、类别预测和预测不确定性。然后，它构建了一个双邻居图（DNG）来结合文本多样性和类别多样性的信息，确保数据分布均衡。它进一步通过基于密度的聚类传播不确定性信息，以选择困难的代表性实例。DEUCE通过双多样性和信息量，在选择类别均衡和困难代表性数据方面表现良好。在六个NLP数据集上的实验证明了DEUCE的优越性和效率。
引用
@article{arxiv.2502.00305,
title = {DEUCE: Dual-diversity Enhancement and Uncertainty-awareness for Cold-start Active Learning},
author = {Jiaxin Guo and C. L. Philip Chen and Shuzhen Li and Tong Zhang},
journal= {arXiv preprint arXiv:2502.00305},
year = {2025}
}
备注
18 pages, 3 figures, 12 tables. Accepted manuscript by TACL. For published version by MIT Press, see https://direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00731/125950