主动学习真的需要候选模型吗？
计算机视觉与模式识别
2026-05-15 v1
摘要
深度学习通过揭示海量数据集中的复杂模式，深刻影响了计算机视觉和自然语言处理等领域。然而，对大量标注数据的依赖带来了重大挑战，包括资源限制和标注错误，这在训练卷积神经网络 (CNN) 和 transformers 时尤为突出，因为它们具有大量参数。主动学习通过策略性地选择最具信息量的样本进行标注，提供了一种有希望的解决方案来减轻标注负担。然而，当前的主动学习框架非常耗时，它们需要借助初始候选模型迭代地选择样本。本研究调查了使用随机初始化权重的 CNN 和 transformers 的可行性，消除了对初始候选模型的需求，同时取得了与依赖此类候选模型的主动学习框架相当的结果。我们评估了三种基于置信度的采样策略：高置信度 (HC)、低置信度 (LC)，以及训练早期采用高置信度而训练后期采用低置信度的组合策略 (HCLC)。其中，在大多数情况下 LC 在我们的实验中表现最佳，展示了其作为一种无需候选模型的主动学习策略的有效性。此外，大量实验验证了所提主动学习方法的鲁棒性。通过挑战传统框架，本研究引入了一种简化的主动学习方法，提升了跨不同数据集和领域的效率与灵活性。
引用
@article{arxiv.2605.14689,
title = {Are Candidate Models Really Needed for Active Learning?},
author = {Harshini Mridula Mohan and Maanya Manjunath and Vipul Arya and S. H. Shabbeer Basha and Nitin Cheekatla},
journal= {arXiv preprint arXiv:2605.14689},
year = {2026}
}
备注
Accepted for publication in Computer Vision and Image Understanding (CVIU)