面向少标注样本的主动自半监督学习
计算机视觉与模式识别
2024-11-05 v3
摘要
在多样化的实际领域中，使用有限标注训练深度模型是一项重大挑战。将半监督学习与自监督模型结合使用，有潜力提升标注效率。然而，该方法在减少标注需求方面面临瓶颈。我们观察到，在仅有少量标注可用时，半监督模型会破坏自监督学习中有价值的信息。为解决此问题，本文提出一个简单而有效的框架——主动自半监督学习（AS3L）。AS3L利用先验伪标签（PPL）引导半监督模型。这些PPL通过对自监督特征进行标签传播获得。基于观察，PPL的准确性不仅受特征质量影响，也受标注样本选择的影响。我们开发了主动学习和标签传播策略以获得准确的PPL。因此，我们的框架在有限标注情况下能显著提升模型性能，并展现出快速收敛。在四个数据集的图像分类任务上，我们的方法平均优于基线5.4%。此外，它约用1/3的训练时间达到了与基线方法相同的精度。
引用
@article{arxiv.2203.04560,
title = {Active Self-Semi-Supervised Learning for Few Labeled Samples},
author = {Ziting Wen and Oscar Pizarro and Stefan Williams},
journal= {arXiv preprint arXiv:2203.04560},
year = {2024}
}
备注
Accept by Neurocomputing