中文

VCC-INFUSE:面向准确高效的半监督学习中无标签样本选择

机器学习 2024-04-23 v2 计算机视觉与模式识别

摘要

尽管半监督学习取得了进展,现有方法仍未有效且高效地利用无标签数据。许多基于伪标签的方法,依据分类器的不准确置信度得分来选择无标签样本。此外,大多数 prior work 使用所有可用的无标签数据而不进行修剪,这使得处理大量无标签数据变得困难。为此,我们提出了两种方法:变分置信校准(VCC)和基于影响函数的无标签样本消除(INFUSE)。VCC 是半监督学习置信度校准的通用插件,利用变分自编码器基于三种一致性得分选择更准确的伪标签。INFUSE 是一种数据修剪方法,在半监督学习下构建无标签样本的核心数据集。我们的方法在多个数据集和设置下效果显著,降低了分类错误率,节省了训练时间。联合使用 VCC-INFUSE 可将 FlexMatch 在 CIFAR-100 数据集上的错误率降低 1.08%,同时将训练时间节省近一半。

关键词

引用

@article{arxiv.2404.11947,
  title  = {VCC-INFUSE: Towards Accurate and Efficient Selection of Unlabeled Examples in Semi-supervised Learning},
  author = {Shijie Fang and Qianhan Feng and Tong Lin},
  journal= {arXiv preprint arXiv:2404.11947},
  year   = {2024}
}

备注

Accepted paper of IJCAI 2024. Shijie Fang and Qianhan Feng contributed equally to this paper. New version, some problems and typos are fixed