AggMatch:面向半监督学习的伪标签聚合方法
机器学习
2022-01-26 v1 计算机视觉与模式识别
摘要
半监督学习 (SSL) 近年来已被证明是一种有效范式,可利用大量无标签数据并减轻对大规模有标签数据的依赖。传统方法侧重于从单个无标签数据样本中提取伪标签,因此大多难以处理不准确或含噪的伪标签,导致性能退化。本文中,我们通过一种新颖的用于聚合伪标签的 SSL 框架(称为 AggMatch)来解决这一局限,其利用不同的高置信实例来精炼初始伪标签。具体而言,我们为一致性正则化框架引入一个聚合模块,该模块基于实例之间的相似性聚合初始伪标签。为将聚合候选超出小批量范围,我们提出一个由动量模型构建的类平衡置信感知队列,鼓励提供更稳定且一致的聚合。我们还基于多个具有队列不同子集的假设之间的共识,提出了一种针对伪标签的基于不确定性的置信度量。我们开展实验以证明 AggMatch 在标准基准上优于最新方法,并提供了广泛的分析。
引用
@article{arxiv.2201.10444,
title = {AggMatch: Aggregating Pseudo Labels for Semi-Supervised Learning},
author = {Jiwon Kim and Kwangrok Ryoo and Gyuseong Lee and Seokju Cho and Junyoung Seo and Daehwan Kim and Hansang Cho and Seungryong Kim},
journal= {arXiv preprint arXiv:2201.10444},
year = {2022}
}