OpenMatch:面向含离群值半监督学习的开放集一致性正则化
计算机视觉与模式识别
2021-08-26 v2
摘要
半监督学习(SSL)是利用无标签数据提升模型性能的有效手段。FixMatch等典型SSL方法假设有标签与无标签数据共享同一标签空间。然而在实践中,无标签数据可包含有标签集中未出现的类别,即离群值,这会显著损害SSL算法的性能。为解决该问题,我们提出一种名为OpenMatch的新型开放集半监督学习(OSSL)方法。学习正常样本的表示同时拒绝离群值对OSSL的成功至关重要。为此,OpenMatch将FixMatch与基于一对多(OVA)分类器的新颖性检测相统一。OVA分类器输出样本为正常样本的置信度分数,提供检测离群值的阈值。另一关键贡献是开放集软一致性正则化损失,其增强了OVA分类器相对于输入变换的平滑性,并大幅改善了离群值检测。OpenMatch在三个数据集上取得了最先进的性能,甚至在CIFAR10上检测无标签数据中未见离群值方面优于全监督模型。
引用
@article{arxiv.2105.14148,
title = {OpenMatch: Open-set Consistency Regularization for Semi-supervised Learning with Outliers},
author = {Kuniaki Saito and Donghyun Kim and Kate Saenko},
journal= {arXiv preprint arXiv:2105.14148},
year = {2021}
}
备注
Code https://github.com/VisionLearningGroup/OP_Match