DASO：面向不平衡半监督学习的分布感知语义导向伪标签
计算机视觉与模式识别
2022-06-03 v2 人工智能
机器学习
摘要
传统半监督学习（SSL）方法的能力远未达现实应用，其原因在于（1）类别不平衡与（2）标注与未标注数据间类别分布失配所导致的严重偏差伪标签。本文解决这一相对未被充分探索的问题。首先，我们提出一个通用伪标签框架，在观察到基于相似度的分类器的语义伪标签与线性分类器的线性伪标签在偏差方面具有互补性质后，以类别自适应方式将前者融合至后者。我们进一步引入一种新颖的语义对齐损失，以建立均衡特征表示，从而减少分类器的偏差预测。我们将整体框架称为分布感知语义导向（DASO）伪标签。我们在广泛的不平衡基准上进行了大量实验：CIFAR10/100-LT、STL10-LT，以及具有开集类别的大规模长尾 Semi-Aves，并证明所提 DASO 框架可靠地改进了利用未标注数据的 SSL 学习器，尤其在（1）类别不平衡与（2）分布失配均占主导时。
引用
@article{arxiv.2106.05682,
title = {DASO: Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning},
author = {Youngtaek Oh and Dong-Jin Kim and In So Kweon},
journal= {arXiv preprint arXiv:2106.05682},
year = {2022}
}
备注
CVPR 2022; Project page: https://ytaek-oh.github.io/daso