中文

ABC:面向类不平衡半监督学习的辅助平衡分类器

机器学习 2021-10-22 v1 计算机视觉与模式识别

摘要

现有半监督学习(SSL)算法通常假设数据集类平衡,尽管许多真实世界数据集的类别分布是不平衡的。一般而言,在类不平衡数据集上训练的分类器会偏向多数类。该问题对SSL算法更为严重,因为它们利用未标记数据的偏置预测进行训练。然而,为标记数据设计的传统类不平衡学习技术无法轻易与SSL算法结合。我们提出了一种可扩展的类不平衡SSL算法,能有效利用未标记数据,同时通过引入附加在现有SSL算法表示层上的单层辅助平衡分类器(ABC)来缓解类不平衡。ABC以最小批次的类平衡损失进行训练,同时使用由骨干SSL算法从最小批次中所有数据点学到的高质量表示,以避免过拟合与信息损失。此外,我们使用一致性正则化(一种近期用于以改进方式利用未标记数据的SSL技术)来训练ABC,使其在各类间平衡,具体通过对每个类以相同概率选择未标记数据实现。所提算法在使用四个基准数据集的多种类不平衡SSL实验中达到了最先进性能。

关键词

引用

@article{arxiv.2110.10368,
  title  = {ABC: Auxiliary Balanced Classifier for Class-imbalanced Semi-supervised Learning},
  author = {Hyuck Lee and Seungjae Shin and Heeyoung Kim},
  journal= {arXiv preprint arXiv:2110.10368},
  year   = {2021}
}