CDMAD:面向类别分布不匹配的类别不平衡半监督学习去偏
计算机视觉与模式识别
2024-05-28 v2
摘要
在类别不平衡数据集上训练的基于伪标签的半监督学习 (SSL) 算法面临两个级联挑战:1) 分类器倾向于偏向多数类,以及 2) 有偏的伪标签被用于训练。在 SSL 中适当地重新平衡分类器很困难,因为未标记集的类别分布通常是未知的,并且可能与标记集的类别分布不匹配。我们提出了一种新颖的类别不平衡 SSL 算法,称为类别分布不匹配感知去偏 (CDMAD)。在每次训练迭代中,CDMAD 首先通过在没有任何模式的图像(例如,纯色图像)上计算 logits 来评估分类器对每个类别的偏向程度,该图像可以被认为与训练集无关。然后,CDMAD 通过确保分类器的中立性来细化基础 SSL 算法的有偏伪标签。CDMAD 在基础 SSL 算法的训练过程中使用这些细化后的伪标签,以提高表示的质量。在测试阶段,CDMAD 类似地细化对测试样本的有偏类别预测。CDMAD 可以看作是事后 logit 调整的扩展,旨在解决在类别分布不匹配的情况下,结合未标记集的未知类别分布来重新平衡有偏分类器的挑战。CDMAD 确保了平衡误差的 Fisher 一致性。大量实验验证了 CDMAD 的有效性。
引用
@article{arxiv.2403.10391,
title = {CDMAD: Class-Distribution-Mismatch-Aware Debiasing for Class-Imbalanced Semi-Supervised Learning},
author = {Hyuck Lee and Heeyoung Kim},
journal= {arXiv preprint arXiv:2403.10391},
year = {2024}
}
备注
CVPR 2024