LCGC：基于一致性梯度冲突的类别不平衡半监督去偏方法
计算机视觉与模式识别
2025-04-10 v1
摘要
分类器常常在类别不平衡数据集中学习出偏置，尤其是在半监督学习（SSL）场景下。虽然已有工作尝试通过减去与类别无关图像的 logits 来合理重新平衡分类器，但缺乏坚实的理论依据。我们对此进行了理论分析，阐明为何利用基线图像可改进伪标签，并证明黑色图像是最佳选择。我们还指出，随着训练过程的深入，训练前后的伪标签会趋于接近。基于此观察，我们提出一种去偏方案，称为 LCGC，即 Learning from Consistency Gradient Conflicting，通过鼓励训练期间产生类别偏置的预测来实现。我们有意更新那些梯度与去偏后 logits 冲突的伪标签，这些冲突代表了来自过度不平衡分类器预测所提供的优化方向。随后，在测试阶段通过减去基线图像的 logits 来实现去偏。大量实验表明，LCGC 能显著提高现有类别不平衡 SSL 模型在公开基准数据集上的预测准确率。
引用
@article{arxiv.2504.06544,
title = {LCGC: Learning from Consistency Gradient Conflicting for Class-Imbalanced Semi-Supervised Debiasing},
author = {Weiwei Xing and Yue Cheng and Hongzhu Yi and Xiaohui Gao and Xiang Wei and Xiaoyu Guo and Yuming Zhang and Xinyu Pang},
journal= {arXiv preprint arXiv:2504.06544},
year = {2025}
}
备注
This paper has been accepted by AAAI 2025