SemiGPC：基于高斯过程、面向不平衡半监督学习的分布感知标签精炼
计算机视觉与模式识别
2023-11-06 v1 机器学习
摘要
本文提出 SemiGPC，一种基于高斯过程的分布感知标签精炼策略，其中模型的预测由标签后验分布导出。与其他基于缓冲区的半监督方法（如 CoMatch 和 SimMatch）不同，我们的 SemiGPC 包含一个归一化项，在保持局部敏感性的同时处理全局数据分布中的不平衡。这种显式控制使 SemiGPC 对确认偏差更具鲁棒性，尤其在类别不平衡下。我们表明，SemiGPC 与不同半监督方法（如 FixMatch、ReMixMatch、SimMatch 和 FreeMatch）以及不同预训练策略（包括 MSN 和 Dino）结合时均能提升性能。我们还表明，在标准 CIFAR10-LT/CIFAR100-LT 上不同类别不平衡程度下，SemiGPC 取得了 SOTA 结果，尤其在低数据 regime 下。在更具挑战性的基准 SemiAves、SemiCUB、SemiFungi 和 Semi-iNat 上，与一个新的竞争性基线相比，使用 SemiGPC 也带来了约 2% 的平均准确率提升。
引用
@article{arxiv.2311.01646,
title = {SemiGPC: Distribution-Aware Label Refinement for Imbalanced Semi-Supervised Learning Using Gaussian Processes},
author = {Abdelhak Lemkhenter and Manchen Wang and Luca Zancato and Gurumurthy Swaminathan and Paolo Favaro and Davide Modolo},
journal= {arXiv preprint arXiv:2311.01646},
year = {2023}
}