ContraCluster：基于对比自监督与原型半监督的无标签分类学习
计算机视觉与模式识别
2023-04-20 v1 机器学习
摘要
表征学习的最新进展激励我们以原则性的方式应对无监督图像分类这一挑战性问题。我们提出 ContraCluster，一种结合聚类与对比自监督学习能力的无监督图像分类方法。ContraCluster 包含三个阶段：(1) 对比自监督预训练（CPT），(2) 对比原型采样（CPS），以及 (3) 基于原型的半监督微调（PB-SFT）。CPS 能够在对比学习学到的嵌入空间中筛选高度准确、具类别代表性的原型图像。我们将采样得到的原型作为带噪声的标注数据来执行半监督微调（PB-SFT），利用少量原型与大量无标签数据进一步提升准确率。我们通过实验证明，ContraCluster 在 CIFAR-10、STL-10 和 ImageNet-10 等标准基准数据集上取得了新的 SOTA 结果。例如，ContraCluster 在 CIFAR-10 上达到约 90.8% 的准确率，大幅优于 DAC（52.2%）、IIC（61.7%）和 SCAN（87.6%）。在没有任何标签的情况下，ContraCluster 可达到 90.8% 的准确率，与最佳有监督对应方法的 95.8% 相当。
引用
@article{arxiv.2304.09369,
title = {ContraCluster: Learning to Classify without Labels by Contrastive Self-Supervision and Prototype-Based Semi-Supervision},
author = {Seongho Joe and Byoungjip Kim and Hoyoung Kang and Kyoungwon Park and Bogun Kim and Jaeseon Park and Joonseok Lee and Youngjune Gwon},
journal= {arXiv preprint arXiv:2304.09369},
year = {2023}
}
备注
Accepted at ICPR 2022