基于自监督聚类的简易半监督学习
计算机视觉与模式识别
2023-06-14 v1
摘要
自监督学习模型已被证明能够在无需人工标注的情况下学习丰富的视觉表示。然而,在许多真实场景中标签部分可用,这推动了近期受自监督原则启发的半监督方法的研究。本文中,我们提出一种概念简单但经验上强大的方法,将基于聚类的自监督方法(如 SwAV 或 DINO)转化为半监督学习器。更确切地说,我们引入了一个多任务框架,将使用真实标签的监督目标与依赖聚类分配的自监督目标以单一交叉熵损失相融合。该方法可解释为将聚类中心强制作为类原型。尽管简单,我们提供的经验证据表明我们的方法非常有效,并在 CIFAR100 和 ImageNet 上取得了最先进的性能。
引用
@article{arxiv.2306.07483,
title = {Semi-supervised learning made simple with self-supervised clustering},
author = {Enrico Fini and Pietro Astolfi and Karteek Alahari and Xavier Alameda-Pineda and Julien Mairal and Moin Nabi and Elisa Ricci},
journal= {arXiv preprint arXiv:2306.07483},
year = {2023}
}
备注
CVPR 2023 - Code available at https://github.com/pietroastolfi/suave-daino