RoPAWS：基于未筛选数据的鲁棒半监督表示学习
机器学习
2023-03-01 v1 计算机视觉与模式识别
机器学习
摘要
半监督学习旨在利用有限的标签训练模型。当前最先进的图像分类半监督方法（如 PAWS）依赖于使用大规模无标签但经过筛选的数据所学习的自监督表示。然而，当使用包含类外数据等未经筛选的真实世界无标签数据时，PAWS 往往效果较差。我们提出 RoPAWS，即 PAWS 的鲁棒扩展，能够处理真实世界无标签数据。我们首先将 PAWS 重新解释为一个使用核密度估计建模密度的生成式分类器。从这一概率视角出发，我们基于有标签与无标签数据的密度对其预测进行校准，从而由贝叶斯规则得到简单的闭式解。我们证明 RoPAWS 在未筛选的 Semi-iNat 上比 PAWS 显著提升 +5.3%，在筛选的 ImageNet 上提升 +0.4%。
引用
@article{arxiv.2302.14483,
title = {RoPAWS: Robust Semi-supervised Representation Learning from Uncurated Data},
author = {Sangwoo Mo and Jong-Chyi Su and Chih-Yao Ma and Mido Assran and Ishan Misra and Licheng Yu and Sean Bell},
journal= {arXiv preprint arXiv:2302.14483},
year = {2023}
}
备注
ICLR 2023