AuxMix：基于无约束无标签数据的半监督学习
计算机视觉与模式识别
2022-06-15 v1 人工智能
机器学习
摘要
在标签数据稀缺而无标签数据充足时，半监督学习（SSL）取得了巨大进展。关键的是，近期大多数工作假设此类无标签数据与标签数据来自同一分布。在本文中，我们展示最先进的 SSL 算法在存在不一定具有与标签集相同类别分布的无标签辅助数据时，性能会下降。我们将此问题称为辅助半监督学习（Auxiliary-SSL），并提出 AuxMix，一种利用自监督学习任务来学习通用特征以掩盖在语义上与标签集不相似的辅助数据的算法。我们还提出通过对不相似的辅助样本最大化预测熵来正则化学习。在 CIFAR10 数据集上以 4k 标签样本训练且所有无标签数据来自 Tiny-ImageNet 数据集时，我们在 ResNet-50 模型上展示了比现有基线高 5% 的提升。我们在多个数据集上报告了有竞争力的结果并进行了消融研究。
引用
@article{arxiv.2206.06959,
title = {AuxMix: Semi-Supervised Learning with Unconstrained Unlabeled Data},
author = {Amin Banitalebi-Dehkordi and Pratik Gujjar and Yong Zhang},
journal= {arXiv preprint arXiv:2206.06959},
year = {2022}
}
备注
CVPR2022