SelfMatch：结合对比自监督与一致性的半监督学习方法
机器学习
2021-01-19 v1 计算机视觉与模式识别
摘要
本文介绍了 SelfMatch，一种结合对比自监督学习与一致性正则化能力的半监督学习方法。SelfMatch 包含两个阶段：(1) 基于对比学习的自监督预训练，以及 (2) 基于增强一致性正则化的半监督微调。我们通过实验证明，SelfMatch 在 CIFAR-10 和 SVHN 等标准基准数据集上取得了最先进（state-of-the-art）的结果。例如，对于仅有 40 个标注样本的 CIFAR-10，SelfMatch 达到了 93.19% 的准确率，优于 MixMatch (52.46%)、UDA (70.95%)、ReMixMatch (80.9%) 和 FixMatch (86.19%) 等强基线方法。我们注意到，通过为每个类别仅使用少量标注，SelfMatch 能够缩小监督学习 (95.87%) 与半监督学习 (93.19%) 之间的差距。
引用
@article{arxiv.2101.06480,
title = {SelfMatch: Combining Contrastive Self-Supervision and Consistency for Semi-Supervised Learning},
author = {Byoungjip Kim and Jinho Choo and Yeong-Dae Kwon and Seongho Joe and Seungjai Min and Youngjune Gwon},
journal= {arXiv preprint arXiv:2101.06480},
year = {2021}
}
备注
4 pages, NeurIPS 2020 Workshop: Self-Supervised Learning - Theory and Practice