中文

CoMatch:基于对比图正则化的半监督学习

机器学习 2021-03-04 v2 计算机视觉与模式识别

摘要

半监督学习已成为一种利用无标签数据以减少对标签数据依赖的有效范式。我们提出 CoMatch,一种新的半监督学习方法,它统一了主流方法并解决了它们的局限性。CoMatch 联合学习训练数据的两种表示:其类概率与低维嵌入。两种表示相互作用并共同演化。嵌入对类概率施加平滑约束以改进伪标签,而伪标签通过基于图的对比学习来正则化嵌入的结构。CoMatch 在多个数据集上取得了最先进的性能。它在标签稀缺的 CIFAR-10 和 STL-10 上实现了显著的准确率提升。在仅有 1% 标签的 ImageNet 上,CoMatch 取得了 66.0% 的 top-1 准确率,比 FixMatch 高出 12.6%。此外,CoMatch 在下游任务上取得了更好的表示学习性能,优于监督学习与自监督学习。代码与预训练模型可在 https://github.com/salesforce/CoMatch 获取。

关键词

引用

@article{arxiv.2011.11183,
  title  = {CoMatch: Semi-supervised Learning with Contrastive Graph Regularization},
  author = {Junnan Li and Caiming Xiong and Steven Hoi},
  journal= {arXiv preprint arXiv:2011.11183},
  year   = {2021}
}