中文

MutexMatch:基于互斥一致性正则化的半监督学习

计算机视觉与模式识别 2022-12-22 v2 机器学习

摘要

半监督学习(SSL)的核心问题在于如何有效利用无标签数据,而多数现有方法倾向于高度重视高置信度样本的利用,却很少充分探索低置信度样本的使用。本文中,我们旨在以所提出的基于互斥的一致性正则化(即 MutexMatch)这一新颖方式利用低置信度样本。具体地,高置信度样本被要求通过常规真阳性分类器精确预测“它是什么”,而低置信度样本则被用于实现一个更简单的目标——通过真阴性分类器轻松预测“它不是什么”。就此意义,我们不仅缓解了伪标签错误,还借助不相似度的一致性充分利用了低置信度无标签数据。MutexMatch 在多个基准数据集(即 CIFAR-10、CIFAR-100、SVHN、STL-10、mini-ImageNet 与 Tiny-ImageNet)上取得了优越性能。更重要的是,当标签数据稀缺时,我们的方法进一步展现出优越性,例如在 CIFAR-10 上仅用 20 个标签数据即达到 92.23% 准确率。我们的代码与模型权重已发布于 https://github.com/NJUyued/MutexMatch4SSL。

关键词

引用

@article{arxiv.2203.14316,
  title  = {MutexMatch: Semi-Supervised Learning with Mutex-Based Consistency Regularization},
  author = {Yue Duan and Zhen Zhao and Lei Qi and Lei Wang and Luping Zhou and Yinghuan Shi and Yang Gao},
  journal= {arXiv preprint arXiv:2203.14316},
  year   = {2022}
}

备注

Accepted by IEEE Transactions on Neural Networks and Learning Systems (TNNLS)