NP-Match：面向半监督学习的一种新概率模型

Jianfeng Wang; Xiaolin Hu; Thomas Lukasiewicz

NP-Match：面向半监督学习的一种新概率模型

计算机视觉与模式识别 2023-06-27 v2 机器学习

作者: Jianfeng Wang , Xiaolin Hu , Thomas Lukasiewicz

摘要

半监督学习（SSL）近年来被广泛探索，它是利用无标签数据以减少对标签数据依赖的有效途径。在本工作中，我们将神经过程（NPs）调整至半监督图像分类任务，得到了一种名为 NP-Match 的新方法。NP-Match 适用于该任务有两个原因。首先，NP-Match 在预测时隐式比较数据点，因此每个无标签数据点的预测受到与之相似的标签数据点影响，从而提升了伪标签质量。其次，NP-Match 能够估计不确定性，可用作筛选具有可靠伪标签的无标签样本的工具。与采用蒙特卡洛（MC）dropout 实现的基于不确定性的 SSL 方法相比，NP-Match 以低得多的计算开销估计不确定性，从而在训练与测试阶段均可节省时间。我们在五个公开数据集上、于三种半监督图像分类设定下进行了大量实验，即标准半监督图像分类、不平衡半监督图像分类和多标签半监督图像分类，NP-Match 在其中优于最先进（SOTA）方法或取得有竞争力的结果，显示了 NP-Match 的有效性及其在 SSL 中的潜力。代码见 https://github.com/Jianf-Wang/NP-Match

关键词

半监督学习图像分类神经过程 NP-Match 不确定性估计伪标签

引用

@article{arxiv.2301.13569,
  title  = {NP-Match: Towards a New Probabilistic Model for Semi-Supervised Learning},
  author = {Jianfeng Wang and Xiaolin Hu and Thomas Lukasiewicz},
  journal= {arXiv preprint arXiv:2301.13569},
  year   = {2023}
}

备注

An extended version of our previous ICML 2022 paper arXiv:2207.01066 with more experiments

NP-Match：面向半监督学习的一种新概率模型

摘要

关键词

引用

备注

相关论文