中文

MarginMatch:利用伪边界提升半监督学习

计算机视觉与模式识别 2023-08-21 v1

摘要

我们提出 MarginMatch,一种结合一致性正则化与伪标签的新的 SSL(半监督学习)方法,其主要新颖性在于利用未标记数据的训练动态来衡量伪标签质量。MarginMatch 并非仅在任意迭代中使用模型对未标记样本的置信度来决定是否屏蔽该样本,而是分析模型在伪标签样本上随训练推进的行为,以确保低质量预测被屏蔽。MarginMatch 在四个低数据量视觉基准和两个大规模数据集上带来显著提升,强调了强制高质量伪标签的重要性。值得注意的是,在 CIFAR-100 上每类仅 25 个标签时,我们将错误率相对 SOTA(当前最优)降低了 3.25%;在 STL-10 上每类仅 4 个标签时降低了 3.78%。我们的代码见 https://github.com/tsosea2/MarginMatch。

关键词

引用

@article{arxiv.2308.09037,
  title  = {MarginMatch: Improving Semi-Supervised Learning with Pseudo-Margins},
  author = {Tiberiu Sosea and Cornelia Caragea},
  journal= {arXiv preprint arXiv:2308.09037},
  year   = {2023}
}