中文

RegMixMatch:优化半监督学习中的Mixup利用

机器学习 2025-04-18 v2 计算机视觉与模式识别 机器学习

摘要

一致性正则化和伪标签化已显著推动了半监督学习(SSL)。先前的工作有效地在SSL中采用Mixup进行一致性正则化。然而,我们的发现表明,对SSL应用Mixup进行一致性正则化可能会因妨碍人工标签的纯度而损害SSL性能。此外,大多数伪标签化方法利用阈值策略以排除低置信度数据,旨在缓解确认偏差;然而,这种方法限制了未标记样本的实用性。为解决这些挑战,我们提出了RegMixMatch——一种优化SSL中Mixup使用的新型框架。首先,我们引入半监督RegMixup,该方法通过使用混合样本和干净样本进行训练,有效解决人工标签纯度降低的问题。其次,我们开发了一种基于类的Mixup技术,将来自前两位预测类别的信息整合到低置信度样本及其人工标签中,从而减少这些样本的确认偏差并提高其有效利用。实验结果表明,RegMixMatch在各种SSL基准测试中实现了最先进的性能。

关键词

引用

@article{arxiv.2412.10741,
  title  = {RegMixMatch: Optimizing Mixup Utilization in Semi-Supervised Learning},
  author = {Haorong Han and Jidong Yuan and Chixuan Wei and Zhongyang Yu},
  journal= {arXiv preprint arXiv:2412.10741},
  year   = {2025}
}

备注

Accepted in AAAI Conference on Artificial Intelligence (AAAI-25)