SequenceMatch:重新审视半监督学习中弱增强与强增强的设计
计算机视觉与模式识别
2023-10-25 v1 人工智能
摘要
半监督学习(SSL)近年来变得流行,因为它允许使用大量未标记数据训练模型。然而,许多SSL方法面临的一个问题是确认偏差,即当模型对小型标记训练数据集过拟合并产生过度自信的错误预测时发生。为了解决这个问题,我们提出了SequenceMatch,一种利用多种数据增强的高效SSL方法。SequenceMatch的关键要素是为未标记数据引入中等增强。通过利用不同增强以及每对增强样本之间的一致性约束,SequenceMatch有助于减少模型对弱增强和强增强样本的预测分布之间的分歧。此外,SequenceMatch为高分和低分置信度预测定义了两种不同的一致性约束。因此,SequenceMatch比ReMixMatch数据效率更高,比ReMixMatch()和CoMatch()时间效率更高,同时具有更高的准确率。尽管简单,SequenceMatch在标准基准(如CIFAR-10/100、SVHN和STL-10)上持续优于先前的方法。在ImageNet等大规模数据集上,它以38.46%的错误率大幅超越先前的state-of-the-art方法。代码可在 https://github.com/beandkay/SequenceMatch 获取。
引用
@article{arxiv.2310.15787,
title = {SequenceMatch: Revisiting the design of weak-strong augmentations for Semi-supervised learning},
author = {Khanh-Binh Nguyen},
journal= {arXiv preprint arXiv:2310.15787},
year = {2023}
}
备注
Accepted to WACV 2024