中文

ReMixMatch:基于分布对齐与增强锚定的半监督学习

机器学习 2020-02-17 v2 计算机视觉与模式识别 机器学习

摘要

我们通过引入两种新技术:分布对齐和增强锚定,改进了最近提出的“MixMatch”半监督学习算法。分布对齐鼓励未标注数据上预测的边际分布接近真实标签的边际分布。增强锚定将同一个输入的多个强增强版本输入模型,并鼓励每个输出接近该输入弱增强版本的预测。为产生强增强,我们提出了AutoAugment的一种变体,其在模型训练的同时学习增强策略。我们的新算法称为ReMixMatch,比先前工作显著更具数据效率,达到相同精度所需数据量少至 5×5\times16×16\times。例如,在CIFAR-10上,使用250个标注样本我们达到了 93.73%93.73\% 的精度(相比之下MixMatch使用 4,0004{,}000 个样本达到 93.58%93.58\% 的精度),并且每类仅四个标签时中位精度为 84.92%84.92\%。我们在 https://github.com/google-research/remixmatch 开源了代码和数据。

关键词

引用

@article{arxiv.1911.09785,
  title  = {ReMixMatch: Semi-Supervised Learning with Distribution Alignment and Augmentation Anchoring},
  author = {David Berthelot and Nicholas Carlini and Ekin D. Cubuk and Alex Kurakin and Kihyuk Sohn and Han Zhang and Colin Raffel},
  journal= {arXiv preprint arXiv:1911.09785},
  year   = {2020}
}