中文

AlphaMatch:利用Alpha散度提升半监督学习一致性的方法

机器学习 2020-11-25 v1 计算机视觉与模式识别

摘要

半监督学习(SSL)通过联合利用有标签与无标签数据,是实现更高数据效率机器学习的关键途径。我们提出AlphaMatch,一种高效的SSL方法,其利用数据增强,有效强制数据点与其派生增强数据之间的标签一致性。我们的关键技术贡献在于:1)使用alpha-divergence优先对高置信度数据进行正则化,以比FixMatch更灵活的方式达到类似效果;2)提出一种基于优化的类EM算法来强制一致性,其相比FixMatch、UDA、MixMatch等近期SSL方法所用的迭代正则化流程具有更好的收敛性。AlphaMatch简单且易于实现,并在CIFAR-10、SVHN、CIFAR-100、STL-10等标准基准上持续优于先前方法。具体而言,在CIFAR-10每类仅4个标签数据的情况下,我们达到了91.3%测试准确率,较FixMatch此前最佳的88.7%准确率有显著提升。

关键词

引用

@article{arxiv.2011.11779,
  title  = {AlphaMatch: Improving Consistency for Semi-supervised Learning with Alpha-divergence},
  author = {Chengyue Gong and Dilin Wang and Qiang Liu},
  journal= {arXiv preprint arXiv:2011.11779},
  year   = {2020}
}

备注

preprint