AlphaMatch:利用Alpha散度提升半监督学习一致性的方法
机器学习
2020-11-25 v1 计算机视觉与模式识别
摘要
半监督学习(SSL)通过联合利用有标签与无标签数据,是实现更高数据效率机器学习的关键途径。我们提出AlphaMatch,一种高效的SSL方法,其利用数据增强,有效强制数据点与其派生增强数据之间的标签一致性。我们的关键技术贡献在于:1)使用alpha-divergence优先对高置信度数据进行正则化,以比FixMatch更灵活的方式达到类似效果;2)提出一种基于优化的类EM算法来强制一致性,其相比FixMatch、UDA、MixMatch等近期SSL方法所用的迭代正则化流程具有更好的收敛性。AlphaMatch简单且易于实现,并在CIFAR-10、SVHN、CIFAR-100、STL-10等标准基准上持续优于先前方法。具体而言,在CIFAR-10每类仅4个标签数据的情况下,我们达到了91.3%测试准确率,较FixMatch此前最佳的88.7%准确率有显著提升。
引用
@article{arxiv.2011.11779,
title = {AlphaMatch: Improving Consistency for Semi-supervised Learning with Alpha-divergence},
author = {Chengyue Gong and Dilin Wang and Qiang Liu},
journal= {arXiv preprint arXiv:2011.11779},
year = {2020}
}
备注
preprint