ActiveMatch:端到端半监督主动表示学习
计算机视觉与模式识别
2022-08-08 v2
摘要
半监督学习(SSL)是一种可利用有标签和无标签数据训练模型的高效框架,但在缺乏充足有标签样本时可能产生模糊且不可区分的表示。借助人在回路,主动学习可迭代地选择信息量大的无标签样本进行标注和训练,以提升 SSL 框架中的性能。然而,大多数现有主动学习方法依赖于预训练特征,这不适用于端到端学习。为应对 SSL 的缺陷,本文提出一种新颖的端到端表示学习方法,称为 ActiveMatch,其将 SSL 与对比学习和主动学习相结合以充分利用有限标签。从少量有标签数据出发并以无监督对比学习作为预热,ActiveMatch 随后结合 SSL 与有监督对比学习,并在训练过程中主动选择最具代表性的样本进行标注,从而获得更利于分类的表示。与具有相同有标签数量的 MixMatch 和 FixMatch 相比,我们表明 ActiveMatch 取得了最先进的性能,在 CIFAR-10 上以 100 个收集标签达到 89.24% 准确率,以 200 个收集标签达到 92.20% 准确率。
引用
@article{arxiv.2110.02521,
title = {ActiveMatch: End-to-end Semi-supervised Active Representation Learning},
author = {Xinkai Yuan and Zilinghan Li and Gaoang Wang},
journal= {arXiv preprint arXiv:2110.02521},
year = {2022}
}
备注
5 pages, 2 figures, accepted by ICIP 2022