重新审视半监督学习中的一致性正则化
计算机视觉与模式识别
2021-12-14 v1
摘要
一致性正则化是半监督学习（SSL）中应用最广泛的技术之一。通常，其目标是训练一个对各种数据增强不变的模型。本文中，我们重新审视该思想，发现通过减小不同增强图像特征间距离来强制不变性可提升性能。然而，转而鼓励等变性（即增大特征距离）可进一步提升性能。为此，我们提出一种改进的一致性正则化框架，采用简单而有效的技术 FeatDistLoss，分别在分类器层面和特征层面施加一致性与等变性。实验结果表明，我们的模型在各种数据集和设定下确立了新的 SOTA，并以显著优势超越先前工作，尤其在低数据 regime 下。我们进行了大量实验以分析方法，代码将公开。
引用
@article{arxiv.2112.05825,
title = {Revisiting Consistency Regularization for Semi-Supervised Learning},
author = {Yue Fan and Anna Kukleva and Bernt Schiele},
journal= {arXiv preprint arXiv:2112.05825},
year = {2021}
}
备注
Published at GCPR2021 as a conference paper