通过自监督特征适应实现广义半监督学习
计算机视觉与模式识别
2024-06-03 v1 机器学习
摘要
传统的半监督学习（SSL）假设标记数据和未标记数据的特征分布一致，这在现实场景中很少成立。在本文中，我们提出了一种新颖的SSL设置，其中未标记样本来自与标记样本特征分布偏离的混合分布。在这种设置下，先前的SSL方法倾向于使用在标记数据上拟合的模型预测错误的伪标签，导致噪声累积。为了解决这个问题，我们提出了自监督特征适应（SSFA），这是一个通用框架，用于在标记和未标记数据来自不同分布时提高SSL性能。SSFA将伪标签的预测与当前模型解耦，以提高伪标签的质量。特别地，SSFA将自监督任务纳入SSL框架，并利用它使模型的特征提取器适应未标记数据。通过这种方式，提取的特征更好地拟合未标记数据的分布，从而生成高质量的伪标签。大量实验表明，我们提出的SSFA适用于各种基于伪标签的SSL学习器，并在标记、未标记甚至未见分布上显著提高了性能。
引用
@article{arxiv.2405.20596,
title = {Generalized Semi-Supervised Learning via Self-Supervised Feature Adaptation},
author = {Jiachen Liang and Ruibing Hou and Hong Chang and Bingpeng Ma and Shiguang Shan and Xilin Chen},
journal= {arXiv preprint arXiv:2405.20596},
year = {2024}
}
备注
10 pages; Accepted by NeurIPS 2023