多样师生网络：类别不匹配下的深度安全半监督学习
计算机视觉与模式识别
2024-05-28 v1
摘要
半监督学习通过利用无标签数据可以显著提升模型性能，尤其是在标签数据稀缺时。然而，现实世界中的无标签数据通常包含未见类样本，这会阻碍可见类的分类。为解决此问题，主流的安全半监督学习方法建议从无标签数据中检测并丢弃未见类样本。然而，这些方法通常采用单一模型策略来同时处理可见类分类和未见类检测。我们的研究表明，这种方法可能导致训练过程中的冲突，导致模型优化次优。受此启发，我们引入了一个名为多样师生网络（DTS）的新框架，该框架独特地利用双师生模型分别且有效地处理这两个任务。DTS采用一种新颖的不确定性分数来从无标签数据中软分离未见类和可见类数据，并智能地创建一个额外的第类监督信号用于训练。通过使用所有无标签样本训练两个师生模型，DTS可以增强可见类的分类，同时改善未见类的检测。大量实验表明，DTS在各种数据集和配置上均优于基线方法。我们的代码和模型可在https://github.com/Zhanlo/DTS公开获取。
引用
@article{arxiv.2405.16093,
title = {Diverse Teacher-Students for Deep Safe Semi-Supervised Learning under Class Mismatch},
author = {Qikai Wang and Rundong He and Yongshun Gong and Chunxiao Ren and Haoliang Sun and Xiaoshui Huang and Yilong Yin},
journal= {arXiv preprint arXiv:2405.16093},
year = {2024}
}