面向自学习开放世界类别的鲁棒半监督学习
机器学习
2024-01-17 v1
摘要
现有的半监督学习方法假设标注数据与未标注数据共享相同的类别空间。然而，在实际应用中，未标注数据总是包含标注集中未出现的类别，这可能导致已知类别的分类性能下降。因此，开放世界半监督学习方法被研究用于处理未标注数据中存在多个未知类别的情况，其目标是在准确分类已知类别的同时，细粒度地区分不同的未知类别。为应对这一挑战，本文提出了一种用于自学习开放世界类别的开放世界半监督学习方法(SSOC)，该方法能够显式地自学习多个未知类别。具体而言，SSOC首先为已知和未知类别定义类别中心令牌，并根据所有样本利用交叉注意力机制自主学习令牌表示。为有效发现新类别，SSOC在熵损失之外进一步设计了一种成对相似性损失，该损失能够巧妙地利用未标注数据中来自实例预测和关系的信息。大量实验表明，SSOC在多个流行的分类基准上优于最先进的基线方法。具体来说，在ImageNet-100数据集上，当新类别比例为90%时，SSOC取得了显著的22%的提升。
引用
@article{arxiv.2401.07551,
title = {Robust Semi-Supervised Learning for Self-learning Open-World Classes},
author = {Wenjuan Xi and Xin Song and Weili Guo and Yang Yang},
journal= {arXiv preprint arXiv:2401.07551},
year = {2024}
}