基于自合作知识蒸馏的新类别发现

新类别发现 (Novel Class Discovery, NCD) 旨在通过利用对已知类别所学知识，在无标签数据集中发现未知和新类别。现有工作聚焦于实例级或类别级知识表征，构建共享表征空间以提升性能。然而，长期忽视的一个问题是已知类别与新类别样本数量不平衡，导致模型倾向于主导类别。因此，这些方法在复习已知类别与发现新类别之间面临艰巨的权衡。基于此观察，我们提出自合作知识蒸馏 (SCKD) 方法，利用每个训练样本（无论是已知还是未知，是否有标签）同时进行复习与发现。具体而言，模型对已知类别和新类别的特征表示用于构建两个互斥的表征空间。通过空间互信息，我们设计自合作学习，以鼓励模型从自身的两个特征表征空间中进行学习。在六个数据集上的大量实验表明，我们的方法可实现显著性能提升，达到最新成果。