面向新类发现的类关系知识蒸馏
计算机视觉与模式识别
2023-08-28 v3
摘要
我们解决了新类发现问题，该问题旨在基于已知类的标注数据在无监督情况下学习新类。一个关键挑战在于将已知类数据中的知识迁移到新类的学习中。以往方法主要关注构建共享表示空间以实现知识迁移，往往忽略了对类关系的建模。为此，我们基于在已知类上训练的模型的预测类分布，为新类引入了一种类关系表示。经验上，我们发现这种类关系在典型的发现训练过程中变得信息量减弱。为防止此类信息损失，我们提出了一种新颖的知识蒸馏框架，利用我们的类关系表示来正则化新类的学习。此外，为使新类中每个数据点都能采用灵活的知识蒸馏方案，我们为正则化设计了一个可学习的加权函数，该函数基于新类与已知类之间的语义相似度自适应地促进知识迁移。为验证方法的有效性与泛化性，我们在多个基准上进行了大量实验，包括 CIFAR100、Stanford Cars、CUB 和 FGVC-Aircraft 数据集。结果表明，所提方法在几乎所有基准上均显著优于以往的 SOTA 方法。代码见 \href{https://github.com/kleinzcy/Cr-KD-NCD}{here}。
引用
@article{arxiv.2307.09158,
title = {Class-relation Knowledge Distillation for Novel Class Discovery},
author = {Peiyan Gu and Chuyu Zhang and Ruijie Xu and Xuming He},
journal= {arXiv preprint arXiv:2307.09158},
year = {2023}
}
备注
ICCV2023