大规模预训练模型在增量式新类发现中出奇地强大
计算机视觉与模式识别
2024-08-26 v5 机器学习
摘要
以连续方式在未标注数据集中发现新概念是终身学习者的重要需求。文献中此类问题在极受限设定下得到部分解决，其中新类通过联合访问相关标注集（如 NCD）或仅利用有监督预训练模型（如 class-iNCD）来学习。本文中我们挑战 class-iNCD 的现状，并提出一种学习范式，其中类发现连续且真正无监督地进行，无需任何相关标注集。具体而言，我们提出利用来自强自监督预训练模型（PTM）的更丰富先验。为此，我们提出由冻结 PTM 主干和可学习线性分类器组成的简单基线，其不仅易于实现，而且在更长学习场景下具有鲁棒性。我们在大量基准上进行了广泛实证评估，并展示了与复杂的最先进方法相比所提基线的有效性。代码已开源。
引用
@article{arxiv.2303.15975,
title = {Large-scale Pre-trained Models are Surprisingly Strong in Incremental Novel Class Discovery},
author = {Mingxuan Liu and Subhankar Roy and Zhun Zhong and Nicu Sebe and Elisa Ricci},
journal= {arXiv preprint arXiv:2303.15975},
year = {2024}
}
备注
Accepted as a conference paper to ICPR 2024; The code is opensource