稀疏性有害：简单的线性适配器可提升广义类别发现
计算机视觉与模式识别
2026-05-12 v1 机器学习
摘要
广义类别发现（GCD）旨在从未标记数据中识别新类别，同时保留对已知类别的分类能力。先前的 GCD 方法通常利用来自预训练模型的可迁移表示，通过部分微调（仅更新最后一个 ViT 块）和视觉提示微调（向输入附加可学习向量）来适应下游数据集。然而，传统的部分微调提供的灵活性有限，因为它无法适配整个模型；同时，视觉提示微调由于其初始化敏感性和固有的容量限制，容易过拟合。为了解决这些局限性，我们提出了 LAGCD，一种简单而有效的 GCD 方法，该方法在每个 ViT 块中嵌入一个残差线性适配器。从特征稀疏性的角度，我们系统地表明，传统适配器中的非线性会损害性能，而我们的线性适配器通过实现更灵活的模型容量来增强性能。我们进一步引入了一个辅助分布对齐损失，以减轻已知类别和新类别之间有偏预测的负面影响。在通用和细粒度数据集上的大量实验证实，LAGCD 始终优于许多复杂的基线。源代码可在 https://github.com/yebo0216best/LAGCD 获取。
引用
@article{arxiv.2605.08183,
title = {Sparsity Hurts: Simple Linear Adapter Can Boost Generalized Category Discovery},
author = {Bo Ye and Kai Gan and Tong Wei and Min-Ling Zhang},
journal= {arXiv preprint arXiv:2605.08183},
year = {2026}
}
备注
Submitted to IEEE TPAMI