AdaptGCD:面向广义类别发现的多专家适配器微调
计算机视觉与模式识别
2025-03-17 v2 人工智能
摘要
受限于封闭世界假设的传统半监督学习范式不同,广义类别发现(Generalized Category Discovery, GCD)假设未标记数据集包含未在标记集中出现的新类别,旨在不仅对旧类别进行分类,还要在未标记数据中发现新类别。现有的 GCD 研究通常致力于通过部分微调和提示学习等微调策略,将自监督预训练模型的通用知识迁移到目标 GCD 任务中。然而,这些微调方法未能在预训练骨干网络的泛化能力与对 GCD 任务的适应性之间取得良好平衡。为填补这一空白,本文提出了一种基于适配器微调的新方法 AdaptGCD,这是首次将适配器微调引入 GCD 任务的工作,并提供了一些有望启发未来研究的关键见解。此外,考虑到旧类与新类之间监督信息的差异,精心设计了一种配备路由分配约束的多专家适配器结构,从而将旧类和新类的数据分离至不同的专家组中。在 7 个广泛使用的数据集上进行了大量实验。性能的显著提升凸显了本文方法的有效性。
引用
@article{arxiv.2410.21705,
title = {AdaptGCD: Multi-Expert Adapter Tuning for Generalized Category Discovery},
author = {Yuxun Qu and Yongqiang Tang and Chenyang Zhang and Wensheng Zhang},
journal= {arXiv preprint arXiv:2410.21705},
year = {2025}
}