中文

AdaptGCD:面向广义类别发现的多专家适配器微调

计算机视觉与模式识别 2025-03-17 v2 人工智能

摘要

受限于封闭世界假设的传统半监督学习范式不同,广义类别发现(Generalized Category Discovery, GCD)假设未标记数据集包含未在标记集中出现的新类别,旨在不仅对旧类别进行分类,还要在未标记数据中发现新类别。现有的 GCD 研究通常致力于通过部分微调和提示学习等微调策略,将自监督预训练模型的通用知识迁移到目标 GCD 任务中。然而,这些微调方法未能在预训练骨干网络的泛化能力与对 GCD 任务的适应性之间取得良好平衡。为填补这一空白,本文提出了一种基于适配器微调的新方法 AdaptGCD,这是首次将适配器微调引入 GCD 任务的工作,并提供了一些有望启发未来研究的关键见解。此外,考虑到旧类与新类之间监督信息的差异,精心设计了一种配备路由分配约束的多专家适配器结构,从而将旧类和新类的数据分离至不同的专家组中。在 7 个广泛使用的数据集上进行了大量实验。性能的显著提升凸显了本文方法的有效性。

关键词

引用

@article{arxiv.2410.21705,
  title  = {AdaptGCD: Multi-Expert Adapter Tuning for Generalized Category Discovery},
  author = {Yuxun Qu and Yongqiang Tang and Chenyang Zhang and Wensheng Zhang},
  journal= {arXiv preprint arXiv:2410.21705},
  year   = {2025}
}