通过标记流形容量学习的通用类别发现
机器学习
2025-05-21 v1
摘要
通用类别发现（GCD）对于提高深度学习模型在开放世界场景中的鲁棒性至关重要，通过聚类包含已知和新类别的无标签数据来实现。传统 GCD 方法侧重于最小化类内变异，往往牺牲流形容量，限制了类内表征的丰富性。本文提出一种新方法，最大标记流形容量（MTMC），通过优先最大化类标记的流形容量来保留数据的多样性和复杂性。MTMC 利用奇异值范数作为流形容量的度量，确保样本表征保持信息丰富且结构合理。该方法增强了聚类的判别性，使模型能够捕获详细语义特征，避免在聚类过程中丢失关键信息。通过理论分析和在粗粒度和细粒度数据集上的大量实验，我们展示 MTMC 超越现有 GCD 方法的性能，提高了聚类准确率和类别数量估计能力。MTMC 的集成导致更完整的表征、更好的类间可分性以及维度坍缩的减少，使其成为鲁棒开放世界学习的关键组成部分。代码已公开于 github.com/lytang63/MTMC。
引用
@article{arxiv.2505.14044,
title = {Generalized Category Discovery via Token Manifold Capacity Learning},
author = {Luyao Tang and Kunze Huang and Chaoqi Chen and Cheng Chen},
journal= {arXiv preprint arXiv:2505.14044},
year = {2025}
}