持续广义类别发现:从贝叶斯视角看学习与遗忘
机器学习
2025-07-24 v1
摘要
持续广义类别发现(C-GCD)面临一个关键挑战:从未标注的数据流中增量学习新类别,同时保持对旧类别的知识。现有方法难以应对灾难性遗忘,尤其是当未标注数据混合了已知和新颖类别时。我们通过贝叶斯视角分析 C-GCD 的遗忘动力学,揭示了新旧类别之间的协方差失配是导致性能下降的根源。基于这一见解,我们提出了变分贝叶斯 C-GCD (VB-CGCD),这是一个将变分推断与协方差感知的最近类均值分类相结合的新框架。VB-CGCD 通过随机变分更新自适应地对齐类别分布,同时抑制伪标签噪声。实验表明,在标准基准测试的最终会话中,VB-CGCD 的整体准确率超越了先前最优方法 +15.21%。我们还引入了一个新的具有挑战性的基准测试,仅使用 10% 的标记数据和扩展的在线阶段,VB-CGCD 达到了 67.86% 的最终准确率,显著高于当前最优水平(38.55%),展示了其在多种场景下的鲁棒适用性。代码可在 https://github.com/daihao42/VB-CGCD 获取。
引用
@article{arxiv.2507.17382,
title = {Continual Generalized Category Discovery: Learning and Forgetting from a Bayesian Perspective},
author = {Hao Dai and Jagmohan Chauhan},
journal= {arXiv preprint arXiv:2507.17382},
year = {2025}
}
备注
20 pages, 6 figures. Forty-second International Conference on Machine Learning. 2025