中文

FeNeC:通过特征聚类与近邻或Logit分类增强持续学习

机器学习 2025-04-15 v2

摘要

深度学习模型持续学习的能力对于适应新数据类别和演化中的数据分布至关重要。近年来,在初始学习阶段之后利用冻结特征提取器的方法得到了广泛研究。这些方法中的许多基于主干网络导出的特征表示来估计每类的协方差矩阵和原型。在此范式下,我们引入了FeNeC(特征邻域分类器)及其基于对数似然函数的变体FeNeC-Log。我们的方法通过引入数据聚类来捕获更大的类内变异性,从而推广了现有概念。利用马氏距离,我们的模型通过近邻方法或分配给连续类别的可训练logit值进行分类。我们的方法在特殊情况下可简化为现有方法,同时扩展了其以更灵活方式适应数据的能力。我们证明两种FeNeC变体在任务标识未知的场景下取得了具有竞争力的性能,并在多个基准数据集上建立了最先进结果。

关键词

引用

@article{arxiv.2503.14301,
  title  = {FeNeC: Enhancing Continual Learning via Feature Clustering with Neighbor- or Logit-Based Classification},
  author = {Kamil Książek and Hubert Jastrzębski and Bartosz Trojan and Krzysztof Pniaczek and Michał Karp and Jacek Tabor},
  journal= {arXiv preprint arXiv:2503.14301},
  year   = {2025}
}