面向类增量学习的动态特征学习与匹配
计算机视觉与模式识别
2024-05-15 v1
摘要
类增量学习(CIL)已成为一种在不灾难性遗忘先前类的情况下增量学习新类的方法。近期,由于动态架构的优越性能,CIL 经历了向动态架构的范式转变。然而,这些模型仍受限于以下方面: 数据增强(DA)与 CIL 紧密耦合,但在动态架构场景中仍未被充分探索。 特征表示。动态特征的判别性是次优的,并具有优化的潜力。 分类器。动态特征与分类器之间的错位限制了模型的能力。为了解决上述缺陷,我们从上述三个视角在本文中提出了动态特征学习与匹配(DFLM)模型。具体而言,我们首先引入类权重信息和非平稳函数来扩展 mix 数据增强方法,以在训练期间动态调整对记忆的关注。然后,采用 von Mises-Fisher (vMF) 分类器来有效地对动态特征分布进行建模,并隐式学习其判别属性。最后,提出匹配损失,通过最小化分布距离来促进所学动态特征与分类器之间的对齐。在 CIL 基准上的大量实验验证了我们提出的模型相较于现有方法取得了显著的性能提升。
引用
@article{arxiv.2405.08533,
title = {Dynamic Feature Learning and Matching for Class-Incremental Learning},
author = {Sunyuan Qiang and Yanyan Liang and Jun Wan and Du Zhang},
journal= {arXiv preprint arXiv:2405.08533},
year = {2024}
}