CLOSER：面向少样本类增量学习的更好表征学习
计算机视觉与模式识别
2024-10-10 v1 人工智能
摘要
旨在仅用少量样本即可增量学习新类别，同时保持基础（旧）类别知识，少样本类增量学习（FSCIL）面临多个挑战，如过拟合和灾难性遗忘。通常通过固定在基础类别上训练的特征提取器来解决这些问题，以减少过拟合和遗忘的不利影响。在此框架下，我们的主要关注点是基础类别上的表征学习，以应对FSCIL的独特挑战：同时实现所学表征的可迁移性和可辨识性。基于促进特征扩散的近期努力，我们发现尝试在更受限的特征空间内确保特征扩散，能够使所学表征在可迁移性和可辨识性之间取得更好的平衡。因此，与先前认为应最大化类间距离的观点相反，我们主张，不同类别越接近，FSCIL越好。从信息瓶颈理论的角度对实证结果和分析进行论证，证明了我们简单却似乎反直觉的表征学习方法的有效性，提出研究问题并指示替代的研究方向。代码已公开于 https://github.com/JungHunOh/CLOSER_ECCV2024。
引用
@article{arxiv.2410.05627,
title = {CLOSER: Towards Better Representation Learning for Few-Shot Class-Incremental Learning},
author = {Junghun Oh and Sungyong Baik and Kyoung Mu Lee},
journal= {arXiv preprint arXiv:2410.05627},
year = {2024}
}
备注
Accepted at ECCV2024