先验数据是否重要?基于少样本类别递增学习中的联合训练探索
人工智能
2025-08-19 v2 机器学习
摘要
类别递增学习 (CIL) 旨在适应不断出现的新类别,同时保留先前学习的知识。少样本类别递增学习 (FSCIL) 提出了更大的挑战,需要模型仅从每个类别的有限样本数中学习新类别。虽然递增学习通常假设对过去数据有受限的访问,但在许多实际场景中,这些数据常常是可用的。这引出了一个实际问题:应该在完整数据集上重新训练模型(即联合训练),还是仅使用新数据继续更新?在 CIL 中,联合训练被视为提供性能与计算成本权衡的理想基准。然而,在 FSCIL 中,联合训练因基准类和递增类的严重不平衡而变得不可靠。这导致缺乏实际基准,使尚不清楚在实践中应优先选择哪种策略。为此,我们在 FSCIL 背景下重新审视联合训练,通过纠正不平衡问题,提出一种新的 FSCIL 不平衡感知联合训练基准。随后我们对比评估该基准与 FSCIL 方法,以分析在先验数据可访问时,哪种方法最为适合。我们的分析为实际 FSCIL 场景中的训练策略选择提供了现实的见解和指导。代码已公开:https://github.com/shiwonkim/Joint_FSCIL
引用
@article{arxiv.2503.10003,
title = {Does Prior Data Matter? Exploring Joint Training in the Context of Few-Shot Class-Incremental Learning},
author = {Shiwon Kim and Dongjun Hwang and Sungwon Woo and Rita Singh},
journal= {arXiv preprint arXiv:2503.10003},
year = {2025}
}