中文

先验数据是否重要?基于少样本类别递增学习中的联合训练探索

人工智能 2025-08-19 v2 机器学习

摘要

类别递增学习 (CIL) 旨在适应不断出现的新类别,同时保留先前学习的知识。少样本类别递增学习 (FSCIL) 提出了更大的挑战,需要模型仅从每个类别的有限样本数中学习新类别。虽然递增学习通常假设对过去数据有受限的访问,但在许多实际场景中,这些数据常常是可用的。这引出了一个实际问题:应该在完整数据集上重新训练模型(即联合训练),还是仅使用新数据继续更新?在 CIL 中,联合训练被视为提供性能与计算成本权衡的理想基准。然而,在 FSCIL 中,联合训练因基准类和递增类的严重不平衡而变得不可靠。这导致缺乏实际基准,使尚不清楚在实践中应优先选择哪种策略。为此,我们在 FSCIL 背景下重新审视联合训练,通过纠正不平衡问题,提出一种新的 FSCIL 不平衡感知联合训练基准。随后我们对比评估该基准与 FSCIL 方法,以分析在先验数据可访问时,哪种方法最为适合。我们的分析为实际 FSCIL 场景中的训练策略选择提供了现实的见解和指导。代码已公开:https://github.com/shiwonkim/Joint_FSCIL

关键词

引用

@article{arxiv.2503.10003,
  title  = {Does Prior Data Matter? Exploring Joint Training in the Context of Few-Shot Class-Incremental Learning},
  author = {Shiwon Kim and Dongjun Hwang and Sungwon Woo and Rita Singh},
  journal= {arXiv preprint arXiv:2503.10003},
  year   = {2025}
}