面向少样本类别增量学习的可控遗忘机制
计算机视觉与模式识别
2025-01-28 v1 人工智能
机器学习
摘要
在有限个人标注样本(少样本)的背景下进行类别增量学习是众多实际应用的关键问题，如智能家居设备。这些场景下的关键挑战在于，在适应新型、个人化类别的同时，维持模型对原始基类的性能。对新类别进行微调常导致灾难性遗忘现象，即基类准确率不可预测且显著下降。本文提出一种简单而有效的机制，以控制新旧类别准确率之间的权衡。我们特别针对极低样本场景，即每个新类别仅可用单个样本。我们的方案引入了新类别检测(NCD)规则，先验性地调整遗忘程度，同时提升新类别的性能。我们通过将其应用于最先进的少样本类别增量学习(FSCIL)方法，展示了其在不同设置下的一致性改进。为更好量化新旧类别性能之间的权衡，我们引入了新的指标：NCR@2FOR 和 NCR@5FOR。我们的方案在CIFAR100数据集上(1-shot, 1个新类别)可实现新类别准确率提升最高达30%，同时将基类遗忘率控制在2%。
引用
@article{arxiv.2501.15998,
title = {Controllable Forgetting Mechanism for Few-Shot Class-Incremental Learning},
author = {Kirill Paramonov and Mete Ozay and Eunju Yang and Jijoong Moon and Umberto Michieli},
journal= {arXiv preprint arXiv:2501.15998},
year = {2025}
}
备注
ICASSP 2025