通过采样多阶段任务实现的少样本类增量学习
计算机视觉与模式识别
2022-08-22 v2 机器学习
摘要
新类别在我们不断变化的世界中频繁出现，例如社交媒体中的新兴话题和电商中的新型产品。模型应识别新类同时维持对旧类的判别力。在严峻情况下，仅有少量新样本可用于增量更新模型。在不遗忘旧类的前提下识别少样本新类的任务称为少样本类增量学习（FSCIL）。本文提出一种基于元学习的 FSCIL 新范式，即通过学习多阶段增量任务（LIMIT），其从基数据集中合成虚假 FSCIL 任务。虚假任务的数据格式与“真实”增量任务一致，我们可通过元学习为未见任务构建可泛化特征空间。此外，LIMIT 还基于 transformer 构建校准模块，将旧类分类器与新类原型校准至同一尺度并填补语义鸿沟。该校准模块还以集到集函数自适应地将实例特定嵌入上下文化。LIMIT 高效适应新类并同时抵抗对旧类的遗忘。在三个基准数据集（CIFAR100、miniImageNet 和 CUB200）及大规模数据集 ImageNet ILSVRC2012 上的实验验证了 LIMIT 达到了最先进的性能。
引用
@article{arxiv.2203.17030,
title = {Few-Shot Class-Incremental Learning by Sampling Multi-Phase Tasks},
author = {Da-Wei Zhou and Han-Jia Ye and Liang Ma and Di Xie and Shiliang Pu and De-Chuan Zhan},
journal= {arXiv preprint arXiv:2203.17030},
year = {2022}
}
备注
Accepted to TPAMI. Code is available at: https://github.com/zhoudw-zdw/TPAMI-Limit