基于知识迁移的小样本类增量学习
计算机视觉与模式识别
2023-06-21 v1 人工智能
摘要
小样本类增量学习（FSCIL）旨在利用少量样本持续学习新类，同时不遗忘旧类。该任务的关键在于从基础会话到增量会话的有效知识迁移。尽管现有FSCIL方法有所进展，但由于对模型可塑性的优化不足，所提出的知识迁移学习方案仍次优。为解决此问题，我们提出一种随机情景采样与增强（RESA）策略，依靠多样化的伪增量任务作为代理来实现知识迁移。具体而言，RESA模拟真实增量设定，在全局与局部构建伪增量任务，其中全局伪增量任务旨在契合FSCIL的学习目标，局部伪增量任务旨在提升模型可塑性。此外，为做出可靠的增量预测，我们引入一个以平方欧氏距离分类器作为辅助模块的互补模型，其与广泛使用的余弦分类器耦合构成整体架构。借此，配合模型解耦策略，我们能在维持模型稳定性的同时增强模型可塑性。在三个流行FSCIL基准数据集上的大量定量与定性实验表明，我们提出的方法——知识迁移驱动的关系互补网络（KT-RCNet）——优于几乎所有已有方法。更精确地，我们所提KT-RCNet的平均准确率在miniImageNet、CIFAR100和CUB200上分别超越次优方法5.26%、3.49%和2.25%。代码见 https://github.com/YeZiLaiXi/KT-RCNet.git。
引用
@article{arxiv.2306.10942,
title = {Knowledge Transfer-Driven Few-Shot Class-Incremental Learning},
author = {Ye Wang and Yaxiong Wang and Guoshuai Zhao and Xueming Qian},
journal= {arXiv preprint arXiv:2306.10942},
year = {2023}
}