PKI:用于少样本类增量学习的先验知识注入神经网络
计算机视觉与模式识别
2026-01-14 v1 人工智能
摘要
少样本类增量学习(FSCIL)旨在利用有限数量的新类样本持续适应模型,面临两个众所周知的挑战:灾难性遗忘和对新类的过拟合。现有方法倾向于冻结网络组件的大部分,并在增量阶段使用额外内存微调其余部分。这些方法强调保留先验知识以确保识别旧类的熟练度,从而缓解灾难性遗忘。同时,在先验知识的辅助下,约束较少的参数有助于克服过拟合。沿用先前的方法,我们保留了更多先验知识,并提出了一种先验知识注入神经网络(PKI)以促进 FSCIL。PKI 由骨干网络、投影器集成、分类器和额外内存组成。在每个增量阶段,我们构建一个新的投影器并将其添加到集成中。随后,我们联合微调新投影器和分类器,同时冻结其他网络组件,确保有效利用丰富的先验知识。通过级联投影器,PKI 整合了先前阶段积累的先验知识并灵活学习新知识,这有助于识别旧类并高效学习新类。此外,为了减少保留大量投影器带来的资源消耗,我们设计了先验知识注入神经网络的两个变体(PKIV-1 和 PKIV-2),通过减少投影器数量来权衡资源消耗与性能。在三个流行基准上的广泛实验表明,我们的方法优于 state-of-the-art 方法。
引用
@article{arxiv.2601.08493,
title = {PKI: Prior Knowledge-Infused Neural Network for Few-Shot Class-Incremental Learning},
author = {Kexin Baoa and Fanzhao Lin and Zichen Wang and Yong Li and Dan Zeng and Shiming Ge},
journal= {arXiv preprint arXiv:2601.08493},
year = {2026}
}