NTK引导的小样本类增量学习
机器学习
2024-12-06 v2 人工智能
摘要
小样本类增量学习(FSCIL)方法的涌现凸显了在FSCIL学习器中保持鲁棒抗遗忘能力的关键挑战。本文从数学泛化的角度，利用神经正切核(NTK)视角，提出了抗遗忘的新概念。我们的方法聚焦于两个关键方面：确保最优NTK收敛和最小化NTK相关泛化损失，这两者构成了跨任务泛化的理论基础。为实现全局NTK收敛，我们引入了一种有原则的元学习机制，在扩展的网络架构内引导优化。同时，为降低NTK相关泛化损失，我们系统地优化其构成因素。具体而言，我们在基会话上启动自监督预训练以增强NTK相关泛化潜力。这些自监督权重随后通过课程对齐进行精细调整，接着应用专门为卷积层和线性层定制的双重NTK正则化。通过这些措施的综合效应，我们的网络获得了鲁棒的NTK属性，确保了NTK矩阵的最优收敛与稳定性，并最小化了NTK相关泛化损失，显著增强了其理论泛化能力。在流行的FSCIL基准数据集上，我们的NTK-FSCIL超越了当前最先进的方法，将会话末期准确率提升了2.9%至9.3%。
引用
@article{arxiv.2403.12486,
title = {NTK-Guided Few-Shot Class Incremental Learning},
author = {Jingren Liu and Zhong Ji and Yanwei Pang and YunLong Yu},
journal= {arXiv preprint arXiv:2403.12486},
year = {2024}
}