NAPA-VQ:基于邻域感知原型增强与向量量化的持续学习方法
计算机视觉与模式识别
2023-08-21 v1
摘要
灾难性遗忘(即获取新知识时丢失旧知识)是深度神经网络在真实应用中的隐患。许多主流解决方案依赖存储样本(曾遇数据),在内存受限或隐私约束的应用中或不可行。因此,近期焦点转向基于非样本的类增量学习(NECIL),模型在不使用任何过往样本的情况下增量学习新类。然而,由于缺乏旧数据,NECIL 方法难以区分旧类与新类,致其特征表示重叠。我们提出 NAPA-VQ:基于邻域感知原型增强与向量量化,一种在 NECIL 中减少此类重叠的框架。我们受 Neural Gas 启发学习特征空间中的拓扑关系,识别最易相互混淆的邻域类。该邻域信息被用于强化邻域类间的强分离,并生成旧类代表性原型,以更好地辅助获得旧类与新类间的判别决策边界。在 CIFAR-100、TinyImageNet 和 ImageNet-Subset 上的综合实验表明,NAPA-VQ 在准确率上分别平均优于最先进 NECIL 方法 5%、2%、4%,在遗忘上分别优 10%、3%、9%。代码见 https://github.com/TamashaM/NAPA-VQ.git。
引用
@article{arxiv.2308.09297,
title = {NAPA-VQ: Neighborhood Aware Prototype Augmentation with Vector Quantization for Continual Learning},
author = {Tamasha Malepathirana and Damith Senanayake and Saman Halgamuge},
journal= {arXiv preprint arXiv:2308.09297},
year = {2023}
}
备注
Accepted to ICCV 2023