用于增量学习的基于能量的隐空间对齐器
计算机视觉与模式识别
2022-03-29 v1 人工智能
机器学习
摘要
深度学习模型在增量学习新任务时往往会遗忘先前的知识。这种行为出现的原因是,为新任务优化的参数更新可能与适用于旧任务的更新不够对齐。由此产生的隐表示失配导致了遗忘。在本工作中,我们提出ELI:用于增量学习的基于能量的隐空间对齐器(Energy-based Latent Aligner for Incremental Learning),它首先为隐表示学习一个能量流形,使得先前任务的隐变量具有低能量,而当前任务的隐变量具有高能量值。该学习到的流形用于抵消增量学习期间发生的表示偏移。我们提出的方法所提供的隐式正则化可作为即插即用模块用于现有增量学习方法。我们通过在CIFAR-100、ImageNet子集、ImageNet 1k和Pascal VOC数据集上的广泛评估验证了这一点。我们观察到,在类增量学习中三种著名方法上添加ELI后,在多种增量设定下均有持续改进。此外,当添加到最先进的增量目标检测器中时,ELI在检测精度上提供了超过5%的提升,证实了其有效性和对现有方法的互补优势。
引用
@article{arxiv.2203.14952,
title = {Energy-based Latent Aligner for Incremental Learning},
author = {K J Joseph and Salman Khan and Fahad Shahbaz Khan and Rao Muhammad Anwer and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2203.14952},
year = {2022}
}
备注
To appear in CVPR 2022. Code is available in https://github.com/JosephKJ/ELI