FeCAM：在无样本持续学习中利用类分布的异质性
计算机视觉与模式识别
2024-01-15 v3 机器学习
摘要
无样本（exemplar-free）类增量学习（CIL）带来了若干挑战，因为它禁止对先前任务的数据进行回放，从而遭受灾难性遗忘。近期，通过在首个任务后冻结特征提取器来增量学习分类器的方法备受关注。本文中，我们探索用于 CIL 的原型网络，其利用冻结的特征提取器生成新类原型，并基于特征到原型的欧氏距离进行分类。在对各类别特征分布的分析中，我们表明基于欧氏度量的分类对于联合训练的特征是成功的。然而，当从非平稳数据学习时，我们观察到欧氏度量并非最优，且特征分布是异质的。为应对该挑战，我们重新审视了用于 CIL 的各向异性马氏距离。此外，我们凭经验表明，对特征协方差关系进行建模优于先前从正态分布采样特征并训练线性分类器的尝试。与现有方法不同，我们的方法可泛化至多样本和少样本 CIL 设定，以及域增量设定。有趣的是，在不更新骨干网络的情况下，我们的方法在多个标准持续学习基准上取得了最先进（SOTA）结果。代码见 https://github.com/dipamgoswami/FeCAM。
引用
@article{arxiv.2309.14062,
title = {FeCAM: Exploiting the Heterogeneity of Class Distributions in Exemplar-Free Continual Learning},
author = {Dipam Goswami and Yuyang Liu and Bartłomiej Twardowski and Joost van de Weijer},
journal= {arXiv preprint arXiv:2309.14062},
year = {2024}
}
备注
Accepted at NeurIPS 2023