长尾类增量学习
计算机视觉与模式识别
2022-10-04 v1
摘要
在类增量学习（CIL）中，模型必须以顺序方式学习新类而不遗忘旧类。然而，常规 CIL 方法为每个新任务考虑均衡分布，忽略了现实世界中长尾分布的普遍性。本文中我们提出两种长尾 CIL 场景，称为有序和乱序 LT-CIL。有序 LT-CIL 考虑从样本较多的头部类与样本很少的尾部类依次学习的场景。另一方面，乱序 LT-CIL 假设每个任务完全随机的长尾分布。我们在两种 LT-CIL 场景下系统评估现有方法，并展示出与常规 CIL 场景非常不同的表现。此外，我们提出一个带可学习权重缩放层的两阶段学习基线，用于减轻 LT-CIL 中长尾分布引起的偏差，并由于有限 exemplar 而反过来也提升了常规 CIL 的性能。我们的结果证明了我们的方法在 CIFAR-100 和 ImageNet-Subset 上的优越性能（平均增量准确率提升高达 6.44 点）。代码见 https://github.com/xialeiliu/Long-Tailed-CIL
引用
@article{arxiv.2210.00266,
title = {Long-Tailed Class Incremental Learning},
author = {Xialei Liu and Yu-Song Hu and Xu-Sheng Cao and Andrew D. Bagdanov and Ke Li and Ming-Ming Cheng},
journal= {arXiv preprint arXiv:2210.00266},
year = {2022}
}
备注
Accepted at ECCV 2022