基于旋转增强蒸馏的无 exemplar 类增量学习及其详细分析
计算机视觉与模式识别
2024-03-19 v2
摘要
类增量学习（CIL）旨在沿增量任务识别旧类与新类。CIL 中的深度神经网络遭受灾难性遗忘的困扰，一些方法依赖于保存来自先前任务的 exemplar（即基于 exemplar 的设置）以缓解该问题。相反，本文关注不保留任何旧类样本的无 exemplar 设置。仅在新类监督下平衡深度特征学习中的可塑性与稳定性更具挑战性。大多数现有的无 exemplar CIL 方法仅报告整体性能而缺乏进一步分析。本工作中，我们使用互补指标更细致地考察不同方法。此外，我们提出一种简单的 CIL 方法——旋转增强蒸馏（RAD），其在无 exemplar 设置下取得了顶尖水平的性能之一。详细分析表明，我们的 RAD 受益于可塑性与稳定性之间的优越平衡。最后，我们在初始类更少的更具挑战性的无 exemplar 设置下，对最先进方法进行了进一步展示与比较。
引用
@article{arxiv.2308.15236,
title = {Rotation Augmented Distillation for Exemplar-Free Class Incremental Learning with Detailed Analysis},
author = {Xiuwei Chen and Xiaobin Chang},
journal= {arXiv preprint arXiv:2308.15236},
year = {2024}
}
备注
Accepted by PRCV2023