面向类增量学习的异质遗忘补偿
计算机视觉与模式识别
2023-08-25 v2
摘要
类增量学习（CIL）在连续学习新类的同时克服旧类别的灾难性遗忘方面取得了显著成功。然而，大多数现有CIL方法不合理地假设所有旧类别具有相同的遗忘速度，并忽视了不同旧类之间遗忘异质性对遗忘补偿的负面影响。为克服上述挑战，我们提出了一种新颖的异质遗忘补偿（HFC）模型，它可从表征和梯度两方面解决易忘与难忘旧类别的异质遗忘问题。具体而言，我们设计了一个任务语义聚合模块从表征方面缓解异质遗忘。它聚合每个任务内的局部类别信息以学习任务共享的全局表征。此外，我们提出了两个新颖的即插即用损失：梯度平衡遗忘补偿损失与梯度平衡关系蒸馏损失，从梯度方面缓解遗忘。它们考虑梯度平衡补偿以纠正旧类别的遗忘异质性与异质关系一致性。在若干代表性数据集上的实验说明了我们HFC模型的有效性。代码见https://github.com/JiahuaDong/HFC。
引用
@article{arxiv.2308.03374,
title = {Heterogeneous Forgetting Compensation for Class-Incremental Learning},
author = {Jiahua Dong and Wenqi Liang and Yang Cong and Gan Sun},
journal= {arXiv preprint arXiv:2308.03374},
year = {2023}
}
备注
Accepted to ICCV2023