面向记忆回放类增量学习的均衡销毁-重建动态方法
计算机视觉与模式识别
2023-08-04 v1
摘要
类增量学习（CIL）旨在用新类别的样本（可塑性）增量更新已训练模型，同时保留先前习得的能力（稳定性）。为解决该目标中最具挑战性的问题即灾难性遗忘，主流范式是记忆回放 CIL，其通过回放保存在记忆中的少量旧类别样本来巩固旧知识。尽管有效，记忆回放 CIL 中固有的销毁-重建动态是一种内在局限：若旧知识被严重销毁，则很难重建出无损的对应部分。我们的理论分析表明，通过平衡当前阶段样本与记忆中保存样本的贡献，可有效缓解旧知识的销毁。受此理论发现启发，我们提出一种用于记忆回放 CIL 的新型均衡销毁-重建模块（BDR），其能通过降低旧知识最大销毁程度来实现更好的知识重建。具体而言，为在旧知识与新类别间取得更好平衡，所提 BDR 模块考虑了两个因素：不同类别间训练状态的方差，以及当前阶段与记忆中样本的数量不平衡。通过基于这些因素在训练过程中动态操控梯度，BDR 能有效缓解知识销毁并改善知识重建。在一系列 CIL 基准上的大量实验表明，作为一个轻量级即插即用模块，BDR 能显著提升现有 SOTA 方法的性能并具备良好泛化性。
引用
@article{arxiv.2308.01698,
title = {Balanced Destruction-Reconstruction Dynamics for Memory-replay Class Incremental Learning},
author = {Yuhang Zhou and Jiangchao Yao and Feng Hong and Ya Zhang and Yanfeng Wang},
journal= {arXiv preprint arXiv:2308.01698},
year = {2023}
}