GCR：基于梯度核心集的持续学习回放缓冲选择
机器学习
2022-04-18 v3 人工智能
摘要
持续学习（CL）旨在开发使单一模型适应顺序遇到的越来越多任务的技术，从而以资源高效的方式潜在地跨任务利用学习成果。CL 系统的一个主要挑战是灾难性遗忘，即在学习任务时遗忘先前的任务。为此，基于回放的 CL 方法维护并在一个跨已遇任务选出的小型数据缓冲上反复重训练。我们提出梯度核心集回放（GCR），一种利用精心设计的优化准则进行回放缓冲选择与更新的新策略。具体而言，我们选择并维护一个“核心集”，其紧密近似迄今为止所见全部数据相对于当前模型参数的梯度，并讨论了将其有效应用于持续学习设置所需的关键策略。我们在充分研究的离线持续学习设置中展示了相较最先进方法显著提升（绝对 2%–4%）。我们的发现也有效迁移至在线/流式 CL 设置，显示出比现有方法最高 5% 的提升。最后，我们展示了监督对比损失对于持续学习的价值，其与我们的子集选择策略结合时产生了最高 5% 准确率的累计提升。
引用
@article{arxiv.2111.11210,
title = {GCR: Gradient Coreset Based Replay Buffer Selection For Continual Learning},
author = {Rishabh Tiwari and Krishnateja Killamsetty and Rishabh Iyer and Pradeep Shenoy},
journal= {arXiv preprint arXiv:2111.11210},
year = {2022}
}
备注
Published at CVPR 2022 | Project Page: https://gradientcoreset.github.io/