TRGP：用于持续学习的信赖域梯度投影
机器学习
2022-02-08 v1
摘要
灾难性遗忘是持续学习的主要挑战之一。为解决此问题，一些现有方法对新任务的优化空间施加严格约束，以最小化对旧任务的干扰。然而，这可能导致新任务性能不佳，尤其当新任务与旧任务强相关时。为应对该挑战，我们提出用于持续学习的信赖域梯度投影（TRGP），基于任务相关性的高效刻画促进前向知识迁移。特别地，我们引入“信赖域”概念，以逐层单次方式利用到任务输入所张成子空间上梯度投影的范数，为新任务选取最相关旧任务。进而，提出一种缩放权重投影，通过逐层缩放矩阵巧妙复用信赖域内所选旧任务的冻结权重。通过联合优化缩放矩阵与模型（模型沿正交于旧任务子空间的方向更新），TRGP可有效促进知识迁移且不忘旧知。大量实验表明，我们的方法相较相关最优方法取得显著改进。
引用
@article{arxiv.2202.02931,
title = {TRGP: Trust Region Gradient Projection for Continual Learning},
author = {Sen Lin and Li Yang and Deliang Fan and Junshan Zhang},
journal= {arXiv preprint arXiv:2202.02931},
year = {2022}
}
备注
Published as a conference paper at ICLR 2022