基于节点重要性的自适应组稀疏正则化持续学习
机器学习
2021-06-01 v4 机器学习
摘要
我们提出一种新颖的基于正则化的持续学习方法，称为基于自适应组稀疏的持续学习（AGS-CL），其使用两种基于组稀疏的惩罚项。我们的方法根据每个节点的重要性（在学习每个新任务后自适应更新）选择性地采用这两种惩罚项。通过利用近端梯度下降方法进行学习，保证了模型的精确稀疏与冻结，因此学习器可在学习持续进行时显式控制模型容量。此外，作为一个关键细节，我们在学习每个任务后重新初始化与不重要节点相关的权重，以防止导致灾难性遗忘的负迁移，并促进新任务的高效学习。在广泛的实验结果中，我们表明我们的 AGS-CL 使用少得多的额外内存空间来存储正则化参数，并且在有监督与强化学习任务的代表性持续学习基准上显著优于若干 SOTA 基线。
引用
@article{arxiv.2003.13726,
title = {Continual Learning with Node-Importance based Adaptive Group Sparse Regularization},
author = {Sangwon Jung and Hongjoon Ahn and Sungmin Cha and Taesup Moon},
journal= {arXiv preprint arXiv:2003.13726},
year = {2021}
}