通过 NTK 重叠矩阵对灾难性遗忘的理论分析
机器学习
2021-02-26 v2 人工智能
机器学习
摘要
持续学习（CL）是一种智能体需要在其整个生命周期内从不断传入的数据流中学习的设定。尽管该领域取得了重大进展，但一个反复出现且尚未解决的问题是灾难性遗忘（CF）。虽然该问题已在经验上得到了广泛研究，但从理论角度受到的关注却很少。在本文中，我们证明了当两个任务越来越对齐时，CF 的影响会增加。我们引入了一种称为 NTK 重叠矩阵的任务相似性度量，它是 CF 的核心。我们分析了常见的投影梯度算法，并演示了它们如何缓解遗忘。然后，我们提出了一种正交梯度下降（OGD）的变体，该变体通过主成分分析（PCA）利用数据的结构。实验支持了我们的理论发现，并展示了我们的方法如何有助于在经典 CL 数据集上减少 CF。
引用
@article{arxiv.2010.04003,
title = {A Theoretical Analysis of Catastrophic Forgetting through the NTK Overlap Matrix},
author = {Thang Doan and Mehdi Bennani and Bogdan Mazoure and Guillaume Rabusseau and Pierre Alquier},
journal= {arXiv preprint arXiv:2010.04003},
year = {2021}
}
备注
Accepted to AISTATS 2021. Keywords: continual learning, catastrophic forgetting, NTK regime, orthgonal gradient descent