论深度持续学习中灾难性遗忘的隐式对抗性
机器学习
2025-10-13 v1 人工智能
摘要
持续学习旨在让机器智能具备类似人类积累新技能的能力。其核心挑战是灾难性遗忘，但对于深度网络而言，其根本原因尚未被完全理解。在本文中，我们通过揭示新任务训练隐式地是对旧任务知识的对抗攻击，来阐明灾难性遗忘。具体来说，新任务的梯度会自动且准确地与旧任务损失景观的尖锐方向对齐，从而迅速增加旧任务损失。这种对抗性对齐具有反直觉的趣味性，因为尖锐方向分布过于稀疏，无法偶然对齐。为了理解这一点，我们从理论上证明，它源于训练的低秩偏差，该偏差通过前向和反向传播将两个方向限制在同一个低维子空间中，从而促进了对齐。梯度投影（GP）方法是一类具有代表性的缓解遗忘的方法，它减少了由前向传播引起的对抗性对齐，但无法解决由反向传播导致的对齐。我们提出了 backGP 来解决这个问题，与 GP 方法相比，它平均减少了 10.8% 的遗忘，并将准确率提高了 12.7%。
引用
@article{arxiv.2510.09181,
title = {On the Implicit Adversariality of Catastrophic Forgetting in Deep Continual Learning},
author = {Ze Peng and Jian Zhang and Jintao Guo and Lei Qi and Yang Gao and Yinghuan Shi},
journal= {arXiv preprint arXiv:2510.09181},
year = {2025}
}