创建并寻找平坦性：为持续学习预先构建平坦训练空间
机器学习
2023-09-21 v1
摘要
灾难性遗忘仍是持续学习领域的关键挑战，神经网络在吸收新信息的同时难以保留先前知识。大多数现有研究仅强调在遭遇新任务时缓解此问题，忽视了任务前阶段的重要性。因此，我们将注意力转向当前任务学习阶段，提出一种新颖框架 C&F（Create and Find Flatness，创建并寻找平坦性），其为每个任务预先构建平坦训练空间。具体而言，在当前任务学习期间，我们的框架自适应地在损失景观中的最小值周围创建平坦区域。随后，它基于参数的平坦程度找出其对当前任务的重要性。当将模型适配到新任务时，根据平坦性施加约束，并为即将到来的任务同时准备平坦空间。我们从理论上证明了所创建与所寻找的平坦性之间的一致性。以此方式，我们的框架不仅为新任务学习容纳了充足的参数空间，还保留了早期任务的先前知识。实验结果表明，C&F 作为独立持续学习方法具有最先进（SOTA）性能，且作为融合其他方法的框架也有效。我们的工作可在 https://github.com/Eric8932/Create-and-Find-Flatness 获取。
引用
@article{arxiv.2309.11305,
title = {Create and Find Flatness: Building Flat Training Spaces in Advance for Continual Learning},
author = {Wenhang Shi and Yiren Chen and Zhe Zhao and Wei Lu and Kimmo Yan and Xiaoyong Du},
journal= {arXiv preprint arXiv:2309.11305},
year = {2023}
}
备注
10pages, ECAI2023 conference