元学习持续学习算法
机器学习
2025-02-18 v3
摘要
通用学习系统应在不断变化的环境中以开放方式自我改进。然而，神经网络的常规学习算法遭受灾难性遗忘（CF），即学习新任务时会遗忘先前获得的技能。我们提出自动持续学习（ACL），训练自指神经网络元学习其自身的上下文内持续（元）学习算法，而非手工设计避免CF的新算法。ACL将持续学习（CL）的期望属性——在旧任务和新任务上均表现良好——编码进其元学习目标中。我们的实验表明，ACL有效解决了“上下文内灾难性遗忘”这一朴素上下文内学习算法所面临的问题；在无回放设定下，ACL学习的算法在Split-MNIST基准上优于手工设计的学习算法和流行的元持续学习方法，并能够实现由多个标准图像分类数据集组成的多样任务的持续学习。我们还通过比较ACL与利用预训练模型的最先进CL方法，讨论了上下文内CL当前的局限性。总体而言，我们为长期存在的CL问题带来了若干新颖视角。
引用
@article{arxiv.2312.00276,
title = {Metalearning Continual Learning Algorithms},
author = {Kazuki Irie and Róbert Csordás and Jürgen Schmidhuber},
journal= {arXiv preprint arXiv:2312.00276},
year = {2025}
}
备注
Accepted to TMLR 02/2025. An earlier version of this work titled "Automating Continual Learning" was made available online in 2023