一种具备持续学习能力的网络方案
机器学习
2025-03-31 v1 人工智能
摘要
我们分析了计算单元在参数更新后保留过往响应的能力,这是系统级持续学习的一项关键特性。使用梯度下降训练的神经网络缺乏这种能力,这促使我们提出 Modelleyen——一种具有内在响应保持能力的替代方法。通过在简单环境动力学建模与 MNIST 上的实验我们证明,尽管 Modelleyen 在当前阶段增加了计算复杂度且存在一定的表示局限,但它能够在不依赖样本回放或预定义任务边界的情况下实现持续学习。
引用
@article{arxiv.2503.22068,
title = {A Proposal for Networks Capable of Continual Learning},
author = {Zeki Doruk Erden and Boi Faltings},
journal= {arXiv preprint arXiv:2503.22068},
year = {2025}
}
备注
Published at ICLR 2025 World Models Workshop