路径协调持续学习：基于神经切向核的理论框架与接近状态的艺术性能
机器学习
2025-11-05 v1 人工智能
机器人学
摘要
灾难性遗忘是持续学习的一个根本问题，因为当在新任务上训练时，神经网络会忘记以前学习的任务。我们提出的框架是持续学习的一种新的路径协调框架，将神经切向核 (NTK) 理论中的原则性可塑性界限、威尔逊置信区间的统计验证以及多指标路径质量评估结合起来。实验评估显示，在 Split-CIFAR10 上实现 66.7% 的平均准确率，灾难性遗忘成本为 23.4%，在基准测试和竞争性水平上均有显著提升，接近状态的艺术结果。进一步发现，NTK 条件数是学习容量限制的预测指标，表明在条件数 时存在临界阈值。有趣的是，提出的策略显示随着任务序列的推进，遗忘呈现降低趋势（从 27% 降至 18%），表现出系统稳定性。该框架在 80% 的发现路径上具有严格的统计保证，保持 90-97% 的中间任务保留率。我们确定了持续学习环境的核心容量限制，并提供了提升自适应正则化的可操作性见解。
引用
@article{arxiv.2511.02025,
title = {Path-Coordinated Continual Learning with Neural Tangent Kernel-Justified Plasticity: A Theoretical Framework with Near State-of-the-Art Performance},
author = {Rathin Chandra Shit},
journal= {arXiv preprint arXiv:2511.02025},
year = {2025}
}
备注
Under review, IEEE Letters