KAN-CL：基于 Kolmogorov-Arnold 网络的 per-knot 重要性正则化用于持续学习
机器学习
2026-05-13 v1 人工智能
计算机视觉与模式识别
摘要
灾难性遗忘仍是持续学习（CL）中的核心障碍：跨任务的参数相互干扰，现有正则化方法如 EWC 和 SI 均未考虑参数所服务的输入区域。我们提出 KAN-CL，一种利用 Kolmogorov-Arnold 网络（KANs）紧凑支撑样条参数化进行 per-knot 粒度重要性加权锚定的持续学习框架。在带有标准 EWC 后验正则化的卷积主干上部署 KAN 分类头，KAN-CL 在 Split-CIFAR-10/5T 和 Split-CIFAR-100/10T 上的遗忘降低分别达到 88% 和 93%，同时在两个基准测试中匹配或超越所有基线方法。我们进一步提供神经切向核（NTK）分析，表明 KAN 的样条局部性在跨任务 NTK 中导致结构性秩缺，从而得到即使在特征学习范式下也成立的遗忘界。这些结果表明，将具有天然参数局部性的架构（KAN 头部）与互补的主干正则化（bbEWC）相结合，构成了一种组合且原则的方法来应对灾难性遗忘。
引用
@article{arxiv.2605.12306,
title = {KAN-CL: Per-Knot Importance Regularization for Continual Learning with Kolmogorov-Arnold Networks},
author = {Minjong Cheon},
journal= {arXiv preprint arXiv:2605.12306},
year = {2026}
}