MPCS: 基于多组分塑性与拓扑感知 EWC 的神经可塑性持续学习
摘要
持续学习系统面临着塑性——获取新知识——与稳定性——保留先前知识——之间的根本性张力。我们引入 MPCS (Multi-Plasticity Continual System),一种神经可塑性架构,集成了十一种互补机制:任务驱动的神经发生、傅里叶编码输入、EWC 正则化、元回放、混合整合、混合门控、突触修剪/再生、赫伯尔更新、任务相似路由、自适应增长控制以及持续神经重要性跟踪。我们在 MEP-BENCH 上评估 MPCS,这是一个跨越回归、分类、逻辑和混合领域的 31 个任务的多轨道基准,采用基于任务性能 (Perf)、表示多样性 (RD) 和梯度冲突率 (GCR) 的三维帕累托准则。在 15 套消融配置 (3 个随机种子 x 4 个轨道 x 2000 个 epoch) 下,MPCS 实现了 94.2 的归一化效率得分,将其置于 14 个通过门系统中 9 个的帕累托前沿。关键发现:(i) 傅里叶编码是最关键的组件 (移除后性能下降 30.7 个百分点,并在 14% 的任务中未通过 MEP 门);(ii) 全局 EWC 会降低性能 (NES = -4.2);拓扑局部 EWC 减少了此惩罚 (NES 90.5->91.8) 但未消除;完全移除 EWC 可得到 MPCS_EFFICIENT——最高性能系统——在高任务相似 regime (s_bar ~= 0.95) 中建立了全局 EWC < 拓扑 EWC < 无 EWC 的单调关系;(iii) 帕累托状态评估具有预测性:联合移除两个被帕累托支配的组件 (EWC + 赫伯尔) 可得到 MPCS_EFFICIENT,该系统在 4.7 倍更低的计算成本 (127 分钟 vs. 602 分钟) 下提高 0.6 个百分点的性能,验证了帕累托前沿作为可操作的模型压缩指南。
引用
@article{arxiv.2605.02509,
title = {MPCS: Neuroplastic Continual Learning via Multi-Component Plasticity and Topology-Aware EWC},
author = {Joern Hentsch},
journal= {arXiv preprint arXiv:2605.02509},
year = {2026}
}