持续学习中的 Shapley 神经元价值:哪些神经元最重要?
机器学习
2026-05-18 v1 人工智能
摘要
持续学习使神经网络能够顺序学习任务而不遗忘先前获得的知识。然而,神经网络会遭受灾难性遗忘,即学习新任务会降低在先前任务上的性能。我们通过 Shapley 神经元估值(SNV)来解决这个问题,这是一个基于合作博弈论的原则性框架,用于量化持续学习中神经元的重要性。SNV 选择性地冻结重要神经元,同时保持其他神经元的可塑性,从而在不扩展架构的情况下实现无缓冲区的持续学习。在 ImageNet-1k 上的实验表明,SNV 始终优于现有的无缓冲区方法。特别是,与第二基线相比,SNV 在类别增量学习场景中将准确率提高了 +2.88%,在任务增量学习场景中提高了 +6.46%。
引用
@article{arxiv.2605.15877,
title = {Shapley Neuron Values for Continual Learning: Which Neurons Matter Most?},
author = {Mohammad Ali Vahedifar and Abhisek Ray and Qi Zhang},
journal= {arXiv preprint arXiv:2605.15877},
year = {2026}
}
备注
This paper has been accepted to ICML 2026