SAMix：基于球自适应混合与神经坍缩实现校准且准确的持续学习
机器学习
2026-04-23 v2
摘要
虽然大多数持续学习方法关注缓解遗忘和提高准确性，但往往忽视了网络校准的关键方面，尽管这在可靠预测方面至关重要。神经坍缩——即最后一层特征坍缩到其类均值之上的现象——在持续学习中已显示出通过减少特征-分类器错位的优势。鲜有工作致力于提高持续学习模型的校准以实现更可靠的预测。我们的工作进一步提出一种新方法，不仅提升校准，还通过减少过度自信、缓解遗忘和提高准确性来提高性能。我们引入球自适应混合（SAMix），一种针对神经坍缩方法的自适应混合策略。SAMix根据神经坍缩下特征空间的几何属性调整混合过程，确保更稳健的正则化和对齐。实验表明，SAMix显著提升性能，在持续学习中超越SOTA方法，同时改善模型校准。SAMix提升了跨任务准确性以及更广泛的预测可靠性，为稳健的持续学习系统提供了有前景的进展。
引用
@article{arxiv.2510.15751,
title = {SAMix: Calibrated and Accurate Continual Learning via Sphere-Adaptive Mixup and Neural Collapse},
author = {Trung-Anh Dang and Vincent Nguyen and Ngoc-Son Vu and Christel Vrain},
journal= {arXiv preprint arXiv:2510.15751},
year = {2026}
}