基于任务特定批量归一化和异常分布检测的类递增学习
机器学习
2026-03-12 v2 计算机视觉与模式识别
摘要
本研究聚焦于图像分类的增量学习，探讨在无法访问旧数据的情况下如何减少对所有已学习知识的灾难性遗忘。挑战在于平衡塑性（学习新知识）与稳定性（保留旧知识）。根据测试期间是否可用任务标识符（task-ID），增量学习分为任务增量学习（TIL）和类增量学习（CIL）。TIL范式常使用多个分类器头，根据任务-ID选择对应的头。由于CIL范式无法访问任务-ID，原为TIL开发的方法需要显式预测任务-ID以桥接这一差距并适应CIL范式。在本研究中，提出了一种新型持续学习框架，通过引入异常分布检测用于任务-ID预测，将TIL方法扩展至CIL。该框架利用任务特定的批量归一化（BN）和任务特定的分类器头，有效调整每个任务的特征图分布，增强塑性。相对于卷积核，任务特定BN所需参数更少，帮助最小化参数增长，保持稳定性。基于多个任务特定分类器头，我们引入每个头的“未知”类别。训练期间，来自其他任务的数据被映射到该未知类别。在推理期间，通过选择分配给未知类别概率最低的分类器头来预测任务-ID。我们的方法在两个医学图像数据集和两个自然图像数据集上实现了最先进的性能。源代码可在 https://github.com/z1968357787/mbn_ood_git_main 获取。
引用
@article{arxiv.2411.00430,
title = {Class Incremental Learning with Task-Specific Batch Normalization and Out-of-Distribution Detection},
author = {Zhiping Zhou and Xuchen Xie and Yiqiao Qiu and Run Lin and Weishi Zheng and Ruixuan Wang},
journal= {arXiv preprint arXiv:2411.00430},
year = {2026}
}
备注
accepted by Neurocomputing Journal, camera ready version