残差 SODAP：基于结构知识保留的残差自组织域适应提示
机器学习
2026-03-16 v1 人工智能
计算机视觉与模式识别
摘要
持续学习（CL）面临灾难性遗忘，在域递增学习（DIL）中更为严重，其中任务标识不可用且无法存储过去数据。虽然基于提示的持续学习（PCL）使用冻结的主干网络进行表示适应，但我们注意到仅凭提示的改进往往不足，由于提示选择次优以及在域迁移下的分类器级不稳定性。我们提出了 Residual SODAP，同时进行基于提示的表示适应和分类器级知识保留。我们的框架结合 -entmax 稀疏提示选择与残差聚合、数据无关的蒸馏与伪特征回放、基于提示用量的漂移检测以及不确定性感知的多损失平衡。在三个没有任务 ID 或额外数据存储的 DIL 基准测试中，Residual SODAP 实现了 state-of-the-art 的 AvgACC/AvgF 分别为 0.850/0.047（DR）、0.760/0.031（皮肤癌）和 0.995/0.003（CORe50）。
引用
@article{arxiv.2603.12816,
title = {Residual SODAP: Residual Self-Organizing Domain-Adaptive Prompting with Structural Knowledge Preservation for Continual Learning},
author = {Gyutae Oh and Jungwoo Bae and Jitae Shin},
journal= {arXiv preprint arXiv:2603.12816},
year = {2026}
}
备注
29 page, 10 figures