面向持续测试时适应的MoASE++：基于域自适应在策略蒸馏的激活稀疏专家混合
计算机视觉与模式识别
2026-05-19 v1
摘要
持续测试时适应需在非平稳、无标签目标流中适应源预训练模型，同时保持过往能力，但依赖纹理偏向的背板风险导致误差累积和灾难性遗忘。我们受人类视觉系统解耦形状与纹理的启发，引入MoASE，一种即插式混合专家，通过激活稀疏专家与空间可微 dropout 实现结构与纹理的解耦，形成互补的高/低激活通路，同时通过高/低秩瓶颈多样化表征。激活稀疏门产生输入自适应的SDD阈值，以实现精确的token选择，域感知路由器使用纹理敏感线索为每个样本分配专家权重。为抑制无标签流中确认偏差并稳定监督，我们引入域自适应在策略蒸馏构成MoASE++，其采用EMA锚定的在策略反KL蒸馏和以熵置信度为条件的增强策略，使相同视图的预测在跨视图上一致，从而提高鲁棒性-塑性平衡。大量实验在分类(CIFAR-10/100-C, ImageNet-C)和语义分割(Cityscapes->ACDC)上均表现出一致的领先性能，提供了一种原则且可控的方法以应对动态视觉环境中的持续适应。
引用
@article{arxiv.2605.17743,
title = {MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation},
author = {Ronyu Zhang and Aosong Cheng and Gaole Dai and Yulin Luo and Jiaming Liu and Li Du and Huanrui Yang and Dan Wang and Leyuan Fang and Yuan Du and Shanghang Zhang},
journal= {arXiv preprint arXiv:2605.17743},
year = {2026}
}