SCoDA:自监督持续领域适应
计算机视觉与模式识别
2025-09-15 v1
摘要
无源域适应(SFDA)旨在解决无法访问源域数据时将模型适应到目标域的挑战。现有方法通常从全监督预训练的源模型开始,通过对齐实例级特征来提取知识。然而,这些方法依赖于 L2 归一化特征向量上的余弦相似度,无意中丢弃了关于源模型潜在流形的关键几何信息。我们引入了自监督持续领域适应(SCoDA)来解决这些局限性。我们对标准做法做出了两项关键改变:首先,我们避免依赖监督预训练,通过完全经由自监督(SSL)预训练的教师模型来初始化所提出的框架。其次,我们将几何流形对齐原则适应于 SFDA 设置。使用结合实例级特征匹配与空间相似性损失的复合目标来训练学生模型。为对抗灾难性遗忘,教师模型的参数通过学生参数的指数移动平均(EMA)进行更新。在基准数据集上的大量实验表明,SCoDA 显著优于现有最先进的 SFDA 方法。
引用
@article{arxiv.2509.09935,
title = {SCoDA: Self-supervised Continual Domain Adaptation},
author = {Chirayu Agrawal and Snehasis Mukherjee},
journal= {arXiv preprint arXiv:2509.09935},
year = {2025}
}
备注
Submitted to ICVGIP 2025