对比源无关域适应中被忽视的问题：利用邻域上下文中源信息引导的潜在增强
计算机视觉与模式识别
2024-12-20 v1 机器学习
摘要
源无关域适应（SFDA）涉及将最初使用标记数据集（源域）训练的模型进行适配，使其在无标记数据集（目标域）上有效执行，且在适配过程中不依赖任何源数据。当两个域之间存在显著的数据分布差异，且源模型训练数据存在隐私问题时，这种适应尤为关键。适配过程中无法访问源数据使得分析估计域间隙变得困难。为解决此问题，已提出多种技术，如无监督聚类、对比学习和持续学习。本文首先基于对比学习对SFDA进行了广泛的理论分析，主要是因为对比学习相比其他技术表现出更优的性能。受所得见解的启发，我们随后引入了一种简单但高效的潜在增强方法，专门针对对比SFDA。该增强方法利用源预训练模型引导下查询样本邻域内潜在特征的分散性，来增强正键的信息量。我们的方法基于单一的InfoNCE对比损失，在广泛认可的基准数据集上优于最先进的SFDA方法。
引用
@article{arxiv.2412.14301,
title = {What Has Been Overlooked in Contrastive Source-Free Domain Adaptation: Leveraging Source-Informed Latent Augmentation within Neighborhood Context},
author = {Jing Wang and Wonho Bae and Jiahong Chen and Kuangen Zhang and Leonid Sigal and Clarence W. de Silva},
journal= {arXiv preprint arXiv:2412.14301},
year = {2024}
}
备注
ICLR 2025