代理去噪用于无源域适应
计算机视觉与模式识别
2025-04-17 v3
摘要
无源域适应(SFDA)旨在将预训练的源模型适应到无标签的目标域,且无法访问源数据。受大型视觉-语言(ViL)模型在许多应用中成功的启发,最新研究通过使用ViL的预测作为伪监督,验证了ViL对SFDA的益处。然而,我们观察到ViL的监督可能以未知速率存在噪声和不准确,在适应过程中引入额外的负面影响。为了解决这个迄今被忽视的挑战,我们提出了一种新颖的代理去噪(ProDe)方法。关键思想是利用ViL模型作为代理,促进向潜在域不变空间的适应过程。我们设计了一种代理去噪机制来纠正ViL的预测,该机制基于代理置信度理论,该理论在适应过程中建模代理相对于域不变空间的散度的动态效应。为了利用纠正后的代理,我们推导了一种互知识蒸馏正则化。大量实验表明,ProDe在传统的闭集设置以及更具挑战性的开集、部分集、广义SFDA、多目标、多源和测试时设置下,显著优于当前最先进的替代方法。我们的代码和数据可在 https://github.com/tntek/source-free-domain-adaptation 获取。
引用
@article{arxiv.2406.01658,
title = {Proxy Denoising for Source-Free Domain Adaptation},
author = {Song Tang and Wenxin Su and Yan Gan and Mao Ye and Jianwei Zhang and Xiatian Zhu},
journal= {arXiv preprint arXiv:2406.01658},
year = {2025}
}
备注
This paper is accepted by ICLR 2025 (Oral, Top 1.8%)