划分与对比:基于自适应对比学习的无源域适应
计算机视觉与模式识别
2022-11-15 v1 人工智能
摘要
我们研究一种实用的域适应任务,称为无源域适应(SFUDA),其中源预训练模型在不访问源数据的情况下被适配到目标域。现有技术主要利用自监督伪标签实现类级全局对齐[1],或依赖局部结构提取以鼓励邻域间特征一致性[2]。尽管取得了令人印象深刻的进展,这两类方法各有缺陷——'全局'方法对噪声标签敏感,而'局部'方法则受源偏差困扰。本文提出划分与对比(DaC),一种用于SFUDA的新范式,力求兼顾两类方法的优点同时规避其局限。基于源模型的预测置信度,DaC将目标数据划分为类源样本和特定目标样本,在自适应对比学习框架下对两类样本分别施加定制目标。具体而言,类源样本因其相对干净的标签被用于学习全局类聚类;噪声更多的特定目标数据在实例级别被用于学习内在局部结构。我们进一步使用基于记忆库的最大均值差异(MMD)损失对齐类源域与特定目标样本,以减少分布失配。在VisDA、Office-Home以及更具挑战性的DomainNet上的大量实验验证了DaC相对于当前最先进方法的优越性能。代码见https://github.com/ZyeZhang/DaC.git。
引用
@article{arxiv.2211.06612,
title = {Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning},
author = {Ziyi Zhang and Weikai Chen and Hui Cheng and Zhen Li and Siyuan Li and Liang Lin and Guanbin Li},
journal= {arXiv preprint arXiv:2211.06612},
year = {2022}
}
备注
NeurIPS 2022 Accept