用于无监督域适应的对比双投影器
计算机视觉与模式识别
2024-01-02 v2
摘要
本文提出了一种基于对比双投影器（CBP）的新型无监督域适应（UDA）方法，可改进现有的 UDA 方法。此处称之为 CBPUDA，它能有效促使特征提取器（FEs）减少用于分类和域适应的模糊特征的产生。CBP 不同于传统的基于双分类器的方法，其将两个分类器替换为两个将输入特征映射到两个不同特征上的投影器。CBPUDA 中的这两个投影器与 FEs 可进行对抗训练，以获得更精细的决策边界，从而具备强大的分类性能。本文分析了所提损失函数的两个性质。第一个性质是推导联合预测熵的上界，并用于构造所提损失函数——对比差异（CD）损失。CD 损失结合了对比学习与双分类器的优点。第二个性质是分析 CD 损失的梯度，进而克服 CD 损失的缺陷。第二个性质的结果被用于本文中梯度缩放（GS）方案的提出。GS 方案可用来解决 CD 损失的不稳定问题，因为训练 CBPUDA 需要同时使用对比学习和对抗学习。因此，将 CD 损失与 GS 方案结合克服了上述问题，使特征类内更紧凑、类间更可区分。实验结果表明，在 UDA 和细粒度 UDA 任务中，CBPUDA 优于本文所考虑的传统 UDA 方法。
引用
@article{arxiv.2308.07017,
title = {Contrastive Bi-Projector for Unsupervised Domain Adaption},
author = {Lin-Chieh Huang and Hung-Hsu Tsai},
journal= {arXiv preprint arXiv:2308.07017},
year = {2024}
}
备注
Professor asks to withdraw this paper on arxiv. This paper will upload again if the paper is published in the journal