基于对比对抗训练的无监督域适应
机器学习
2024-07-18 v1 计算机视觉与模式识别
摘要
域对抗训练已显示出寻找域不变特征表示的有效能力，并成功应用于各种域适应任务。然而，近期大型模型（如视觉变换器）的进展以及复杂适应场景（如DomainNet）的出现，使得对抗训练容易偏向源域且难以适应目标域。其原因在于：依赖大量来自源域标注数据进行大型模型训练，以及缺乏来自目标域的标注数据进行微调。现有方法广泛关注要么增强判别器，要么提高背板网络的训练稳定性。由于在对抗训练期间特征提取器与判别器之间不平衡的竞争，现有解决方案在复杂数据集上运行不佳。为此，我们提出一种新颖的对比对抗训练（CAT）方法，该方法利用标记的源域样本来加强和调节目标域的特征生成。通常情况下，该调节会迫使目标特征分布类似于源特征分布。CAT解决了对抗学习中的三个主要挑战：1）确保来自两个域的特征分布对判别器而言尽可能不可区分，从而实现更稳健的域不变特征生成；2）鼓励目标样本在特征空间中接近源样本，减少将在标记源域上训练的分类器推广到未标记目标域的需求；3）避免在小批量中直接对齐未成对的源样本和目标样本。CAT可以轻松集成到现有模型中，并在显著提升性能方面发挥重要作用。
引用
@article{arxiv.2407.12782,
title = {Contrastive Adversarial Training for Unsupervised Domain Adaptation},
author = {Jiahong Chen and Zhilin Zhang and Lucy Li and Behzad Shahrasbi and Arjun Mishra},
journal= {arXiv preprint arXiv:2407.12782},
year = {2024}
}