用于无监督域适应的域混淆对比学习
计算与语言
2022-07-12 v1 机器学习
摘要
在这项工作中,我们以具有挑战性的自监督方法研究无监督域适应(UDA)。困难之一是如何在缺乏目标标签的情况下学习任务判别性。与以往直接对齐跨域分布或利用反向梯度的文献不同,我们提出域混淆对比学习(DCCL)以通过域谜题桥接源域与目标域,并在适应后保留判别性表示。在技术层面,DCCL 搜索最具域挑战性的方向并精心构造域混淆增强作为正样本对,随后通过对比鼓励模型将表示拉向另一域,从而学习更稳定有效的域不变性。我们还探究了在执行其他数据增强时对比学习是否必然有助于 UDA。大量实验表明 DCCL 显著优于基线方法。
引用
@article{arxiv.2207.04564,
title = {Domain Confused Contrastive Learning for Unsupervised Domain Adaptation},
author = {Quanyu Long and Tianze Luo and Wenya Wang and Sinno Jialin Pan},
journal= {arXiv preprint arXiv:2207.04564},
year = {2022}
}
备注
14 pages, 7 figures, NAACL 2022