用于无监督域适应的联合对比学习
计算机视觉与模式识别
2020-06-20 v1 机器学习
摘要
通过匹配边缘分布来增强特征可迁移性改善了域适应，但这是以牺牲特征判别性为代价的。特别是，目标误差上界中的理想联合假设误差以前被认为是微小的，但被发现是显著的，从而损害了其理论保证。在本文中，我们提出了目标误差的另一个上界，明确考虑了联合误差以使其更易处理。基于理论分析，我们建议了一个结合源域和目标域的联合优化框架。此外，我们引入了联合对比学习（JCL）来寻找类级判别特征，这对于最小化联合误差至关重要。在坚实的理论框架下，JCL 采用对比损失来最大化特征与其标签之间的互信息，这等价于最大化条件分布之间的 Jensen-Shannon 散度。在两个真实世界数据集上的实验表明，JCL 优于现有方法。
引用
@article{arxiv.2006.10297,
title = {Joint Contrastive Learning for Unsupervised Domain Adaptation},
author = {Changhwa Park and Jonghyun Lee and Jaeyoon Yoo and Minhoe Hur and Sungroh Yoon},
journal= {arXiv preprint arXiv:2006.10297},
year = {2020}
}
备注
16 pages, 1 figure, 4 tables