半监督模型是强无监督域适应学习器
机器学习
2021-06-02 v1
摘要
无监督域适应(UDA)与半监督学习(SSL)是机器学习中减少昂贵人工标注的两种典型策略。为学习目标任务的有效模型，UDA利用可用的带标签源数据（其分布可能与目标域中无标签样本不同），而SSL使用少量人工标注的目标样本。尽管UDA与SSL看似非常不同的策略，我们发现它们在任务目标与解法上密切相关，且SSL是UDA问题的一个特例。基于该发现，我们进一步研究SSL方法是否在UDA任务上有效。通过将八种代表性SSL算法适配于UDA基准，我们表明SSL方法是强UDA学习器。特别地，最先进的SSL方法在具有挑战性的DomainNet UDA基准上显著优于现有UDA方法，且最先进的UDA方法可借助SSL技术进一步增强。因此我们倡导在未来的UDA研究中应将SSL方法作为基线，并期望所揭示的UDA与SSL之间的关系能为未来UDA发展提供启示。代码见 \url{https://github.com/YBZh}。
引用
@article{arxiv.2106.00417,
title = {Semi-supervised Models are Strong Unsupervised Domain Adaptation Learners},
author = {Yabin Zhang and Haojian Zhang and Bin Deng and Shuai Li and Kui Jia and Lei Zhang},
journal= {arXiv preprint arXiv:2106.00417},
year = {2021}
}
备注
Codes are available at https://github.com/YBZh