AdaMatch:一种统一半监督学习与域适应的方法
机器学习
2022-03-16 v2 人工智能
计算机视觉与模式识别
摘要
我们将半监督学习扩展到域适应问题,以学习在一种数据分布上训练、在另一种分布上测试的更高精度模型。以通用性为目标,我们提出 AdaMatch,一种统一无监督域适应(UDA)、半监督学习(SSL)和半监督域适应(SSDA)任务的方法。在一项广泛的实验研究中,我们将其在视觉分类任务上的表现与来自 SSL、SSDA 和 UDA 的各自最先进技术进行比较。我们发现,无论数据集或任务如何,AdaMatch 使用相同超参数在每种情况下都匹配或显著超越最先进水平。例如,在 DomainNet 的 UDA 任务上,AdaMatch 的准确率几乎是先前最先进水平的两倍,并且当 AdaMatch 完全从头训练时,其准确率甚至超过先前使用预训练所得最先进水平 6.4%。此外,通过在目标域每类仅提供给 AdaMatch 一个标注样本(即 SSDA 设定),我们将目标准确率额外提升 6.1%,而提供 5 个标注样本时提升 13.6%。
引用
@article{arxiv.2106.04732,
title = {AdaMatch: A Unified Approach to Semi-Supervised Learning and Domain Adaptation},
author = {David Berthelot and Rebecca Roelofs and Kihyuk Sohn and Nicholas Carlini and Alex Kurakin},
journal= {arXiv preprint arXiv:2106.04732},
year = {2022}
}
备注
Accepted to ICLR 2022