利用不确定性估计引导伪标签的无源无监督域适应
计算机视觉与模式识别
2023-03-20 v3 人工智能
机器学习
摘要
标准的无监督域适应(UDA)方法假设在适应过程中源域和目标域数据均可用。本文研究无源无监督域适应(SF-UDA),这是 UDA 的一种特定情形,其中模型在无源数据访问权限的情况下适应目标域。我们提出了一种基于损失重加权策略的 SF-UDA 新方法,该策略对伪标签中不可避免的噪声具有鲁棒性。分类损失根据伪标签的可靠性进行重加权,该可靠性通过估计其不确定性来度量。在此重加权策略引导下,伪标签通过聚合邻近样本的知识逐步精炼。此外,利用自监督对比框架作为目标空间正则化器以增强此类知识聚合。提出了一种新颖的负对排除策略,用于识别并排除由同类样本构成的负对,即使在伪标签存在一定噪声时亦可。我们的方法在三个主要基准上大幅优于先前方法。我们在 VisDA-C 和 DomainNet 上以 +1.8% 的性能提升、在 PACS 上以单源设定下 +12.3% 和多目标适应下 +6.6% 的提升确立了新的 SF-UDA 最优水平。额外分析表明,所提方法对噪声具有鲁棒性,与最优方法相比可得到显著更精确的伪标签。
引用
@article{arxiv.2303.03770,
title = {Guiding Pseudo-labels with Uncertainty Estimation for Source-free Unsupervised Domain Adaptation},
author = {Mattia Litrico and Alessio Del Bue and Pietro Morerio},
journal= {arXiv preprint arXiv:2303.03770},
year = {2023}
}
备注
To be published in Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2023