信任与平衡:基于少量可信样本伪标注和温度缩放损失的有效无源无监督域适应
计算机视觉与模式识别
2024-09-04 v1
摘要
深度神经网络已对许多计算机视觉任务产生了显著影响。然而,当测试数据分布(目标域)偏离训练数据分布(源域)时,其有效性会降低。在目标标签不可用且由于数据隐私或内存限制而无法访问带标签源域的情况下,无源无监督域适应(SF-UDA)已成为一种有价值的工具。认识到 SF-UDA 在这些约束下的关键作用,我们引入了一种具有两个关键贡献的新方法:少量可信样本伪标注(FTSP)和温度缩放自适应损失(TSAL)。FTSP 利用目标数据中有限的可信样本子集构建分类器,为整个域推断伪标签,展现出简洁性和更高的准确性。同时,TSAL 采用独特的双温度调度设计,巧妙地平衡了无监督适应目标中的多样性、判别性和伪标签的融入。我们将此方法命名为信任与平衡(TAB)适应,并在标准数据集(如 Office31 和 Office-Home)以及不太常见的基准(如 ImageCLEF-DA 和 Adaptiope)上,使用 ResNet50 和 ViT-Large 架构进行了严格评估。我们的结果与当代最先进技术相比毫不逊色,且在大多数情况下超越了它们,突显了我们的方法在 SF-UDA 领域的有效性。
引用
@article{arxiv.2409.00741,
title = {Trust And Balance: Few Trusted Samples Pseudo-Labeling and Temperature Scaled Loss for Effective Source-Free Unsupervised Domain Adaptation},
author = {Andrea Maracani and Lorenzo Rosasco and Lorenzo Natale},
journal= {arXiv preprint arXiv:2409.00741},
year = {2024}
}