中文

COMET:面向在线无源通用域适应的对比均值教师模型

计算机视觉与模式识别 2024-05-03 v2

摘要

在实际应用中,训练数据与测试数据之间常常存在域偏移。这一观察结果推动了测试时适应的产生。它旨在使预训练的源模型适应测试数据,而无需访问源数据。然而,现有大多数工作都局限于闭集假设,即源域和目标域之间不存在类别偏移。我们认为,在现实的开放世界环境中,除了域偏移之外,还可能出现类别偏移。这意味着,个别源类可能不再出现在目标域中,新类样本可能成为目标域的一部分,甚至两者同时发生。此外,在许多实际场景中,测试数据并非一次性全部可用,而是作为数据流批次顺序到达,并要求立即给出预测。因此,测试时适应必须以在线方式应用。据我们所知,这些方面的组合,即在线无源域适应,尚未被研究过。在本文中,我们针对这一新场景引入了一种对比的均值教师模型。它应用对比损失来重建一个特征空间,其中已知类别的样本形成独特的簇,而新类别的样本则与这些簇很好地分离。此外,还辅以熵损失,确保分类器输出对于已知类样本具有较小的熵,而对于新类样本具有较大的熵,以便于被轻松检测并拒绝为未知。为了给这些损失提供可靠的伪标签,它们被嵌入到一个均值教师框架中。我们在两个数据集和所有类别偏移设置下评估了我们的方法,为在线无源域适应设定了初始基准。其中,COMET 取得了最先进的性能,并证明其在各种不同场景下具有一致性和鲁棒性。

关键词

引用

@article{arxiv.2401.17728,
  title  = {COMET: Contrastive Mean Teacher for Online Source-Free Universal Domain Adaptation},
  author = {Pascal Schlachter and Bin Yang},
  journal= {arXiv preprint arXiv:2401.17728},
  year   = {2024}
}

备注

Accepted at the International Joint Conference on Neural Networks (IJCNN) 2024