中文

源自由少样本域适应的非对称 co-训练

机器学习 2025-02-21 v1 计算机视觉与模式识别

摘要

源自由无监督域适应(SFUDA)因其不依赖持续可用的标记源数据而获得了显著关注,作为传统无监督域适应(UDA)的替代方案。然而,SFUDA 方法存在常被忽视的内在局限性。这些挑战包括当未标记目标数据未满足关键假设(例如具有与源域相同且封闭的标签分布)时,以及在实际应用中缺乏足够未标记目标数据的情形——后者是常见情况。为此,我们提出一种专为 SFFSDA 场景设计的非对称 co-训练(ACT)方法。SFFSDA 是 SFUDA 更实际的替代方案,因为在许多实际情境下获取少量标记目标实例比获取大量未标记目标数据更可行。我们的 ACT 方法首先采用弱-强数据增强来增强数据多样性。然后我们使用两阶段优化过程训练目标模型。在第一阶段,我们优化标签平滑交叉熵损失、类的条件分布熵以及反向熵损失,以增强模型的判别能力并缓解过拟合。在第二阶段,我们通过最小化分类器确定性不一致性来减少输出空间的冗余性。广泛的实验在四个基准数据集上表明,我们的 ACT 方法优于最先进的 SFUDA 方法和迁移学习技术。我们的发现表明,使用少量标记目标数据对源预训练模型进行适应提供了一种实用且可靠的解决方案。代码可在 https://github.com/gengxuli/ACT 获取。

关键词

引用

@article{arxiv.2502.14214,
  title  = {Asymmetric Co-Training for Source-Free Few-Shot Domain Adaptation},
  author = {Gengxu Li and Yuan Wu},
  journal= {arXiv preprint arXiv:2502.14214},
  year   = {2025}
}

备注

13 pages