中文

用于无源归纳式域适应的双移动平均伪标注

机器学习 2022-12-19 v1 计算机视觉与模式识别

摘要

无监督域适应通过将知识从源域适应到目标域,降低了深度学习中数据标注的依赖。出于隐私与效率考量,无源域适应进一步扩展无监督域适应,在不访问源数据的情况下将预训练源模型适应到无标签目标域。然而,现有多数无源域适应方法聚焦于直推式设定,即目标训练集亦为测试集。本文中,我们处理更现实的归纳式设定下的无源域适应,其中目标训练集与测试集互斥。我们提出一种名为双移动平均伪标注(DMAPL)的新半监督微调方法,用于无源归纳式域适应。我们首先依据预训练源模型的预测置信度分数,将目标域中无标签训练集划分为伪标注高置信子集与无标签低置信子集。随后,我们基于移动平均原型分类器,为无标签子集提出一种软标签移动平均更新策略,使源模型逐步适应目标域。实验表明,我们所提方法取得了 SOTA 性能,并以大幅优势超越先前方法。

关键词

引用

@article{arxiv.2212.08187,
  title  = {Dual Moving Average Pseudo-Labeling for Source-Free Inductive Domain Adaptation},
  author = {Hao Yan and Yuhong Guo},
  journal= {arXiv preprint arXiv:2212.08187},
  year   = {2022}
}

备注

BMVC 2022