中文

基于协作一致性训练的通用半监督模型自适应

计算机视觉与模式识别 2023-11-06 v2

摘要

本文引入一个现实且具挑战性的域自适应问题,称为通用半监督模型自适应(USMA),其(i)仅需一个预训练源模型,(ii)允许源域与目标域具有不同标签集,即它们共享一个公共标签集并各自拥有私有标签集,(iii)在目标域每一类中仅需少量标注样本。为应对USMA,我们提出一种协作一致性训练框架,该框架正则化两个模型(即一个预训练源模型及其仅用目标数据预训练的变体)之间的预测一致性,并结合它们的互补优势以学习一个更强大的模型。我们框架的动机源于如下观察:源模型在公共类别上优于仅目标模型,而在目标私有类别上仅目标模型表现更好。我们还提出一种双视角(即样本级与类别级)一致性正则化以改进训练。实验结果在多个基准数据集上证明了我们方法的有效性。

关键词

引用

@article{arxiv.2307.03449,
  title  = {Universal Semi-supervised Model Adaptation via Collaborative Consistency Training},
  author = {Zizheng Yan and Yushuang Wu and Yipeng Qin and Xiaoguang Han and Shuguang Cui and Guanbin Li},
  journal= {arXiv preprint arXiv:2307.03449},
  year   = {2023}
}