中文

ProxyMix:基于代理的混合训练与标签精炼用于无源域自适应

计算机视觉与模式识别 2022-05-31 v1 人工智能

摘要

无监督域自适应(UDA)旨在将知识从有标签的源域迁移到无标签的目标域。出于隐私顾虑与繁重的数据传输,无源 UDA 近年来日益流行,其利用预训练的源模型而非原始源数据进行目标学习。一些工作尝试用生成模型恢复未见的源域,但引入了额外网络参数。其他工作提出用伪标签微调源模型,而带噪伪标签可能误导决策边界,导致不理想的结果。为解决这些问题,我们提出一种名为基于代理的混合训练与标签精炼(ProxyMix)的有效方法。首先,为避免额外参数并探索源模型中的信息,ProxyMix 将分类器的权重定义为类原型,然后通过原型的近邻构造类平衡的代理源域,以桥接未见源域与目标域。为提高伪标签的可靠性,我们进一步提出频率加权聚合策略,为无标签目标数据生成软伪标签。该策略利用目标特征的内部结构,将目标特征拉向其语义近邻,并在梯度更新时增加低频类样本的权重。借助代理域与可靠伪标签,我们在框架中采用两种混合正则化,即域间与域内混合,以对齐代理域与目标域,强制预测的一致性,从而进一步缓解噪声标签的负面影响。在三个 2D 图像与一个 3D 点云物体识别基准上的实验表明,ProxyMix 在无源 UDA 任务上取得了最先进的性能。

关键词

引用

@article{arxiv.2205.14566,
  title  = {ProxyMix: Proxy-based Mixup Training with Label Refinery for Source-Free Domain Adaptation},
  author = {Yuhe Ding and Lijun Sheng and Jian Liang and Aihua Zheng and Ran He},
  journal= {arXiv preprint arXiv:2205.14566},
  year   = {2022}
}