面向多源域适应的鲁棒目标域训练
计算机视觉与模式识别
2022-10-05 v1
摘要
给定多个有标签的源域和单个目标域，大多数现有的多源域适应（MSDA）模型是在一步中联合所有域的数据进行训练。这种一步式方法限制了它们适应目标域的能力，因为训练集由数量更多且有标签的源域数据主导。源域偏置可通过引入第二步训练来缓解，即仅使用伪标签作为监督、用无标签目标域数据对模型进行微调。然而，伪标签不可避免地含有噪声，若不加甄别地使用会对模型性能产生负面影响。为解决该问题，我们提出一种基于双层优化的鲁棒目标训练（BORT）方法用于MSDA。给定任意已有的完全训练好的一步式MSDA模型，BORT将其作为标注函数为目标数据生成伪标签，并仅使用伪标签目标数据训练一个目标模型。关键在于，该目标模型是一个随机CNN，其设计初衷是对标注函数产生的标签噪声具有内在鲁棒性。这样的随机CNN将每个目标实例特征建模为高斯分布，并部署熵最大化正则化项来衡量标签不确定性，进而用于减轻噪声伪标签的负面影响。训练标注函数与目标模型构成一个嵌套双层优化问题，我们基于隐式微分给出了一种简洁的求解方案。大量实验表明，所提方法在包括大规模DomainNet数据集在内的三个MSDA基准上取得了最先进的性能。我们的代码将发布于\url{https://github.com/Zhongying-Deng/BORT2}。
引用
@article{arxiv.2210.01676,
title = {Robust Target Training for Multi-Source Domain Adaptation},
author = {Zhongying Deng and Da Li and Yi-Zhe Song and Tao Xiang},
journal= {arXiv preprint arXiv:2210.01676},
year = {2022}
}
备注
Accepted to BMVC 2022