基于伪目标域的多源无监督域适应
机器学习
2022-02-23 v1 人工智能
摘要
多源域适应（MDA）旨在将知识从多个源域迁移到无标签目标域。由于严重的域偏移，MDA 是一项具有挑战性的任务，这种偏移不仅存在于目标与源之间，也存在于不同源之间。先前关于 MDA 的研究要么估计源域的混合分布，要么组合多个单源模型，但极少深入探讨不同源域之间的相关信息。为此，我们提出一种新颖的 MDA 方法，称为伪目标域 MDA（PTMDA）。具体而言，PTMDA 利用带度量约束的对抗学习将每组源域与目标域映射到一个组特定的子空间，并相应地构造一系列伪目标域。然后我们在子空间中高效地将剩余源域与伪目标域对齐，这允许通过在伪目标域上的训练利用额外的结构化源信息，并提升在真实目标域上的性能。此外，为提升深度神经网络（DNNs）的可迁移性，我们用一种有效的匹配归一化层替换传统的批归一化层，该层在 DNNs 的隐层强制对齐从而带来进一步提升。我们给出理论分析表明，PTMDA 整体能够降低目标误差界，并在 MDA 设定下导致对目标风险的更好近似。大量实验证明 PTMDA 在 MDA 任务上的有效性，因其在大多数实验设定下优于最先进的方法。
引用
@article{arxiv.2202.10725,
title = {Multi-Source Unsupervised Domain Adaptation via Pseudo Target Domain},
author = {Ren Chuan-Xian and Liu Yong-Hui and Zhang Xi-Wen and Huang Ke-Kun},
journal= {arXiv preprint arXiv:2202.10725},
year = {2022}
}
备注
To be published in IEEE Trans. Image Processing