无域对齐的部分域适应
计算机视觉与模式识别
2022-12-19 v2 机器学习
摘要
无监督域适应(UDA)旨在将知识从标注良好的源域迁移到不同但相关、且具有相同标签空间的无标注目标域。当前,解决 UDA 的主要手段是域对齐,已被证明是成功的。然而,往往难以找到具有完全相同标签空间的合适源域。一种更实际的场景是所谓的部分域适应(PDA),其中源标签集或标签空间包含目标标签空间。不幸的是,在 PDA 中,由于源域中存在不相关类别,很难获得完美的对齐,从而导致模式崩塌和负迁移。尽管已有一些通过降低不相关源类别权重的工作,但由于具体哪些不相关类别未知,所用策略往往繁琐且存在风险。这些挑战促使我们寻找一个相对更简单的替代方案来解决 PDA。为此,我们首先给出详尽的理论分析,表明目标风险受模型平滑度与域间差异两者的约束。考虑到在解决 PDA 时完美对齐的困难,我们转而关注模型平滑度,同时舍弃风险更高的域对齐以增强模型的适应性。具体而言,我们将模型平滑度实例化为一个相当简单的域内结构保持(IDSP)。据我们所知,这是首次在不进行域对齐的情况下解决 PDA 的朴素尝试。最后,我们在多个基准数据集上的实证结果表明,IDSP 不仅在一些基准上显著优于 PDA 的 SOTA(例如,在 Cl->Rw 上 +10%,在 Ar->Rw 上 +8%),而且与标准 UDA 中的域对齐互补。
引用
@article{arxiv.2108.12867,
title = {Partial Domain Adaptation without Domain Alignment},
author = {Weikai Li and Songcan Chen},
journal= {arXiv preprint arXiv:2108.12867},
year = {2022}
}
备注
10 pages. IEEE Transactions on Pattern Analysis and Machine Intelligence,2022