重要性过滤的跨域自适应
机器学习
2020-05-11 v3 机器学习
摘要
在域自适应(DA)中,类别相关损失通常占据主导地位,而现有模型通常基于硬标签或软标签构建。我们观察到,由于存在困难样本,硬标签过于自信;而软标签因涉及过多微小噪声概率而模糊不清,二者都易导致负迁移。此外,闭集域自适应(CSDA)范式中的类别无关损失在开集域自适应(OSDA)中失效,且由于目标数据样本被划分为共享类与私有类,它们也必须采取类别相关形式。为此,我们提出一种全新统一的 DA 框架(即重要性过滤的跨域自适应,IFCDA)。首先,设计一种重要性过滤机制以生成过滤后的软标签,从而理想地缓解负迁移。具体而言,将软标签划分为置信与模糊两类。然后,仅保留每个置信标签中的最大概率,并设置阈值截断每个模糊标签,仅保留显著概率。此外,设计一种通用的基于图的标签传播方法,以在 CSDA 与 OSDA 中获得软标签,其中在标签向量中嵌入额外分量,从而能够检测目标新类别。最后,两种场景中的类别相关损失均使用过滤软标签重新表述,而 CSDA 中的类别无关 MMD 损失使用新设计的重要性过滤软标签被重新表述为类间 MMD 的形式。值得注意的是,当所有额外分量设为 0 时,CSDA 范式是一种特例,因此所提方法同时适用于 CSDA 与 OSDA。在基准跨域目标识别数据集上的综合实验验证了所提方法在两种场景中均优于多种最先进(state-of-the-art)方法。
引用
@article{arxiv.1912.12209,
title = {Importance Filtered Cross-Domain Adaptation},
author = {Wei Wang and Haojie Li and Zhihui Wang and Jing Sun and Zhengming Ding and Fuming Sun},
journal= {arXiv preprint arXiv:1912.12209},
year = {2020}
}
备注
15 pages, 7 figures, IEEE Tansactions on Image Processing. arXiv admin note: text overlap with arXiv:1906.07441 by other authors