UMAD:域偏移与类别偏移下的通用模型自适应
计算机视觉与模式识别
2021-12-17 v1 机器学习
摘要
学习在目标域中拒绝未知样本(未出现在源类中的样本)对于无监督域自适应(UDA)十分重要。存在两种典型的 UDA 场景,即开集与开部分集,后者假设并非所有源类都出现在目标域中。然而,大多数已有方法针对单一 UDA 场景设计,在另一场景下表现糟糕。此外,它们在自适应过程中还需使用有标注的源数据,限制了其在数据隐私敏感应用中的可用性。为解决这些问题,本文提出一种通用模型自适应(UMAD)框架,该框架可同时处理两种 UDA 场景,且无需访问源数据,也无需关于域间类别偏移的先验知识。具体而言,我们旨在学习一个带有精心设计的双头分类器的源模型,并将其提供至目标域。在自适应过程中,我们提出一种信息一致性分数以帮助区分未知样本与已知样本。为实现目标域中的双向自适应,我们进一步最大化局部互信息以将已知样本与源分类器对齐,并采用熵损失将未知样本推离源分类边界。在开集与开部分集 UDA 场景上的实验表明,UMAD 作为一种不访问源数据的统一方法,展现出与最先进的数据依赖方法相当乃至更优的性能。
引用
@article{arxiv.2112.08553,
title = {UMAD: Universal Model Adaptation under Domain and Category Shift},
author = {Jian Liang and Dapeng Hu and Jiashi Feng and Ran He},
journal= {arXiv preprint arXiv:2112.08553},
year = {2021}
}