域偏移与类别偏移下的模型升级再利用
计算机视觉与模式识别
2023-03-14 v1 人工智能
机器学习
摘要
深度神经网络(DNN)在存在域偏移和类别偏移时往往表现不佳。如何升级再利用DNN并使其适应目标任务仍是一个重要的开放问题。无监督域适应(UDA)，尤其是近期提出的无源域适应(SFDA)，已成为解决该问题的一种有前景的技术。然而，现有SFDA方法要求源域与目标域共享相同标签空间，因此仅适用于朴素的闭集设定。本文更进一步，探索无源通用域适应(SF-UniDA)。其目标是在仅利用标准预训练源模型知识的情况下，在域偏移与类别偏移下识别“已知”数据样本，并拒绝那些“未知”数据样本(源类别中未出现者)。为此，我们提出一种创新的全局与局部聚类学习技术(GLC)。具体而言，我们设计了一种新颖的自适应一对全局聚类算法以实现不同目标类别间的区分，并引入局部k-NN聚类策略以缓解负迁移。我们在具有不同类别偏移场景(包括部分集、开集和开-部分集域适应)的多个基准上验证了GLC的优越性。值得注意的是，在最具挑战性的开-部分集域适应场景中，GLC在VisDA基准上以14.8%的优势超越UMAD。代码见https://github.com/ispc-lab/GLC。
引用
@article{arxiv.2303.07110,
title = {Upcycling Models under Domain and Category Shift},
author = {Sanqing Qu and Tianpei Zou and Florian Roehrbein and Cewu Lu and Guang Chen and Dacheng Tao and Changjun Jiang},
journal= {arXiv preprint arXiv:2303.07110},
year = {2023}
}
备注
To appear in CVPR 2023. The code has been made public