中文

利用结构正则化深度聚类揭示无监督域适应的内在数据结构

计算机视觉与模式识别 2021-04-09 v2 机器学习 机器学习

摘要

无监督域适应(UDA)旨在给定源域上分布与目标域偏离的带标签数据的情况下,学习对目标域上无标签数据进行分类预测的模型。主流 UDA 方法致力于学习域对齐特征,使得在源特征上训练的分类器可直接应用于目标特征。尽管已取得令人印象深刻的成果,这些方法存在破坏目标判别内在数据结构的潜在风险,引发了泛化问题,尤其对于归纳设定下的 UDA 任务。为解决此问题,我们受跨域结构相似性这一 UDA 假设的启发,提出通过约束聚类直接揭示内在目标判别,其中我们利用基于同一假设的结构源正则化来约束聚类解。在技术上,我们提出了结构正则化深度聚类的混合模型,它将目标数据的正则化判别聚类与生成式聚类相整合,因此我们将方法称为 H-SRDC。我们的混合模型基于深度聚类框架,最小化网络预测分布与辅助分布之间的 Kullback-Leibler 散度,并通过学习域共享分类器和聚类质心来施加结构正则化。通过丰富结构相似性假设,我们能够将 H-SRDC 扩展至语义分割的像素级 UDA 任务。我们在七个图像分类与语义分割的 UDA 基准上进行了大量实验。在无需显式特征对齐的情况下,我们所提出的 H-SRDC 在归纳与转导两种设定下均优于所有现有方法。我们的实现代码公开于 https://github.com/huitangtang/H-SRDC。

关键词

引用

@article{arxiv.2012.04280,
  title  = {Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain Adaptation using Structurally Regularized Deep Clustering},
  author = {Hui Tang and Xiatian Zhu and Ke Chen and Kui Jia and C. L. Philip Chen},
  journal= {arXiv preprint arXiv:2012.04280},
  year   = {2021}
}

备注

Journal extension of our preliminary CVPR conference paper, under review, 16 pages, 8 figures, 9 tables