中文

基于自监督补救的无监督迁移学习

计算机视觉与模式识别 2020-06-09 v1

摘要

在没有人工标注的情况下将深度网络泛化到新领域对深度学习而言具有挑战性。由于新领域中图像数据分布的变化本质不可预测,这一问题本质上十分困难。若不针对已学习领域与新领域做出强假设,预学习知识难以良好迁移。已有多种方法基于不同假设来解决该底层问题,例如从域适应到零样本与小样本学习。本工作中,我们通过迁移聚类来解决该问题,旨在借助来自有标注相关领域的知识迁移,学习新领域无标注目标数据的判别性潜空间。具体而言,我们希望利用免费可用且为目标领域所固有的相对(成对)图像信息,对目标领域图像分布特征以及从相关有标注领域学习到的先验知识进行建模,从而实现对无标注目标数据更具判别性的聚类。我们的方法通过自监督缓解不可迁移的先验知识,同时受益于迁移学习与自监督学习。在四个图像聚类数据集上的大量实验表明,我们的模型优于当前最先进的迁移聚类技术。我们进一步在四个零样本学习基准上展示了其具有竞争力的迁移能力。

关键词

引用

@article{arxiv.2006.04737,
  title  = {Unsupervised Transfer Learning with Self-Supervised Remedy},
  author = {Jiabo Huang and Shaogang Gong},
  journal= {arXiv preprint arXiv:2006.04737},
  year   = {2020}
}