双重对比深度聚类
计算机视觉与模式识别
2021-03-10 v1
摘要
深度聚类比传统方法提供更有效的特征,从而成为当前无监督学习中的重要技术。然而,大多数深度聚类方法忽略了由数据增强引入的关键正样本对与负样本对,进而忽略了对比学习的重要性,导致次优性能。在本文中,我们提出一种新颖的双重对比深度聚类(DCDC)框架,该框架在样本视图与类别视图上均构建对比损失,以获得更具判别性的特征与有竞争力的结果。具体而言,对于样本视图,我们将原始样本与其增强版本的类别分布设为正样本对,并将其他增强样本之一设为负样本对。此后,我们可采用样本级对比损失将正样本对拉近并将负样本对推远。类似地,对于类别视图,我们从该类别的样本分布构建正样本对与负样本对。如此,两个对比损失成功地在样本与类别层面对 mini-batch 样本的聚类结果进行约束。在六个基准数据集上的大量实验结果证明了我们所提模型相对于 SOTA 方法的优越性。尤其在具有挑战性的 Tiny-ImageNet 数据集上,我们的方法领先最新对比方法 5.6\%。我们的代码将发布于 \url{https://github.com/ZhiyuanDang/DCDC}。
引用
@article{arxiv.2103.05484,
title = {Doubly Contrastive Deep Clustering},
author = {Zhiyuan Dang and Cheng Deng and Xu Yang and Heng Huang},
journal= {arXiv preprint arXiv:2103.05484},
year = {2021}
}
备注
9 pages, 5 figures