RECAL：基于已有 CNN 分类器改造的无监督学习聚类范式
计算机视觉与模式识别
2019-06-18 v1
摘要
近年来，基于深度网络框架的聚类在计算机视觉领域引起了众多研究者的关注。深度框架因其在大规模高维数据上的效率与可扩展性而广受关注。本文将有监督 CNN 分类器架构转化为一种称为 RECAL 的无监督聚类模型，该模型联合学习判别性嵌入子空间与聚类标签。RECAL 由卷积特征提取层与随后的全连接无监督分类层构成。分类层之上堆叠一个多项逻辑回归函数(softmax)。我们使用随机梯度下降(SGD)优化器训练该网络。然而，我们模型的成功实现取决于损失函数的设计。我们的损失函数利用如下启发式：在类分布不过度偏斜时，真实划分意味着较低的熵。这是“偏斜分布”与“低熵”两种情形之间的权衡。为此，我们提出了分类熵与类熵，作为损失函数的两个组成部分。在该方法中，mini-batch 的规模应保持较大。实验结果表明，我们的模型在聚类知名数字、多视角物体与人脸数据集上表现稳定且具有竞争力。此外，我们使用该模型对多光谱 LISS-IV 图像生成无监督块分割。我们观察到其能够从底层场景中区分建成区、湿地、植被与水体的区域。
引用
@article{arxiv.1906.06480,
title = {RECAL: Reuse of Established CNN classifer Apropos unsupervised Learning paradigm},
author = {Jayasree Saha and Jayanta Mukhopadhyay},
journal= {arXiv preprint arXiv:1906.06480},
year = {2019}
}