基于多聚类集成 RBM 的无监督特征学习架构
机器学习
2020-04-03 v2 机器学习
摘要
本文提出一种新颖的无监督特征学习架构，其由一个多聚类集成模块和一个称为多聚类集成 RBM（MIRBM）的 RBM 变体组成。在多聚类集成模块中，我们应用三种无监督的 K-means、affinity propagation 和 spectral clustering 算法，在没有任何背景知识或标签的情况下获得三种不同的聚类划分（CPs）。然后，使用一致投票策略生成局部聚类划分（LCP）。新颖的 MIRBM 模型是所提无监督特征学习架构的核心特征编码部分。其新颖之处在于将 LCP 作为一种无监督引导集成到单步对比散度（CD1）学习中，以引导隐层特征的分布。对于同一 LCP 簇中的样本，所提架构中 MIRBM 模型的隐层与重构隐层特征在训练过程中趋于聚集在一起。同时，各 LCP 中心在训练期间的隐层与重构隐层中彼此尽量分散。实验表明，在 Microsoft Research Asia Multimedia（MSRA-MM）2.0 数据集的聚类任务中，所提无监督特征学习架构比最先进的图正则化 RBM（GraphRBM）具有更强大的特征表示与泛化能力。
引用
@article{arxiv.1812.01967,
title = {Unsupervised Feature Learning Architecture with Multi-clustering Integration RBM},
author = {Jielei Chu and Hongjun Wang and Jing Liu and Zhiguo Gong and Tianrui Li},
journal= {arXiv preprint arXiv:1812.01967},
year = {2020}
}