多局部协同自编码器
机器学习
2021-10-12 v4 机器学习
摘要
自编码器在表示学习上的优异性能已在各种应用中引起了相当大的兴趣。然而，其编码过程忽略了无标签数据的结构和多局部协同关系，这限制了其特征提取的能力。本文提出了一种多局部协同自编码器（MC-AE），它由新颖的多局部协同表示RBM（mcrRBM）和多局部协同表示GRBM（mcrGRBM）模型组成。在此，局部敏感哈希（LSH）方法被用于将输入数据划分为多局部交叉块，这些块包含了无标签数据和特征的多局部协同关系，因为相似的输入数据多局部实例和特征被划分到同一块中。在mcrRBM和mcrGRBM模型中，无标签数据的结构和多局部协同关系被整合到其编码过程中。然后，局部隐藏特征收敛于每个局部协同块的中心。在每个局部块的协同联合影响下，所提出的MC-AE对于无监督聚类具有强大的表示学习能力。然而，由于集成了更多的局部协同块，我们的MC-AE模型在大规模和高维数据集上可能会经历长时间的训练过程。我们将五种最相关的深度模型与我们的MC-AE进行了比较。实验结果表明，所提出的MC-AE比对比的深度模型具有更优异的协同表示和泛化能力。
引用
@article{arxiv.1906.05173,
title = {Multi-local Collaborative AutoEncoder},
author = {Jielei Chu and Hongjun Wang and Jing Liu and Zhiguo Gong and Tianrui Li},
journal= {arXiv preprint arXiv:1906.05173},
year = {2021}
}