神经流形聚类与嵌入
机器学习
2022-01-26 v1 计算机视觉与模式识别
摘要
给定一组非线性流形的并集，非线性子空间聚类或流形聚类旨在基于流形结构对数据点进行聚类，并学习将每个流形参数化为特征空间中的线性子空间。深度神经网络凭借其强大的容量和灵活性，有潜力在高度非线性的设定下实现这一目标。我们认为，利用神经网络实现流形聚类需要两个基本要素：一个确保流形可辨识的领域特定约束，以及一个将每个流形嵌入到特征空间中线性子空间的学习算法。本工作表明，许多约束可以通过数据增强来实现。对于子空间特征学习，可以使用最大编码率降低（MCR）目标。将两者结合便产生了{\em 神经流形聚类与嵌入}（NMCE），这是一种用于通用流形聚类的新方法，其性能显著优于基于自编码器的深度子空间聚类。此外，在更具挑战性的自然图像数据集上，NMCE 也能超越其他专门为聚类设计的算法。定性来看，我们证明了 NMCE 学习到了一个有意义且可解释的特征空间。由于 NMCE 的公式与几种重要的自监督学习（SSL）方法密切相关，我们相信这项工作有助于我们更深入地理解 SSL 表征学习。
引用
@article{arxiv.2201.10000,
title = {Neural Manifold Clustering and Embedding},
author = {Zengyi Li and Yubei Chen and Yann LeCun and Friedrich T. Sommer},
journal= {arXiv preprint arXiv:2201.10000},
year = {2022}
}