谱聚类背后的数学及其与 PCA 的等价性

谱聚类是一种利用从数据导出的拉普拉斯矩阵的特征值与特征向量对点进行聚类的流行算法。多年来，谱聚类一直以神秘的方式运作。本文通过依据图拉普拉斯矩阵是否完全连通将谱聚类分为两类来进行解释。对于完全连通图，本文通过给出一个目标函数——原始数据点相似度与映射后数据点相似度之间的协方差——来展示降维部分。对于多连通图，本文证明在恰当的 $k$ 下，前 $k$ 个特征向量是连通分支的指示向量。本文还证明了谱嵌入与 PCA 之间存在等价性。