通过半定松弛证明图割的全局最优性：谱聚类的性能保证
机器学习
2019-04-16 v3 信息论
机器学习
math.IT
最优化与控制
摘要
当各个簇的结构为非凸或高度各向异性时，谱聚类已成为使用最广泛的聚类技术之一。然而，尽管其极受欢迎，关于谱聚类性能保证的理论却相当匮乏。这一问题部分源于谱聚类通常涉及使理论分析复杂化的两个步骤：首先，利用相关图拉普拉斯矩阵的特征向量嵌入数据集；其次，对嵌入后的数据集应用k-means聚类算法以获得标签。本文致力于谱聚类与图割的理论基础。我们考虑图割（即比例割与归一化割）的凸松弛，其使得谱聚类通常的两步法不再必要，同时催生了对图割与谱聚类的严格理论分析。我们通过一种谱邻近条件推导了谱聚类成功的确定性界，该条件自然依赖于每个簇的代数连通性与簇间连通性。此外，我们通过若干常见示例表明，我们的界可达到近最优性。我们的发现对核k-means的理论理解同样具有基础性意义。数值模拟证实并补充了我们的分析。
引用
@article{arxiv.1806.11429,
title = {Certifying Global Optimality of Graph Cuts via Semidefinite Relaxation: A Performance Guarantee for Spectral Clustering},
author = {Shuyang Ling and Thomas Strohmer},
journal= {arXiv preprint arXiv:1806.11429},
year = {2019}
}
备注
The assumptions of the main theorem, i.e., (3.4) and (3.5), are significantly improved which now are independent of the number clusters k