重新审视基于图的聚类:核 $k$-Means 的松弛视角
机器学习
2025-09-24 v1
摘要
著名的基于图的聚类方法,包括谱聚类、对称非负矩阵分解和双随机归一化,可以被视为核 -means 方法的松弛。然而,我们认为这些方法为确保数值可行性,过度松弛了其固有的低秩、非负、双随机和正交约束,这可能限制了它们的聚类效果。在本文中,受理论分析指导,我们提出了低秩双随机聚类(LoRD),该模型仅松弛正交约束以导出概率聚类结果。此外,我们在理论上确立了双随机约束下正交性与块对角性的等价性。通过将块对角正则化整合到 LoRD 中(表示为 Frobenius 范数的最大化),我们提出了 B-LoRD,进一步增强了聚类性能。为确保数值可解性,我们通过引入类概率参数,将非凸双随机约束转化为线性凸约束。我们进一步在理论上证明了 LoRD 和 B-LoRD 的梯度 Lipschitz 连续性,这使得我们能够提出一种全局收敛的投影梯度下降算法对其进行优化。大量实验验证了我们方法的有效性。代码已公开于 https://github.com/lwl-learning/LoRD。
引用
@article{arxiv.2509.18826,
title = {Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective},
author = {Wenlong Lyu and Yuheng Jia and Hui Liu and Junhui Hou},
journal= {arXiv preprint arXiv:2509.18826},
year = {2025}
}
备注
39 pages, 20 figures