稀疏子空间聚类的高效求解器

稀疏子空间聚类(SSC)对位于若干低维子空间并集邻近处的 $n$ 个点进行聚类。SSC 模型将每个点表示为其他点的线性或仿射组合,使用 $\ell_1$ 或 $\ell_0$ 正则化。使用 $\ell_1$ 正则化得到一个凸问题,但需要 $O(n^2)$ 存储,并且通常由交替方向乘子法求解,耗费 $O(n^3)$ 次浮点运算。$\ell_0$ 模型是非凸的,但仅需关于 $n$ 线性的内存,并通过正交匹配追踪求解,且不能处理仿射子空间的情形。本文表明,近端梯度框架可以求解 SSC,涵盖 $\ell_1$ 与 $\ell_0$ 模型,以及线性与仿射约束。对于 $\ell_1$ 和 $\ell_0$,在存在仿射约束时计算邻近算子的算法尚未见于 SSC 文献,因此我们推导出一种精确且高效的算法,以仅 $O(n^2)$ 次浮点运算求解 $\ell_1$ 情形。在 $\ell_0$ 情形中,我们的算法保持了低内存开销,并且是首个求解带仿射约束的 SSC-$\ell_0$ 模型的算法。实验表明,我们的算法不依赖于敏感的正则化参数,并且对稀疏性误设和高噪声较不敏感。