中文

基于匹配追踪的含噪子空间聚类

机器学习 2018-06-11 v2 信息论 math.IT 机器学习

摘要

基于稀疏性的子空间聚类算法因其在实际应用中的优异性能而备受关注。一个突出的例子是 Elhamifar 和 Vidal 提出的稀疏子空间聚类(SSC)算法,该算法通过 Lasso 将每个数据点稀疏表示为所有其他数据点的线性组合,并基于由此获得的邻接矩阵进行谱聚类。当数据点数量很大或环境空间维度很高时,SSC 的计算复杂度会迅速变得难以承受。Dyer 等人观察到,用贪婪正交匹配追踪(OMP)算法替代 Lasso 所得到的 SSC-OMP,在计算复杂度显著降低的同时,往往能产生相当的性能。本文的核心目标是对含噪数据下 SSC-OMP 的解析性能进行表征。此外,我们引入并分析了 SSC-MP 算法,该算法使用匹配追踪(MP)代替 OMP。我们证明了,即使子空间相交且数据点被严重噪声污染,SSC-OMP 和 SSC-MP 也能成功聚类。我们为 SSC-OMP 和 SSC-MP 获得的聚类条件与 SSC 以及 Heckel 和 Bölcskei 提出的基于阈值的子空间聚类(TSC)算法的聚类条件相似。解析结果与数值结果表明,带有数据相关停止准则的 SSC-OMP 和 SSC-MP 能够自动检测数据背后的子空间维度。此外,在合成数据和真实数据上的实验表明,无论是在聚类性能还是运行时间方面,SSC-MP 与 SSC、SSC-OMP、TSC 以及最近子空间邻居算法相比都非常有优势。另外,我们发现,与 SSC-OMP 不同,SSC-MP 的性能对停止准则中参数的选择非常鲁棒。

关键词

引用

@article{arxiv.1612.03450,
  title  = {Noisy subspace clustering via matching pursuits},
  author = {Michael Tschannen and Helmut Bölcskei},
  journal= {arXiv preprint arXiv:1612.03450},
  year   = {2018}
}

备注

24 pages, 5 figures