各向同性 PCA 与仿射不变聚类
机器学习
2008-08-04 v2 计算几何
摘要
我们提出了一种用于对 R^n 中点进行聚类的新算法。该算法的关键特性是它是仿射不变的，即它对输入的任何仿射变换产生相同的划分。当输入取自混合模型时，它具有强有力的保证。对于两个任意高斯分布的混合，只要假设两个分量可由一个超平面分离（即存在一个半空间，在概率质量上包含大部分一个高斯分布而几乎不包含另一个），该算法就能正确分类样本。这几乎是最佳可能的，实质性地改进了已知结果。对于 k > 2 个分量，该算法仅要求存在某个 (k-1) 维子空间，其中每个方向上的重叠都很小。在此，我们将重叠定义为以下两个量的比值：1) 点与其分量均值之间的平均平方距离，和 2) 点与混合均值之间的平均平方距离。主要结果也可以用线性判别分析的语言表述：如果标准 Fisher 判别足够小，则不需要标签即可估计用于投影的最优子空间。我们的主要工具是各向同性变换、谱投影和一种简单的重加权技术。我们将这种组合称为各向同性 PCA。
引用
@article{arxiv.0804.3575,
title = {Isotropic PCA and Affine-Invariant Clustering},
author = {S. Charles Brubaker and Santosh S. Vempala},
journal= {arXiv preprint arXiv:0804.3575},
year = {2008}
}