高维高斯云混合的线性时间聚类

聚类高斯分布混合是一项基础且具有挑战性的问题，普遍存在于各种高维数据处理任务中。尽管关于学习高斯混合模型的前沿工作主要聚焦于改进分离界及其对任意混合模型类的推广，所提方案的实际计算效率却较少受到重视。本文中，我们提出了一种新颖且高效的聚类算法，用于 $\mathbb{R}^p$ 中从两个任意高斯分布混合抽取的 $n$ 个点。该算法执行随机一维投影，直到找到产生用户指定聚类误差 $e$ 的方向。对于满足 $\gamma=Q^{-1}(e)$ 的一维分离参数 $\gamma$，当 $\gamma\leq c\sqrt{\ln{\ln{p}}}$ 时（其中 $c$ 为 $\mathbb{R}^p$ 中两个高斯的可分性参数），此类投影的期望次数被证明以 $o(\ln p)$ 为界。因此，算法的期望总运行时间在 $n$ 上线性、在 $p$ 上拟线性，为 $o(\ln{p})O(np)$，且样本复杂度与 $p$ 无关。该结果不同于先前工作给出的在 $p$ 和 $n$ 上多项式（最优为二次）的运行时间。我们展示了关于一维投影期望次数的界可推广到三个或更多高斯分量的情况，并给出了结果向高斯模型之外混合分布的推广。