非球形混合物的离群值鲁棒聚类

我们给出首个针对聚类由$k$个统计分离的$d$维高斯混合($k$-GMM)的离群值鲁棒高效算法。具体而言,我们的算法输入来自$k$-GMM的$\epsilon$-污染样本,并在$d^{\text{poly}(k/\eta)}$时间内以高概率输出一个近似聚类,只要每对混合分量在总变差(TV)距离上由$1-\exp(-\text{poly}(k/\eta)^k)$分离,则误分类点比例至多$k^{O(k)}(\epsilon+\eta)$。即便对$k=2$此前亦未知此类结果。TV分离是统计上最弱的可能分离概念,并涵盖如混合线性回归与子空间聚类等重要特例。我们的主要概念贡献是提炼出简单解析性质——(可证的)超收缩性与二阶多项式的有界方差,以及线性投影的反集中——这些性质是混合模型可被(高效)聚类的必要且充分条件。作为推论,我们的结果扩展到聚类任意$d$维单位球上均匀分布的仿射变换的混合。满足这两个解析假设的分离分布的信息论可聚类性甚至在我们的工作之前未知,且可能引起独立兴趣。我们的算法建立在近期依赖于可证反集中的系列工作之上,该概念首见于Karmarkar、Klivans、Kothari以及Raghavendra和Yau于2019年的工作。我们的技术扩展了平方和工具箱,以展示数据中TV分离高斯簇的鲁棒可证性。这涉及给出低次平方和证明,将参数(即均值与协方差)距离与总变差距离相关联,且仅依赖于超收缩性与反集中。