基于松弛张量范数的更优不可知聚类
机器学习
2017-11-21 v1
摘要
我们针对 -均值聚类开发了一类基于平方和范数的新凸松弛方法,平方和范数是单射张量范数的一种松弛,可使用平方和算法高效计算。我们给出了一种基于该松弛的算法,只要每个簇中点的低阶矩具有有界的平方和范数,该算法就能恢复出给定数据中真实均值的忠实近似。随后,我们证明了对于任意满足\emph{Poincare 不等式}的分布,其矩张量的平方和范数存在尖锐上界。Poincare 不等式是概率论中的核心不等式,一大类分布均满足该不等式,包括高斯分布、乘积分布、强对数凹分布,以及此类分布的任意求和或一致连续变换。作为直接推论,对于任意 ,只要各均值具有 的分离度,我们便能在 时间内高效学习 中由 个任意 Poincare 分布混合而成的均值。这尤其给出了一个用于学习具有 分离度的高斯混合模型的算法,从而部分解决了 Regev 和 Vijayaraghavan \citet{regev2017learning} 的一个开放问题。只要异常值比例小于最小簇的比例,我们的算法即使在添加了 比例任意异常值的鲁棒离群点设置下也有效。因此,我们在强不可知设置下获得了结果,其中除了不知道分布族之外,数据本身也可能被任意破坏。
引用
@article{arxiv.1711.07465,
title = {Better Agnostic Clustering Via Relaxed Tensor Norms},
author = {Pravesh K. Kothari and Jacob Steinhardt},
journal= {arXiv preprint arXiv:1711.07465},
year = {2017}
}