中文

基于松弛张量范数的更优不可知聚类

机器学习 2017-11-21 v1

摘要

我们针对 kk-均值聚类开发了一类基于平方和范数的新凸松弛方法,平方和范数是单射张量范数的一种松弛,可使用平方和算法高效计算。我们给出了一种基于该松弛的算法,只要每个簇中点的低阶矩具有有界的平方和范数,该算法就能恢复出给定数据中真实均值的忠实近似。随后,我们证明了对于任意满足\emph{Poincare 不等式}的分布,其矩张量的平方和范数存在尖锐上界。Poincare 不等式是概率论中的核心不等式,一大类分布均满足该不等式,包括高斯分布、乘积分布、强对数凹分布,以及此类分布的任意求和或一致连续变换。作为直接推论,对于任意 γ>0\gamma > 0,只要各均值具有 Ω(kγ)\Omega(k^{\gamma}) 的分离度,我们便能在 dO(1/γ)d^{O(1/\gamma)} 时间内高效学习 Rd\mathbb{R}^d 中由 kk 个任意 Poincare 分布混合而成的均值。这尤其给出了一个用于学习具有 Ω(kγ)\Omega(k^{\gamma}) 分离度的高斯混合模型的算法,从而部分解决了 Regev 和 Vijayaraghavan \citet{regev2017learning} 的一个开放问题。只要异常值比例小于最小簇的比例,我们的算法即使在添加了 ϵ\epsilon 比例任意异常值的鲁棒离群点设置下也有效。因此,我们在强不可知设置下获得了结果,其中除了不知道分布族之外,数据本身也可能被任意破坏。

关键词

引用

@article{arxiv.1711.07465,
  title  = {Better Agnostic Clustering Via Relaxed Tensor Norms},
  author = {Pravesh K. Kothari and Jacob Steinhardt},
  journal= {arXiv preprint arXiv:1711.07465},
  year   = {2017}
}