中文

双组分高斯混合模型中的尖锐最优恢复

统计理论 2020-07-07 v3 统计理论

摘要

本文研究双组分高斯混合模型中的聚类问题,其中两类中心相距 2Δ2\DeltaΔ>0\Delta>0)。我们刻画了精确的相变阈值,由 Δˉn2=σ2(1+1+2pnlogn)logn \bar{\Delta}_n^{2} = \sigma^{2}\left(1 + \sqrt{1+\frac{2p}{n\log{n}}} \right)\log{n} 给出,使得当 Δ(1+ε)Δˉn\Delta\ge(1+\varepsilon)\bar \Delta_n 时以高概率可实现社区的完美恢复,而当 Δ(1ε)Δˉn\Delta\le (1-\varepsilon)\bar \Delta_n(任意常数 ε>0\varepsilon>0)时则不可能。这意味着在临界维数 p=nlognp^{*}=n\log{n} 处存在肘部效应。我们给出了相应极小极大汉明风险的非渐近下界,改进了现有结果。据我们所知,这是首个捕捉到对 pp 正确依赖关系的下界。我们还提出了一种最优、高效且自适应的过程,它是极小极大速率最优的。当样本量趋于无穷时,该速率最优性在渐近意义下亦是尖锐的。我们的过程基于一种由谱方法初始化的 Lloyd 迭代变体——一种被从业者广泛使用的流行聚类算法。数值研究证实了我们的理论发现。

关键词

引用

@article{arxiv.1812.08078,
  title  = {Sharp optimal recovery in the two-component Gaussian Mixture Model},
  author = {Mohamed Ndaoud},
  journal= {arXiv preprint arXiv:1812.08078},
  year   = {2020}
}