中文

分量数增长的 Gaussian 混合模型的贝叶斯最优估计

统计理论 2022-03-18 v2 统计理论

摘要

我们在一个通用设定下研究有限混合模型的贝叶斯估计,其中分量数未知且允许随样本量增长。分量数增长的假设是自然的,因为样本中所呈现的异质性程度可能增长,并且随着样本量增大可能出现新分量,从而在建模数据复杂性时提供充分的灵活性。然而,这将导致一个高维模型,给估计带来巨大挑战。我们新颖地在贝叶斯模型中采用依赖于样本量的先验思想,并建立了一系列重要的理论结果。我们首先证明,在先验的温和条件下,后验分布以相对于 Wasserstein 距离近最优的速率集中在真实混合分布周围。在真实混合分布的一个分离条件下,我们进一步证明可以获得更好且自适应的收敛速率,并且分量数可被一致估计。此外,我们推导了分量数任意快速发散的高阶混合模型的最优收敛速率。另外,我们提出了一个使用 Dirichlet 过程 (DP) 混合先验来估计有限混合模型的简单方案,并提供了理论保证。特别地,我们为采用 DP 混合模型中的聚类数作为有限混合模型中分量数的估计提供了一种新颖的解决方案。我们进行了模拟研究和真实数据应用,证明了我们方法的效用。

关键词

引用

@article{arxiv.2007.09284,
  title  = {Optimal Bayesian estimation of Gaussian mixtures with growing number of components},
  author = {Ilsang Ohn and Lizhen Lin},
  journal= {arXiv preprint arXiv:2007.09284},
  year   = {2022}
}

备注

To appear in Bernoulli