狄利克雷过程高斯混合模型中最大后验划分的分析
统计理论
2018-06-22 v3 统计理论
摘要
混合模型在许多应用中是一个自然的选择,但通常难以对分量数量设置一个先验上界。为了规避这一点,研究者们越来越多地转向狄利克雷过程混合模型 (DPMM)。因此,理解该方法的优缺点变得非常重要。本文考虑了高斯 DPMM 的 MAP(最大后验)聚类(其中簇均值服从高斯分布,并且对于每个簇,簇内的观测值服从高斯分布)。我们证明了 MAP 划分的一些理想性质:簇的凸包的“几乎不相交性”(它们至多有一个公共点),以及(在自然假设下)与任何固定球相交的簇的大小与观测数量(当观测数量趋于无穷时)的可比性。因此,这类簇的数量保持有界。此外,如果数据来自对具有有界支撑的给定分布的独立同分布采样,那么渐近 MAP 划分最大化一个函数,该函数具有简单的表达式,仅依赖于组内协方差参数。随着该协方差参数的算子范数减小,MAP 划分中的簇数量变得任意大,这可能导致对混合分量数量的高估。
引用
@article{arxiv.1606.03275,
title = {Analysis of the maximal posterior partition in the Dirichlet Process Gaussian Mixture Model},
author = {Łukasz Rajkowski},
journal= {arXiv preprint arXiv:1606.03275},
year = {2018}
}
备注
50 pages, 7 figures