Dirichlet 过程混合模型在分量数上不一致性的一个简单示例
统计理论
2013-01-15 v1 统计理论
摘要
对于假设来自分量数未知的有限混合的数据,使用 Dirichlet 过程混合(DPMs)不仅用于密度估计,而且用于推断分量数,已变得很普遍。典型的方法是使用迄今为止出现的分量数的后验分布——即观测数据中聚类数的后验分布。然而,事实证明这个后验分布是不一致的——它不收敛到真实的分量数。在本文中,我们在可能最简单的设定下给出了这种不一致性的基本证明:一个具有单位方差正态分量的 DPM,应用于来自具有单一标准正态分量的“混合”的数据。此外,我们发现这个例子表现出严重的不一致性:存在单一聚类的后验概率不是趋于 1,而是趋于 0。
关键词
引用
@article{arxiv.1301.2708,
title = {A simple example of Dirichlet process mixture inconsistency for the number of components},
author = {Jeffrey W. Miller and Matthew T. Harrison},
journal= {arXiv preprint arXiv:1301.2708},
year = {2013}
}