中文

Dirichlet 过程混合模型在分量数上不一致性的一个简单示例

统计理论 2013-01-15 v1 统计理论

摘要

对于假设来自分量数未知的有限混合的数据,使用 Dirichlet 过程混合(DPMs)不仅用于密度估计,而且用于推断分量数,已变得很普遍。典型的方法是使用迄今为止出现的分量数的后验分布——即观测数据中聚类数的后验分布。然而,事实证明这个后验分布是不一致的——它不收敛到真实的分量数。在本文中,我们在可能最简单的设定下给出了这种不一致性的基本证明:一个具有单位方差正态分量的 DPM,应用于来自具有单一标准正态分量的“混合”的数据。此外,我们发现这个例子表现出严重的不一致性:存在单一聚类的后验概率不是趋于 1,而是趋于 0。

关键词

引用

@article{arxiv.1301.2708,
  title  = {A simple example of Dirichlet process mixture inconsistency for the number of components},
  author = {Jeffrey W. Miller and Matthew T. Harrison},
  journal= {arXiv preprint arXiv:1301.2708},
  year   = {2013}
}