基于变分近似的有限混合模型分量数估计
统计方法学
2026-04-23 v2 统计理论
机器学习
统计理论
摘要
本工作引入了一种使用变分贝叶斯选择有限混合模型分量数的新方法，该方法受启发于由平均场变分近似导出的证据下界（ELBO）的大样本性质。具体而言，我们在不假设共轭先验的情况下建立了 ELBO 的匹配上下界，这表明基于最大化 ELBO 的 FMM 模型选择具有一致性。作为证明的副产品，我们证明了 MF 近似继承了后验分布的稳定行为（得益于模型奇异性），在混合分量数被过设定的模型误设情况下，这倾向于消除多余的分量。在这种模型过设定下，该稳定行为也使得参数估计达到 的收敛速率（对数因子以内）。我们进行了实证实验以验证理论发现，并与选择 FMM 分量数的其他 SOTA 方法进行了比较。
引用
@article{arxiv.2404.16746,
title = {Estimating the Number of Components in Finite Mixture Models via Variational Approximation},
author = {Chenyang Wang and Yun Yang},
journal= {arXiv preprint arXiv:2404.16746},
year = {2026}
}