解释具有独立假设的潜变量模型中联合与边缘 Monte Carlo 估计量的行为
统计计算
2014-09-18 v1
摘要
在潜变量模型中，参数估计可以基于独立性或条件独立性假设，通过联合似然或边缘似然来实现。同样的困境也出现在贝叶斯框架中，即关于贝叶斯边缘（或积分）似然的估计，这是模型比较和平均的主要工具。在大多数情况下，贝叶斯边缘似然是一个高维积分，无法解析计算，因此使用了大量基于 Monte Carlo 积分 (MCI) 的方法进行估计。本工作表明，联合 MCI 方法微妙地利用了所采用模型的性质，导致在有限设置下误差和偏差增加。本文识别并提供了两种方法下与估计量相关的误差来源和分量的精确形式。此外，还考察了样本协变对 Monte Carlo 估计量的影响。特别是，即使在独立性假设下，样本协方差也将接近（但不完全等于）零，这出乎意料地对估计值及其变异性产生了严重影响。为解决这一问题，我们引入了一个样本偏离独立性的指标，作为协方差的多变量扩展。此处讨论的推论对于具有类似结构的多参数模型贝叶斯推断中出现的大多数实际问题都很重要。
引用
@article{arxiv.1311.0656,
title = {Explaining the behavior of joint and marginal Monte Carlo estimators in latent variable models with independence assumptions},
author = {Silia Vitoratou and Ioannis Ntzoufras and Irini Moustaki},
journal= {arXiv preprint arXiv:1311.0656},
year = {2014}
}