中文

数据增强、边缘增强与 PX-DA 算法的理论比较

统计理论 2008-12-18 v1 统计理论

摘要

数据增强 (DA) 算法是一种广泛使用的马尔可夫链蒙特卡洛 (MCMC) 算法,其基于形式为 p(xx)=YfXY(xy)fYX(yx)dyp(x|x')=\int_{\mathsf{Y}}f_{X|Y}(x|y)f_{Y|X}(y|x') dy 的马尔可夫转移密度,其中 fXYf_{X|Y}fYXf_{Y|X} 为条件密度。Liu 和 Wu [J. Amer. Statist. Assoc. 94 (1999) 1264--1274] 以及 Meng 和 van Dyk [Biometrika 86 (1999) 301--320] 提出的 PX-DA 和边缘增强算法是 DA 的替代方案,它们通常收敛速度快得多,且计算需求仅略高。这些替代算法的转移密度可写为 pR(xx)=YYfXY(xy)R(y,dy)fYX(yx)dyp_R(x|x')=\int_{\mathsf{Y}}\int _{\mathsf{Y}}f_{X|Y}(x|y')R(y,dy')f_{Y|X}(y|x') dy 的形式,其中 RRY\mathsf{Y} 上的马尔可夫转移函数。我们证明,当 RR 满足某些条件时,由 pRp_R 驱动的 MCMC 算法在中心极限定理的表现和算子范数意义上,至少与由 pp 驱动的算法一样好。这些结果被用于对 DA、PX-DA 和边缘增强算法进行理论比较。我们的重点是利用 Liu 和 Wu 所开发的群结构可用的情形。我们表明,基于 Haar 测度的 PX-DA 算法至少与使用该群上任何proper prior 构造的 PX-DA 算法一样好。

关键词

引用

@article{arxiv.0804.0671,
  title  = {A theoretical comparison of the data augmentation, marginal augmentation and PX-DA algorithms},
  author = {James P. Hobert and Dobrin Marchev},
  journal= {arXiv preprint arXiv:0804.0671},
  year   = {2008}
}

备注

Published in at http://dx.doi.org/10.1214/009053607000000569 the Annals of Statistics (http://www.imstat.org/aos/) by the Institute of Mathematical Statistics (http://www.imstat.org)