大样本中基于MCMC估计量的计算复杂度

本文研究了统计大样本理论对使用Metropolis随机游走进行的贝叶斯和拟贝叶斯估计计算复杂度的影响。我们的分析受Laplace-Bernstein-Von Mises中心极限定理启发，该定理指出在大样本下，后验或拟后验趋近于正态密度。利用中心极限定理成立所需的条件，我们确立了大样本下一般Metropolis随机游走方法计算复杂度的多项式界限。我们的分析涵盖了底层对数似然或极值准则函数可能非凹、不连续以及参数维度增加的情形。然而，中心极限定理以非常特定的方式限制了对数似然或极值准则函数偏离连续性和对数凹性的程度。在参数维度增加下中心极限定理成立所需的最小假设下，我们证明了即使对于详细研究的规范高斯游走，Metropolis算法在理论上也是高效的。具体而言，我们证明了在大样本下该算法的运行时间以参数维度$d$的多项式为概率有界，特别地，在燃烧期之后的主要情况下具有$d^2$的随机阶。随后我们给出了在指数族、弯曲指数族以及增加维度的Z估计中的应用。