改进 MCMC 估计量的渐近方差：非可逆链更优
概率论
2007-06-13 v1 统计理论
统计理论
摘要
我展示了如何将有限状态空间上任意不可约（因而适合对其不变分布估计期望）的可逆 Markov 链，用于在相关状态空间上构造一个非可逆 Markov 链，该链同样可用于估计这些期望，且其渐近方差至少不大于使用可逆链时（通常更小）。非可逆链通过避免（在可能范围内）回溯到链刚离开之状态的转移来实现这一改进。证明此修改不会增大 MCMC 估计量渐近方差的方法采用了一项新技术，该技术亦可用于证明 Peskun（1973）的定理：修改可逆链以降低停留在同一状态的概率不会增大渐近方差。避免回溯的非可逆链每次转移的算力开销通常不大甚至不高于原可逆链，且有时可大幅降低渐近方差，尽管对其他链而言改进甚微。除具有一定实际意义外，该构造表明非可逆链在 MCMC 估计上相对可逆链具有根本优势。因此，对更优 MCMC 方法的研究或许最好聚焦于非可逆链。
引用
@article{arxiv.math/0407281,
title = {Improving Asymptotic Variance of MCMC Estimators: Non-reversible Chains are Better},
author = {Radford M. Neal},
journal= {arXiv preprint arXiv:math/0407281},
year = {2007}
}