基于划分上最优传输耦合的 Gibbs 采样器无偏估计
统计方法学
2021-04-14 v2 统计计算
摘要
马尔可夫链的计算耦合提供了一条实用的无偏蒙特卡洛估计路径，可利用并行计算。然而，这些方法关键依赖于链在少量转移后相遇。对于将数据分配到组中的模型（例如混合模型），耦合 Gibbs 采样器的显见方法无法快速相遇。这一失败归因于所谓的“标签切换”问题；组的语义等价重标记贡献了分离良好的后验模态，阻碍快速混合并导致大的相遇时间。我们在此展示如何通过考虑链在划分空间而非标记空间上探索来避免标签切换。利用该空间上的度量，我们采用 Gibbs 条件分布的最优传输耦合。该耦合优于依赖标记的其他耦合，并且在真实数据集上在有限时间范围内提供了比通常遍历平均更精确的估计。代码可在 github.com/tinnguyen96/coupling-Gibbs-partition 获取。
引用
@article{arxiv.2104.04514,
title = {Optimal transport couplings of Gibbs samplers on partitions for unbiased estimation},
author = {Brian L. Trippe and Tin D. Nguyen and Tamara Broderick},
journal= {arXiv preprint arXiv:2104.04514},
year = {2021}
}
备注
Brian Trippe and Tin Nguyen contributed equally. First presented at 3rd Symposium on Advances in Approximate Bayesian Inference, 2020. This version fixes authoring order of first version