多处理器少时间：基于最优传输耦合的划分 MCMC
统计方法学
2022-02-24 v1 统计计算
机器学习
摘要
马尔可夫链蒙特卡罗（MCMC）方法常用于聚类，因为它们在无限时间极限下保证渐近精确期望。但在有限时间内，缓慢的混合常导致较差表现。现代计算环境提供大规模并行，但并行 MCMC 的朴素实现会表现出显著偏差。在连续随机变量的 MCMC 采样器中，马尔可夫链耦合可克服偏差。但这些方法关键依赖于配对链在少量转移后相遇。我们表明，现有耦合思想对离散聚类变量的直接应用无法快速相遇。该失败源于“标签切换问题”：语义等价的簇重标号阻碍耦合链的快速相遇。我们转而将链视为探索划分空间而非划分的（任意）标号。利用划分空间上的度量，我们构造了一个使用最优传输耦合的实用算法。我们的理论确认了方法的准确性与高效性。在从基因或种子聚类到图着色的实验中，我们展示了在高度并行、时间受限情形下该耦合的益处。
引用
@article{arxiv.2202.11258,
title = {Many processors, little time: MCMC for partitions via optimal transport couplings},
author = {Tin D. Nguyen and Brian L. Trippe and Tamara Broderick},
journal= {arXiv preprint arXiv:2202.11258},
year = {2022}
}
备注
Appearing in AISTATS 2022