NuZZ：面向一般模型的数值 Zig-Zag 采样
统计方法学
2022-03-01 v2 数值分析
数值分析
统计计算
摘要
马尔可夫链蒙特卡洛（MCMC）是计算统计学中的关键算法，随着数据集变大和模型变复杂，许多流行的 MCMC 算法在计算上变得过于昂贵而不实用。近期通过基于分段确定性马尔可夫过程（PDMPs）的 MCMC 算法开发在这一问题上取得了进展，这类不可逆过程可被设计为以与数据规模无关的速度收敛。尽管在这些结果之后理论上研究激增在所难免，但 PDMPs 迄今为止仅在能够界定某些梯度的模型中实现，而这在许多统计语境中是不可能的。聚焦于 Zig-Zag 过程，我们提出数值 Zig-Zag（NuZZ）算法，它适用于一般统计模型，无需对对数后验的梯度设定界。这使我们能够进行如下数值实验：（i）Zig-Zag 动力学在一些具有常见挑战性特征的测试问题上的行为；（ii）目标分布与采样分布之间的误差如何作为包括 NuZZ 在内的不同 MCMC 算法计算量的函数演化。此外，由于 NuZZ 算法的特性，我们能够给出精确后验与其数值扰动对应物之间 Wasserstein 距离在 NuZZ 用户指定数值容差意义上的显式界。
引用
@article{arxiv.2003.03636,
title = {NuZZ: numerical Zig-Zag sampling for general models},
author = {Filippo Pagani and Augustin Chevallier and Sam Power and Thomas House and Simon Cotter},
journal= {arXiv preprint arXiv:2003.03636},
year = {2022}
}