贝叶斯后验近似误差的实用界：一种非渐近方法

贝叶斯推断通常需要计算后验分布的近似。近似贝叶斯推断算法的一项重要要求是输出高精度的后验均值与不确定性估计。经典的蒙特卡洛方法，特别是马尔可夫链蒙特卡洛，仍是近似贝叶斯推断的黄金标准，因为它们具有稳健的有限样本理论以及可靠的收敛诊断。然而，更具可扩展性或适用于马尔可夫链蒙特卡洛无法使用问题的方法，缺乏同样的有限数据近似理论及评估其精度的工具。在这项工作中，我们开发了一种灵活的新方法来界定可扩展推断算法的均值与不确定性估计的误差。我们的策略是根据 Wasserstein 距离控制估计误差，随后通过广义的 Fisher 距离概念界定 Wasserstein 距离。与需要访问归一化后验分布的 Wasserstein 距离计算不同，Fisher 距离是易于计算的，因为它仅需访问对数后验密度的梯度。我们通过推导 Laplace 近似与 Hilbert coresets 的 Wasserstein 误差界，展示了我们 Fisher 距离方法的实用性。我们预期我们的方法将适用于许多其他近似推断方法，例如集成 Laplace 近似、变分推断以及近似贝叶斯计算。