面向无限维贝叶斯反问题的导数信息神经算子加速几何MCMC方法
数值分析
2024-05-21 v2 机器学习
数值分析
统计计算
机器学习
摘要
我们提出一种算子学习方法，用于加速求解无限维贝叶斯反问题（BIPs）的几何马尔可夫链蒙特卡罗（MCMC）方法。几何MCMC虽然能生成适应后验局部几何结构的高质量提议，但需要反复计算对数似然的梯度与Hessian矩阵，当参数到观测量（PtO）映射通过求解代价高昂的参数化偏微分方程（PDEs）定义时，这种计算变得难以承受。我们考虑一种由PtO映射的神经算子代理驱动的延迟接受几何MCMC方法，其中提议利用代理对对数似然及其梯度和Hessian矩阵的快速预测。为实现显著加速，代理必须精确逼近PtO映射及其雅可比矩阵，而采用传统算子学习方法通常需要数量庞大的PtO映射样本。本文中，我们提出导数信息算子学习[O'Leary-Roseberry et al., J. Comput. Phys., 496 (2024)]的一种扩展，利用PtO映射及其雅可比矩阵的联合样本。由此得到的导数信息神经算子（DINO）代理能以远低于传统方法的训练成本，准确预测观测量和后验局部几何结构。我们给出了约化基DINO代理的成本与误差分析。数值研究表明，DINO驱动的MCMC生成有效后验样本的速度比几何MCMC快3–9倍，比基于先验几何的MCMC快60–97倍。此外，仅需10–25个有效后验样本，DINO代理的训练成本即可与几何MCMC达到盈亏平衡。
引用
@article{arxiv.2403.08220,
title = {Derivative-informed neural operator acceleration of geometric MCMC for infinite-dimensional Bayesian inverse problems},
author = {Lianghao Cao and Thomas O'Leary-Roseberry and Omar Ghattas},
journal= {arXiv preprint arXiv:2403.08220},
year = {2024}
}
备注
Updated manuscript: changed title, changed format, typo correction, and minor terminology changes