BI-EqNO：基于等变神经算子框架的广义近似贝叶斯推断
机器学习
2024-10-23 v1 机器学习
计算物理
摘要
贝叶斯推断提供了一种基于贝叶斯定理根据新数据更新先验信念的稳健框架，但精确推断常常在计算上不可行， necessitating近似方法。虽然这些方法广泛使用，但它们 struggles to accurately估计边际似然，尤其是由于像高斯过程这类确定性模型的刚性函数结构，以及像ensemble Kalman方法这类随机模型中小样本大小的限制。在本文中，我们引入了BI-EqNO，这是一种用于广义近似贝叶斯推断的等变神经算子框架，旨在增强确定性和随机方法。BI-EqNO通过数据驱动训练将先验转换为以观测数据为条件的后验。该框架灵活，支持多样化的先验和后验表示，具有任意离散化和不同数量的观测。关键的是，BI-EqNO的架构确保(1)先验表示与后验表示之间具有置换等变性，(2)相对于观测数据的置换不变性。我们通过两个示例展示了BI-EqNO的实用性：(1)作为广义高斯过程(gGP)用于回归，(2)作为ensemble神经滤波器(EnNF)用于顺序数据同化。结果表明，gGP在表示协方差函数方面优于传统高斯过程，提供了更灵活的表示。此外，EnNF不仅在小样本集tings下优于ensemble Kalman滤波器，还可能作为“超”ensemble滤波器，能够代表并整合多个ensemble滤波器以实现更佳的同化性能。这一研究突显了BI-EqNO的灵活性和有效性，通过数据驱动训练改进贝叶斯推断，同时在各种应用中降低计算成本。
引用
@article{arxiv.2410.16420,
title = {BI-EqNO: Generalized Approximate Bayesian Inference with an Equivariant Neural Operator Framework},
author = {Xu-Hui Zhou and Zhuo-Ran Liu and Heng Xiao},
journal= {arXiv preprint arXiv:2410.16420},
year = {2024}
}