基于标准化流的神经函数先验变分推断：在微分方程与算子学习问题中的应用

物理信息深度学习近来已成为同时利用观测数据与可用物理定律的有效工具。物理信息神经网络（PINNs）与深度算子网络（DeepONets）是两类此类模型。前者通过自动微分编码物理定律，后者从数据中学习隐藏物理。一般而言，含噪且有限的观测数据以及神经网络（NNs）中的过参数化导致深度学习模型预测的不确定性。在 [1] 中，提出了一种基于生成对抗网络（GAN）的贝叶斯框架，作为统一模型来量化 PINNs 与 DeepONets 预测中的不确定性。具体地，[1] 中所述方法分两阶段：（1）先验学习，（2）后验估计。第一阶段，利用 GAN 从给定函数分布（如高斯过程）或历史数据与可用物理中学习函数先验。第二阶段，利用哈密顿蒙特卡洛（HMC）方法在 GAN 的潜空间估计后验。然而，原始 HMC 不支持小批量训练，限制了其在大数据问题中的应用。本工作中，我们提出在变分推断框架下使用标准化流（NF）模型，其天然支持小批量训练，作为 HMC 在 GAN 潜空间后验估计中的替代。我们开展了一系列数值实验，包括一个非线性微分方程问题与一个 100 维 Darcy 问题，表明全批量/小批量训练的 NF 均能取得与“黄金准则” HMC 相当的精度。