线性化将神经算子转化为函数值高斯过程
机器学习
2025-02-03 v2 机器学习
摘要
神经算子将神经网络推广到从数据中学习函数空间之间的映射。它们常用于学习参数偏微分方程 (PDE) 的解算子或时变 PDE 的传播算子。然而，要使其在高风险模拟场景中实用，必须可靠地量化其固有的预测误差。我们引入 LUNO，一种用于训练后神经算子 approximate Bayesian 不确定性量化的新框架。我们的方法利用模型线性化将 (高斯) 权空间不确定性推前至神经算子预测。我们展示，这可解释为函数编程中 currying 概念的概率版本，yielding 一个 function-valued (高斯) random process belief。我们的框架提供了一种实用且理论上可靠的方法，将现有的 Bayesian 深度学习方法（如线性化 Laplace 近似）应用于神经算子。正如底层神经算子本身，our 方法也具备解析度不可变的特性。该方法对预测开销最小， 可后置地应用而无需重新训练网络，并且可扩展到大型模型和数据集。我们在 Fourier 神经算子上的案例研究评估了这些方面。
引用
@article{arxiv.2406.05072,
title = {Linearization Turns Neural Operators into Function-Valued Gaussian Processes},
author = {Emilia Magnani and Marvin Pförtner and Tobias Weber and Philipp Hennig},
journal= {arXiv preprint arXiv:2406.05072},
year = {2025}
}