利用不确定性量化刻画和改进偏域学习中的 PDE
机器学习
2024-06-13 v2 数值分析
数值分析
摘要
现有工作在科学机器学习 (SciML) 中表明，数据驱动的解算子学习可以提供快速的经典数值偏微分方程 (PDE) 求解器的近似替代方案。其中，Neural Operators (NOs) 已成为尤为有前景的选项。我们注意到，尽管模型在领域内任务中能较好逼近解，但当面对即使是适度偏域 (OOD) 的测试输入时，several uncertainty quantification (UQ) 方法对于 NOs 仍会失效。为此，我们表明，通过对多个 NOs 进行 ensemble 能识别出高误差区域，并提供与预测误差良好相关的不确定性估计。基于此，我们提出一种成本效益较好的替代方案 DiverseNO，通过鼓励其多个 head 在最后的 feed-forward 层中获得多样化的预测，从而模拟 ensemble 的性质。随后，我们引入 Operator-ProbConserv 方法，将这些经过良好校准的 UQ 估计用于 ProbConserv 框架中，以更新模型。我们的实验结果表明，Operator-ProbConserv 在各种具有挑战性的 PDE 问题上均能提高 OOD 模型性能，并满足物理约束如守恒定律。
引用
@article{arxiv.2403.10642,
title = {Using Uncertainty Quantification to Characterize and Improve Out-of-Domain Learning for PDEs},
author = {S. Chandra Mouli and Danielle C. Maddix and Shima Alizadeh and Gaurav Gupta and Andrew Stuart and Michael W. Mahoney and Yuyang Wang},
journal= {arXiv preprint arXiv:2403.10642},
year = {2024}
}
备注
ICML 2024