基于贝叶斯尖峰-板先验与高效核的方程发现方法
机器学习
2024-04-23 v2 机器学习
摘要
从数据中发现控制方程对许多科学与工程应用十分重要。尽管已有令人鼓舞的成功,现有方法仍受数据稀疏与噪声问题的挑战,而这两者在实践中无处不在。此外,最先进的方法缺乏不确定性量化和/或训练成本高昂。为克服这些局限,我们提出了一种基于核学习与贝叶斯尖峰-板先验(KBASS)的新颖方程发现方法。我们使用核回归来估计目标函数,其灵活、具表达力,且对数据稀疏与噪声更鲁棒。我们将其与贝叶斯尖峰-板先验——一种理想的贝叶斯稀疏分布——结合,以进行有效算子选择与不确定性量化。我们开发了期望传播期望最大化(EP-EM)算法以进行高效后验推断与函数估计。为克服核回归的计算挑战,我们将函数值置于网格上并导出克罗内克积构造,且使用张量代数以实现高效计算与优化。我们在一系列基准ODE与PDE发现任务上展示了KBASS的优势。
引用
@article{arxiv.2310.05387,
title = {Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels},
author = {Da Long and Wei W. Xing and Aditi S. Krishnapriyan and Robert M. Kirby and Shandian Zhe and Michael W. Mahoney},
journal= {arXiv preprint arXiv:2310.05387},
year = {2024}
}