中文

用于流体仿真的 Kronecker 乘积加速高效稀疏高斯过程(E-SGP)

机器学习 2023-12-18 v1

摘要

在本文中,我们引入了一种高效稀疏高斯过程(E-SGP),用于流体力学的代理建模。这种新颖的贝叶斯机器学习算法允许使用不同结构的数据库进行高效的模型训练。它是近似稀疏 GP 算法的进一步发展,结合了高效 GP(E-GP)和变分能量自由稀疏高斯过程(VEF-SGP)的概念。所开发的 E-SGP 方法利用了诱导点的任意性以及 VEF-SGP 中目标函数相对于诱导点数量单调递增的特性。通过将诱导点指定在正交网格/输入子空间上并使用 Kronecker 乘积,E-SGP 显著提高了计算效率,且未对协方差矩阵施加任何约束或增加训练期间需要优化的参数数量。本文开发的 E-SGP 算法不仅在可扩展性方面优于 E-GP,而且在平均标准化对数损失(MSLL)方面的模型质量也更优。随着结构化训练数据库的增长,E-GP 的计算复杂度受制于立方级增长。然而,当模型分辨率(即诱导点数量)保持固定时,E-SGP 维持了计算效率。算例表明,当两者模型分辨率相似时,与 E-GP 相比,E-SGP 产生了更准确的预测。E-GP 受益于更多的训练数据,但伴随着更高的计算需求,而 E-SGP 达到了相当的准确度但计算效率更高,这使得 E-SGP 成为流体力学问题的潜在首选。此外,E-SGP 能够产生更合理的模型不确定性估计,而 E-GP 更可能产生过度自信的预测。

关键词

引用

@article{arxiv.2312.10023,
  title  = {A Kronecker product accelerated efficient sparse Gaussian Process (E-SGP) for flow emulation},
  author = {Yu Duan and Matthew Eaton and Michael Bluck},
  journal= {arXiv preprint arXiv:2312.10023},
  year   = {2023}
}