用于高效贝叶斯推断的动力学系统物理信息机器学习
机器学习
2022-09-21 v1 机器学习
摘要
尽管无翻转采样器(NUTS)是广泛采用的贝叶斯推断方法,它需要大量后验梯度,这在实际中计算代价高昂。近来,基于物理的动力学(或哈密顿)系统机器学习受到显著关注,哈密顿神经网络(HNNs)是一种值得注意的架构。但这类架构尚未被用于高效求解贝叶斯推断问题。我们提出使用HNNs高效执行贝叶斯推断而无需大量后验梯度。我们为HNNs引入潜变量输出(L-HNNs)以提升表达力并减少积分误差。我们将L-HNNs集成进NUTS,并进一步提出在线误差监控方案,以防止在L-HNNs训练数据稀少的区域发生采样退化。我们在NUTS中结合在线误差监控演示了L-HNNs,考虑若干复杂高维后验密度,并将其性能与NUTS比较。
引用
@article{arxiv.2209.09349,
title = {Physics-Informed Machine Learning of Dynamical Systems for Efficient Bayesian Inference},
author = {Somayajulu L. N. Dhulipala and Yifeng Che and Michael D. Shields},
journal= {arXiv preprint arXiv:2209.09349},
year = {2022}
}