深度潜势力模型：基于ODE的 process convolution 用于贝叶斯深度学习
机器学习
2024-01-25 v2 机器学习
摘要
对高度非线性动力系统进行具有鲁棒不确定性量化的建模是一项具有挑战性的任务，通常需要专门设计以应对手头问题的方法。我们引入一种领域无关的模型来解决此问题，称为深度潜势力模型（DLFM），这是一种深度高斯过程，每一层具有基于物理信息的核，由常微分方程利用过程卷积框架导出。给出了DLFM的两种不同表述，分别利用基于权空间和高斯过程变分诱导点的近似，二者均适用于双重随机变分推断。我们给出了经验证据，表明DLFM能够捕捉高度非线性真实多输出时间序列数据中的动力学。此外，我们发现DLFM在基准单变量回归任务上能够达到与一系列非物理信息概率模型相当的性能。我们还从经验上评估了诱导点框架对基于LFM模型外推能力的负面影响。
引用
@article{arxiv.2311.14828,
title = {Deep Latent Force Models: ODE-based Process Convolutions for Bayesian Deep Learning},
author = {Thomas Baldwin-McDonald and Mauricio A. Álvarez},
journal= {arXiv preprint arXiv:2311.14828},
year = {2024}
}
备注
31 pages, 6 figures. Introduction and abstract updated. arXiv admin note: text overlap with arXiv:2106.05960