基于循环神经网络的无模型未知参数动力系统变分推断模拟方法
机器学习
2021-03-01 v2 神经与进化计算
计算物理
摘要
我们提出了一种用于未知参数动力系统“无模型”模拟的循环神经网络，无需先验知识。该深度学习模型旨在从时间序列数据集中联合学习非线性时间推进算子与未知参数的影响。我们假设时间序列数据集由一系列参数范围内的轨迹集合组成。通过将未知参数视为随机变量，该学习任务被表述为一个统计推断问题。引入一个潜变量来建模未知参数的影响，并采用变分推断方法同时训练时间推进算子的概率模型与潜变量的近似后验分布。与经典变分推断使用因子化分布来近似后验不同，我们采用一个前馈神经网络并辅以编码循环神经网络，以构建更灵活的概率模型。近似后验分布对一条轨迹进行推断，以识别未知参数的影响。时间推进算子由循环神经网络近似，该网络将采自近似后验分布的潜状态作为输入变量之一，以计算在潜变量条件下概率分布的时间演化。数值实验表明，所提出的变分推断模型比标准循环神经网络模拟更准确。研究发现，该深度学习模型能够正确识别随机参数的维度并学习复杂时间序列数据的表示。
引用
@article{arxiv.2003.01184,
title = {Variational inference formulation for a model-free simulation of a dynamical system with unknown parameters by a recurrent neural network},
author = {Kyongmin Yeo and Dylan E. C. Grullon and Fan-Keng Sun and Duane S. Boning and Jayant R. Kalagnanam},
journal= {arXiv preprint arXiv:2003.01184},
year = {2021}
}