基于动态玻尔兹曼分布使用深度学习进行矩闭合近似
机器学习
2019-05-30 v1 机器学习
摘要
空间概率系统的矩通常由无穷层级的耦合微分方程给出。矩闭合方法通过在某些阶数处截断层级，并用低阶矩的函数替换高阶项，来近似低阶矩的子集。对于给定的系统，事先并不知道哪种闭合近似是最优的，即在当前状态下哪些高阶项是相关的。此外，这类近似的泛化能力通常较差，因为高阶修正可能在长时间尺度上变得相关。我们开发了一种利用动态玻尔兹曼分布（DBDs）直接从数据学习矩闭合近似的方法。该分布的动力学位参数化使用了有限元方法的基函数，从而该方法可在不知晓所考虑系统真实动力学的情况下应用。我们使用具有多项潜变量的深度玻尔兹曼机（DBMs）的分层架构，来学习 progressively 更高阶空间关联的闭合近似。学习算法使用了中心化变换，使得动态 DBM 无需预训练即可训练。我们在一个格点上的 Lotka-Volterra 系统（空间化学反应网络的典型例子）上演示了该方法。该方法可广泛应用于在出现无穷微分方程系统的应用中学习深度生成模型。
引用
@article{arxiv.1905.12122,
title = {Deep Learning Moment Closure Approximations using Dynamic Boltzmann Distributions},
author = {Oliver K. Ernst and Tom Bartol and Terrence Sejnowski and Eric Mjolsness},
journal= {arXiv preprint arXiv:1905.12122},
year = {2019}
}