基于神经离散学习与专家层级的时空动力系统建模
机器学习
2024-02-12 v1 人工智能
摘要
在本文中，我们解决了基于如视频帧等观测序列对时空动力系统状态变化进行建模和估计的问题。传统的数值模拟系统在很大程度上依赖于初始设置和构建的偏微分方程（PDE）的正确性。尽管最近在利用神经网络发现数据驱动PDE方面取得了显著成功，但单一场景的局限性和局部洞察的缺失使其无法在更广泛的现实场景中有效发挥作用。为此，本文提出了通用专家模块——即光流估计组件，以数据驱动的方式捕捉一般物理过程的演化规律。为了增强局部洞察力，我们精心设计了更细粒度的物理流程，因为局部特征可能受各种内部上下文信息影响，这可能与整个系统的宏观属性相矛盾。此外，我们利用当前流行的神经离散学习在其潜在空间中揭示底层的重要特征，这一过程更好地注入了可解释性，能帮助我们在这些离散随机变量上获得强大的先验。我们进行了广泛的实验和消融研究，证明与现有的SOTA基线相比，所提出的框架取得了巨大的性能优势。
引用
@article{arxiv.2402.05970,
title = {Modeling Spatio-temporal Dynamical Systems with Neural Discrete Learning and Levels-of-Experts},
author = {Kun Wang and Hao Wu and Guibin Zhang and Junfeng Fang and Yuxuan Liang and Yuankai Wu and Roger Zimmermann and Yang Wang},
journal= {arXiv preprint arXiv:2402.05970},
year = {2024}
}