中文

B-LSTM-MIONet:基于贝叶斯 LSTM 的神经算子用于学习复杂动力系统对长度可变多输入函数的响应

机器学习 2023-11-30 v2 数值分析 数值分析

摘要

深度算子网络(DeepONet)是一种用于学习非线性算子的神经网络框架,例如描述复杂系统的常微分方程(ODEs)中的算子。多输入深度神经算子(MIONet)扩展了 DeepONet,以允许不同巴拿赫空间中的多个输入函数。MIONet 在训练数据集网格间距上具有灵活性,且对输出位置无约束。然而,它需要离线输入,且无法处理测试数据集中变化的序列长度,限制了其在动态复杂系统中的实时应用。本工作重新设计 MIONet,集成长短期记忆(LSTM)以从时变数据中学习神经算子。该方法克服了数据离散化约束,并利用了 LSTM 处理变长实时数据的能力。文中给出了影响学习性能的因素,如算法外推能力。该框架通过一种新颖的贝叶斯方法增强不确定性量化,从 MIONet 参数分布中采样。因此,我们开发了 B-LSTM-MIONet,将 LSTM 的时间优势与贝叶斯鲁棒性相结合,从而针对含噪数据集得到更精确可靠的模型。

关键词

引用

@article{arxiv.2311.16519,
  title  = {B-LSTM-MIONet: Bayesian LSTM-based Neural Operators for Learning the Response of Complex Dynamical Systems to Length-Variant Multiple Input Functions},
  author = {Zhihao Kong and Amirhossein Mollaali and Christian Moya and Na Lu and Guang Lin},
  journal= {arXiv preprint arXiv:2311.16519},
  year   = {2023}
}