采用自适应求解器进行动力系统建模的 Neural ODE 训练实验研究
机器学习
2022-11-15 v1 混沌动力学
摘要
神经常微分方程（Neural ODEs）近年作为一类新型神经网络模型被提出，其推理与训练依赖于黑盒 ODE 求解器。部分称为自适应的 ODE 求解器可根据问题复杂度调整其评估策略，为机器学习带来广阔前景。然而，本文通过一组简单实验说明为何自适应求解器不能无缝作为黑盒用于动力系统建模。以 Lorenz'63 系统为例，我们展示朴素应用 Fehlberg 方法并未产生预期结果。此外，提出了一种简单变通方案，其假设求解器与训练策略间更紧密的交互。代码已发布于 github: https://github.com/Allauzen/adaptive-step-size-neural-ode
引用
@article{arxiv.2211.06972,
title = {Experimental study of Neural ODE training with adaptive solver for dynamical systems modeling},
author = {Alexandre Allauzen and Thiago Petrilli Maffei Dardis and Hannah Plath},
journal= {arXiv preprint arXiv:2211.06972},
year = {2022}
}
备注
Poster at the Neurips Workshop "The Symbiosis of Deep Learning and Differential Equations (DLDE) - II"