通过直接配点法和非线性规划高效训练物理增强神经常微分方程
机器学习
2025-08-07 v2 动力系统
最优化与控制
摘要
我们提出了一种通过将训练过程表述为动态优化问题来训练物理增强神经常微分方程（PeN-ODE）的新方法。包含神经组件的完整模型使用具有翻转勒让德-高斯-拉道点的高阶隐式龙格-库塔方法进行离散化，从而形成一个大规模非线性规划（NLP），该规划可由诸如Ipopt等最先进的NLP求解器高效求解。此公式允许同时优化网络参数和状态轨迹，解决了基于ODE求解器的训练在稳定性、运行时间和精度方面的关键限制。在最近基于直接配位法的神经常微分方程方法基础上，我们将其推广到PeN-ODE，融入物理约束，并提供了一个定制的、并行化的开源实现。在四分之一车辆模型和范德波尔振荡器上的基准测试表明，与其他训练技术相比，该方法在使用更小网络的情况下，具有更优的精度、速度和泛化能力。我们还概述了将其集成到OpenModelica中的计划，以实现对神经常微分代数方程的可访问训练。
引用
@article{arxiv.2505.03552,
title = {Efficient Training of Physics-enhanced Neural ODEs via Direct Collocation and Nonlinear Programming},
author = {Linus Langenkamp and Philip Hannebohm and Bernhard Bachmann},
journal= {arXiv preprint arXiv:2505.03552},
year = {2025}
}
备注
17 pages, 10 figures, accepted to 16th International Modelica & FMI Conference