基于同伦的NeuralODE训练用于精确动力学发现
机器学习
2024-01-24 v6 动力系统
最优化与控制
应用物理
摘要
神经常微分方程(NeuralODEs)提供了一种从时间序列数据中提取动力学定律的吸引人方式,因为它们将神经网络与物理科学的基于微分方程的建模范式联系起来。然而,这些模型常表现出长训练时间与次优结果,尤其对于较长时间的数据。虽然文献中一种常见策略对NeuralODE架构施加强约束以内在地促进稳定的模型动力学,但此类方法不适合动力学发现,因为未知的控制方程不能保证满足所假设的约束。本文中,我们基于同步与同伦优化开发了一种新的NeuralODE训练方法,不需要改变模型架构。我们展示同步模型动力学与训练数据驯服了原本不规则的损失景观,同伦优化可随后利用之以增强训练。通过基准实验,我们证明我们的方法取得了有竞争力或更优的训练损失,同时与其他模型无关技术相比通常所需训练轮数少于一半。此外,用我们的方法训练的模型展现出更好的外推能力,突出了我们方法的有效性。
引用
@article{arxiv.2210.01407,
title = {Homotopy-based training of NeuralODEs for accurate dynamics discovery},
author = {Joon-Hyuk Ko and Hankyul Koh and Nojun Park and Wonho Jhe},
journal= {arXiv preprint arXiv:2210.01407},
year = {2024}
}
备注
10 pages, 5 figures, accepted at NeurIPS2023 (https://neurips.cc/virtual/2023/poster/70313)