面向动力系统元学习的神经上下文流
机器学习
2025-09-30 v6 动力系统
摘要
神经常微分方程（Neural Ordinary Differential Equations, NODEs）在适应由底层物理系统参数变化引起的新动态行为时常常遇到困难，即使这些动态与先前观察到的行为相似。当变化的参数不可观测时，即收集数据时无法直接测量其值或影响，这个问题变得更具挑战性。为了解决这个问题，我们引入了神经上下文流（Neural Context Flow, NCF），这是一个包含不确定性估计的鲁棒且可解释的元学习框架。NCF 使用泰勒展开来实现上下文自调制，允许上下文向量影响来自其他领域的动态，同时也调制自身。在建立理论保证后，我们对 NCF 进行了实证测试，并将其与相关的自适应方法进行了比较。我们的结果表明，在 6 个线性和非线性基准问题中的 5 个上，NCF 实现了最先进的分布外性能。通过大量实验，我们探索了 NCF 灵活的模型架构以及学习到的上下文向量中编码的表示。我们的发现强调了 NCF 对物理科学基础模型的潜在影响，为提高 NODEs 在各种科学应用中的适应性和泛化能力提供了一种有前景的方法。我们的代码已在 https://github.com/ddrous/ncflow 公开。
引用
@article{arxiv.2405.02154,
title = {Neural Context Flows for Meta-Learning of Dynamical Systems},
author = {Roussel Desmond Nzoyem and David A. W. Barton and Tom Deakin},
journal= {arXiv preprint arXiv:2405.02154},
year = {2025}
}
备注
Accepted as a conference paper at ICLR 2025