隐式神经微分模型用于时空动力学
机器学习
2025-04-04 v1 人工智能
摘要
通过可微分编程构建的混合神经-物理建模框架已成为科学机器学习中强大的工具，使我们能够将已知物理与数据驱动学习相结合，以提高预测精度和泛化能力。然而，大多数现有混合框架依赖显式循环公式，导致在长期预测期间出现数值不稳定和误差累积。本文引入 Im-PiNDiff，一种新的隐式物理集成神经可微分求解器，用于稳定和准确地建模时空动力学。灵感来自深度均衡模型，Im-PiNDiff 采用隐式固定点层，实现了稳健的长期仿真，同时保持完全可微。为实现可扩展训练，我们引入一种混合梯度传播策略，将 adjoint 状态方法与逆模式自动微分相结合。该方法消除了存储中间求解器状态的需求，使内存复杂度与求解迭代次数无关，显著降低了训练开销。我们进一步采用检查点技术来管理长期滚动仿真中的内存。在各种时空 PDE 系统上的数值实验，包括扩散-迹移过程、Burgers 动力学以及多物理化学蒸发渗透过程，表明 Im-PiNDiff 在预测性能、数值稳定性以及内存和运行时开销方面均优于显式和笨拙的隐式基线方法。本工作提供了一个原则、高效且可扩展的混合神经-物理建模框架。
引用
@article{arxiv.2504.02260,
title = {Implicit Neural Differential Model for Spatiotemporal Dynamics},
author = {Deepak Akhare and Pan Du and Tengfei Luo and Jian-Xun Wang},
journal= {arXiv preprint arXiv:2504.02260},
year = {2025}
}