平衡 Neural ODE：非线性模型序简化与库夫曼算子近似
机器学习
2025-02-27 v4 机器学习
摘要
变分自编码器 (VAE) 是一种强大的框架，用于学习低维潜在表示，而 Neural ODE 在学习瞬态系统动力学方面表现出色。本工作将两者的优势结合起来，生成可调复杂度的快速 surrogate 模型，以响应时间变化的输入信号。通过利用 VAE 进行降维，其采用非层次先验，能够自适应分配随机噪声，这在很大程度上补充了已知 NeuralODE 训练增强措施，使其能够进行概率时间序列建模。我们指出，标准的 Latent ODE 在处理输入信号随时间变化的系统时在降维方面存在挑战。我们的做法通过时间连续传递变分参数，建立潜在空间中的固定信息通道，从而实现灵活且稳健的方法，能够学习不同系统复杂度，例如深度神经网络或线性矩阵。通过这种方式，我们能够在无需预定义其维度的情况下高效近似库夫曼算子。由于我们的方法在降维和重构精度之间取得平衡，我们将其称为平衡 Neural ODE (B-NODE)。我们在多个学术和实际测试案例中展示了该方法的有效性，例如电厂或 MuJoCo 数据。
关键词
引用
@article{arxiv.2410.10174,
title = {Balanced Neural ODEs: nonlinear model order reduction and Koopman operator approximations},
author = {Julius Aka and Johannes Brunnemann and Jörg Eiden and Arne Speerforck and Lars Mikelsons},
journal= {arXiv preprint arXiv:2410.10174},
year = {2025}
}
备注
conference paper acctepd at ICLR 2025 Singapore