潜空间能量基神经常微分方程
机器学习
2025-02-06 v2 机器学习
摘要
本文提出新型深度动态模型,用于表示连续时间序列。我们采用神经发射模型通过潜状态向量的非线性变换生成时间序列中的每个数据点。这些潜状态的演化由神经普通微分方程(ODE)隐式定义,初始状态来自由能基于模型(EBM)参数化的Informative先验分布。这一框架扩展到离散动力学状态与潜在静态因子变异,后者在潜空间中表示为时间不变变量。我们采用马可夫链蒙特卡洛(MCMC)进行最大似然估计训练。在振荡系统、视频和真实状态序列(MuJoCo)上的实验表明,我们的模型在能量基先验上优于现有方法,能泛化至新的动态参数化,实现长期预测。
引用
@article{arxiv.2409.03845,
title = {Latent Space Energy-based Neural ODEs},
author = {Sheng Cheng and Deqian Kong and Jianwen Xie and Kookjin Lee and Ying Nian Wu and Yezhou Yang},
journal= {arXiv preprint arXiv:2409.03845},
year = {2025}
}