eXponential FAmily Dynamical Systems (XFADS): 大规模非线性高斯状态空间建模
机器学习
2024-11-05 v4 机器学习
摘要
状态空间图模型和变分自编码器框架为从数据中学习动态系统提供了原则性的工具。最先进的概率方法通常能够扩展到大规模问题,但代价是变分后验的灵活性或动态模型的表现力。然而,如果最终目标是学习一个能够解释数据时空结构并做出准确预测的生成模型,这些折衷可能是有害的。我们引入了一个低秩结构化变分自编码框架,用于非线性高斯状态空间图模型,能够捕获对学习具有预测能力的动态系统至关重要的密集协方差结构。我们的推理算法利用了从基于样本的近似高斯消息传递和低秩摊销后验更新中自然产生的协方差结构——有效地执行近似变分平滑,时间复杂度与状态维度呈线性关系。与其他深度状态空间模型架构的比较中,我们的方法始终表现出学习更具预测性的生成模型的能力。此外,当应用于神经生理记录时,我们的方法能够学习一个动态系统,能够从单次试验的一小部分预测群体尖峰和行为相关性。
引用
@article{arxiv.2403.01371,
title = {eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling},
author = {Matthew Dowling and Yuan Zhao and Il Memming Park},
journal= {arXiv preprint arXiv:2403.01371},
year = {2024}
}