通过重要平滑高效学习深状态空间模型
机器学习
2026-05-21 v1 人工智能
摘要
潜在状态空间系统在统计建模中十分常见，自然地出现在时间序列通过噪声测量函数观察的情形，但规模化训练深状态空间模型 (DSSM) 仍然困难。两个大体不同策略和文献围绕 DSSM 的训练展开。首先，基于变分下界优化的自编码器 DSSM 通过生成式 DSSM 训练。其次，基于经典顺序蒙特卡洦算法 (SMC) 反向传播输出的 DSSM。此类方法可用于判别和生成任务，但由于前向传递的顺序性，在现代硬件上规模受限。我们提出一种新的训练方法 "平行变分蒙特卡洞" (PVMC)，桥接两种范式，可用于判别和生成任务。我们的方法在一组基准实验中实现了最先进或更好结果，速度是最快的竞争 SMC 方法的 。
引用
@article{arxiv.2605.21108,
title = {Efficient Learning of Deep State Space Models via Importance Smoothing},
author = {John-Joseph Brady and Nikolas Nusken and Yunpeng Li},
journal= {arXiv preprint arXiv:2605.21108},
year = {2026}
}
备注
Accepted to the proceedings of ICML 2026