中文

基于 Koopman VAE 的规则与不规则时间序列数据生成建模

机器学习 2024-05-14 v2

摘要

生成逼真的时间序列数据对许多工程与科学应用十分重要。现有工作使用生成对抗网络(GANs)解决该问题。然而,GAN 在训练时不稳定,且可能遭遇模式崩溃。尽管变分自编码器(VAEs)已知对这些问题的鲁棒性更强,但它们(令人惊讶地)较少被考虑用于时间序列生成。在本工作中,我们提出 Koopman VAE(KoVAE),一种基于模型先验新设计的生成框架,可针对规则或不规则训练数据进行优化。受 Koopman 理论启发,我们使用线性映射表示潜在条件先验动力学。我们的方法为生成建模增强了两个期望特性:(i)通过利用对线性映射特征值施加约束的谱工具,可实现领域知识的引入;(ii)可使用动力系统理论中的工具研究系统的定性行为与稳定性。我们的结果表明,在多个具有挑战性的合成与真实世界时间序列生成基准上,KoVAE 优于最先进的 GAN 与 VAE 方法。无论训练于规则还是不规则数据,KoVAE 生成的时间序列均改善了判别与预测指标。我们还给出了视觉证据,表明 KoVAE 学习到的概率密度函数能更好地逼近经验真实分布。

关键词

引用

@article{arxiv.2310.02619,
  title  = {Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs},
  author = {Ilan Naiman and N. Benjamin Erichson and Pu Ren and Michael W. Mahoney and Omri Azencot},
  journal= {arXiv preprint arXiv:2310.02619},
  year   = {2024}
}

备注

Accepted to The Twelfth International Conference on Learning Representations, ICLR 2024