基于 Koopman VAE 的规则与不规则时间序列数据生成建模
机器学习
2024-05-14 v2
摘要
生成逼真的时间序列数据对许多工程与科学应用十分重要。现有工作使用生成对抗网络(GANs)解决该问题。然而,GAN 在训练时不稳定,且可能遭遇模式崩溃。尽管变分自编码器(VAEs)已知对这些问题的鲁棒性更强,但它们(令人惊讶地)较少被考虑用于时间序列生成。在本工作中,我们提出 Koopman VAE(KoVAE),一种基于模型先验新设计的生成框架,可针对规则或不规则训练数据进行优化。受 Koopman 理论启发,我们使用线性映射表示潜在条件先验动力学。我们的方法为生成建模增强了两个期望特性:(i)通过利用对线性映射特征值施加约束的谱工具,可实现领域知识的引入;(ii)可使用动力系统理论中的工具研究系统的定性行为与稳定性。我们的结果表明,在多个具有挑战性的合成与真实世界时间序列生成基准上,KoVAE 优于最先进的 GAN 与 VAE 方法。无论训练于规则还是不规则数据,KoVAE 生成的时间序列均改善了判别与预测指标。我们还给出了视觉证据,表明 KoVAE 学习到的概率密度函数能更好地逼近经验真实分布。
引用
@article{arxiv.2310.02619,
title = {Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs},
author = {Ilan Naiman and N. Benjamin Erichson and Pu Ren and Michael W. Mahoney and Omri Azencot},
journal= {arXiv preprint arXiv:2310.02619},
year = {2024}
}
备注
Accepted to The Twelfth International Conference on Learning Representations, ICLR 2024