时空协方差神经网络
机器学习
2024-09-17 v1 机器学习
摘要
对多元时间序列中时空交互作用的建模是其有效处理的关键,但由于其不规则且通常未知的结构,这极具挑战性。数据的统计特性为建模相互依赖关系提供了有用的偏置,并被基于相关性和协方差的网络以及依赖主成分分析(PCA)的处理流程所利用。然而,当对应的特征值彼此接近时,PCA 及其时间扩展在协方差特征向量中会出现不稳定性,这使得将其应用于动态和流数据场景具有挑战性。为了解决这些问题,我们利用 PCA 与图卷积滤波器之间的类比,引入了时空协方差神经网络(STVNN),这是一种在时间序列的样本协方差矩阵上运行的关系学习模型,并利用联合时空卷积来对数据进行建模。为了适应流式和非平稳场景,我们考虑了参数和样本协方差矩阵的在线更新。我们证明了 STVNN 对这些在线估计引入的不确定性具有稳定性,从而优于基于时间 PCA 的方法。实验结果证实了我们的理论发现,并表明 STVNN 在多元时间序列处理方面具有竞争力,能够适应数据分布的变化,并且比在线时间 PCA 稳定好几个数量级。
引用
@article{arxiv.2409.10068,
title = {Spatiotemporal Covariance Neural Networks},
author = {Andrea Cavallo and Mohammad Sabbaqi and Elvin Isufi},
journal= {arXiv preprint arXiv:2409.10068},
year = {2024}
}
备注
Joint European Conference on Machine Learning and Knowledge Discovery in Databases (ECML PKDD) 2024