面向统一概率时空图学习的扩散模型
机器学习
2024-10-01 v2
摘要
时空图学习是现代城市系统中的基本问题。现有方法独立处理不同任务,使模型适应独特的任务特性。然而,这些方法不足以对时空数据中的内在不确定性进行建模。同时,它们的专门设计与当前统一时空图学习方案的研究努力不一致。在本文中,我们提出以统一的概率视角对这些任务建模,将其视为基于具有共享依赖关系的条件信息的预测。基于此提议,我们引入了统一时空扩散模型(USTD),在不确定性感知的扩散框架下统一处理这些任务。USTD 被整体设计,包含一个共享的时空编码器和特定于任务的基于注意力的去噪解码器。该编码器通过预训练策略优化,有效捕获条件时空模式。解码器利用注意力机制,通过学到的模式生成预测。选择预报和克里金作为任务,解码器被设计为针对每个任务的空间门控注意力(SGA)和时间门控注意力(TGA),对空间和时间维度有不同侧重。结合确定性编码器和概率解码器的优势,USTD 相较于确定性和概率性基线均取得了最先进的性能,同时还提供了有价值的不确定性估计。
引用
@article{arxiv.2310.17360,
title = {Towards Unifying Diffusion Models for Probabilistic Spatio-Temporal Graph Learning},
author = {Junfeng Hu and Xu Liu and Zhencheng Fan and Yuxuan Liang and Roger Zimmermann},
journal= {arXiv preprint arXiv:2310.17360},
year = {2024}
}