中文

Kriformer:基于图变换器的时空克里金方法

机器学习 2024-09-25 v1 机器学习

摘要

准确估计传感器缺失区域的数据对于理解系统动力学(如交通状态估计和环境监测)至关重要。本研究针对稀疏传感器部署和数据不可靠性提出挑战,将问题定义为时空克里金任务,并提出一种新型图变换器模型 Kriformer。该模型通过挖掘空间和时间相关性,在有限资源下估计无传感器位置处的数据。Kriformer 利用变换器架构增强模型的感知范围,解决边缘信息聚合挑战,有效捕获时空信息。 carefully 构建的positional encoding模块嵌入节点的时空特征,而精细的时空注意力机制提高了估计精度。多头空间交互注意力模块捕捉观察位置与未观察位置之间的细微空间关系。在训练期间,随机遮蔽策略促使模型在部分信息丢失下学习,使时空嵌入和多头注意力机制能够协同捕获位置之间的相关性。实验结果表明,Kriformer 在表示学习方面在无观测位置表现出色,基于两个真实世界交通速度数据集进行验证,证明其在时空克里金任务中的有效性。

关键词

引用

@article{arxiv.2409.14906,
  title  = {Kriformer: A Novel Spatiotemporal Kriging Approach Based on Graph Transformers},
  author = {Renbin Pan and Feng Xiao and Hegui Zhang and Minyu Shen},
  journal= {arXiv preprint arXiv:2409.14906},
  year   = {2024}
}