中文

FedASTA:用于交通流预测的联邦自适应时空注意力

机器学习 2024-11-05 v2 人工智能 分布式、并行与集群计算

摘要

如今,移动设备和物联网设备生成大量异构时空数据。在隐私关注下对时空动态进行建模仍是一个具有挑战性的问题。联邦学习被提出作为一种框架,能够在不共享原始数据的情况下跨分布式设备进行模型训练,从而降低隐私担忧。个性化联邦学习方法进一步解决了数据异构问题。然而,这些方法没有考虑节点间的自然空间关系。为了对空间关系进行建模,已有研究提出了基于图神经网络的联邦学习方法。但边缘节点间的动态时空关系未被纳入考虑。一些方法在集中式环境中对时空动态进行建模,而在联邦设置下的努力则较少。为了克服这些挑战,我们提出了一种新颖的联邦自适应时空注意力框架来对动态时空关系进行建模。在客户端节点上,FedASTA 从原始时间序列的分解项中提取时间关系和趋势模式。然后,在服务器节点上,FedASTA 利用来自客户端的趋势模式构建自适应时空感知图,以捕获客户端间的动态相关性。此外,我们设计了一个结合静态图和所构建的自适应图的掩码空间注意力模块,以对客户端间的空间依赖性进行建模。在五个真实世界的公开交通流数据集上的大量实验表明,我们的方法在联邦场景中达到了最先进的性能。此外,在集中式设置下进行的实验表明,与其他流行的动态时空感知方法相比,我们新颖的自适应图构建方法具有有效性。

关键词

引用

@article{arxiv.2405.13090,
  title  = {FedASTA: Federated adaptive spatial-temporal attention for traffic flow prediction},
  author = {Kaiyuan Li and Yihan Zhang and Huandong Wang and Yan Zhuo and Xinlei Chen},
  journal= {arXiv preprint arXiv:2405.13090},
  year   = {2024}
}