中文

虚拟节点可行:应对联邦图学习中的分布迁移

机器学习 2025-02-24 v2 分布式、并行与集群计算

摘要

联邦图学习(FGL)使多个客户端能够在不共享其本地图数据的情况下联合训练强大的图学习模型,例如图神经网络(GNN),用于图相关的下游任务,如图属性预测。在现实世界中,图数据可能因客户端为不同目的收集图数据而在客户端之间受到显著的分布迁移。在特定情况下,图属性通常与跨客户端保持不变的标签相关子结构(即子图)相关联,而与标签无关的子结构可以在客户端特定的方式出现。图数据分布迁移的问题会阻碍 GNN 训练的效率,并导致 FGL 严重的性能下降。为解决上述问题,我们提出了新的 FGL 框架,称为 FedVN,通过带有多个可学习虚拟节点的客户端特定图增强策略来消除分布迁移。具体而言,FedVN 让客户端在训练全局 GNN 模型时共同学习一组共享虚拟节点。为了消除分布迁移,每个客户端训练一个 personalized edge 生成器,以确定虚拟节点如何以客户端特定的方式连接本地图。此外,我们提供的理论分析表明,FedVN 可消除跨客户端的图数据分布迁移。四个数据集在五个设置下的全面实验表明,我们提出的 FedVN 在九个基线方法上具有优势。

关键词

引用

@article{arxiv.2412.19229,
  title  = {Virtual Nodes Can Help: Tackling Distribution Shifts in Federated Graph Learning},
  author = {Xingbo Fu and Zihan Chen and Yinhan He and Song Wang and Binchi Zhang and Chen Chen and Jundong Li},
  journal= {arXiv preprint arXiv:2412.19229},
  year   = {2025}
}

备注

Accepted by AAAI 2025