面向无图客户端的联邦图学习
机器学习
2024-11-14 v1 分布式、并行与集群计算
摘要
联邦图学习(FGL)旨在为多个客户端训练机器学习模型(如图神经网络(GNNs))，每个客户端拥有自己的图数据。现有方法通常假设每个客户端同时拥有其图数据的节点特征和图结构。然而，在现实场景中，存在联邦系统其中仅部分客户端拥有此类数据，而其他客户端(即无图客户端)可能仅拥有节点特征。这自然导致了FGL中的一个新问题：如何在分布式图数据上联合训练模型，同时包含无图客户端？本文提出了一个新框架FedGLS来解决带有无图客户端的FGL问题。在FedGLS中，我们在每个无图客户端设计了一个局部图学习器，利用从其他客户端迁移的结构知识学习局部图结构。为了实现结构知识迁移，我们在每个客户端设计了一个GNN模型和一个特征编码器。在局部训练期间，特征编码器通过知识蒸馏与GNN模型一起保留局部图结构知识，结构知识在全局更新中在客户端间迁移。大量实验证明了所提FedGLS优于五个基线。
引用
@article{arxiv.2411.08374,
title = {Federated Graph Learning with Graphless Clients},
author = {Xingbo Fu and Song Wang and Yushun Dong and Binchi Zhang and Chen Chen and Jundong Li},
journal= {arXiv preprint arXiv:2411.08374},
year = {2024}
}
备注
Accepted by Transactions on Machine Learning Research (TMLR)