ASFGNN:自动化分离式联邦图神经网络
机器学习
2020-11-09 v1 分布式、并行与集群计算
摘要
图神经网络(GNNs)利用图数据取得了卓越性能。GNN 模型的成功通常依赖于丰富的特征与邻接关系。然而在实践中,此类数据常由不同数据拥有者(客户端)隔离,因而很可能为非独立同分布(Non-IID)。同时,考虑到数据拥有者有限的网络状况,协同学习方法的超参数优化在数据隔离场景下十分耗时。为解决这些问题,我们提出一种自动化分离式联邦图神经网络(ASFGNN)学习范式。ASFGNN 包含两个主要组件,即 GNN 的训练与超参数的调优。具体而言,为解决数据 Non-IID 问题,我们首先提出分离式联邦 GNN 学习模型,将 GNN 的训练解耦为两部分:由客户端分别完成的消息传递部分,以及由客户端联邦学习的损失计算部分。为处理耗时的参数调优问题,我们利用贝叶斯优化技术自动调优所有客户端的超参数。我们在基准数据集上实验,结果表明 ASFGNN 在精度与参数调优效率上均显著优于朴素联邦 GNN。
引用
@article{arxiv.2011.03248,
title = {ASFGNN: Automated Separated-Federated Graph Neural Network},
author = {Longfei Zheng and Jun Zhou and Chaochao Chen and Bingzhe Wu and Li Wang and Benyu Zhang},
journal= {arXiv preprint arXiv:2011.03248},
year = {2020}
}
备注
15 pages