个性化子图联邦学习
机器学习
2023-05-23 v3
摘要
较大全局图的子图可能分布在多个设备上，并且由于隐私限制仅能在本地访问，尽管子图之间可能存在连边。近期提出的子图联邦学习（FL）方法在处理这些本地子图间缺失连边的同时，在其上分布式训练图神经网络（GNNs）。然而，它们忽视了构成全局图不同社区的子图之间不可避免的异质性，从而坍缩了来自本地 GNN 模型的不兼容知识。为此，我们引入一个新的子图 FL 问题——个性化子图 FL，其关注相互关联的本地 GNN 的联合改进而非学习单一全局模型，并提出一个新框架 FEDerated Personalized sUBgraph learning（FED-PUB）来解决它。由于服务器无法访问各客户端的子图，FED-PUB 利用以随机图作为输入的本地 GNN 的函数嵌入来计算它们之间的相似度，并使用相似度执行服务器端聚合的加权平均。此外，它在每个客户端学习个性化稀疏掩码，以仅选择并更新聚合参数中与子图相关的子集。我们在六个数据集上验证了 FED-PUB 的子图 FL 性能，考虑了非重叠与重叠子图，其显著优于相关基线。我们的代码可在 https://github.com/JinheonBaek/FED-PUB 获取。
引用
@article{arxiv.2206.10206,
title = {Personalized Subgraph Federated Learning},
author = {Jinheon Baek and Wonyong Jeong and Jiongdao Jin and Jaehong Yoon and Sung Ju Hwang},
journal= {arXiv preprint arXiv:2206.10206},
year = {2023}
}
备注
ICML 2023