用于图型联邦学习的Inter-Intra异质性建模
机器学习
2024-12-17 v1
摘要
异质性是联邦学习中的根本且具有挑战性的问题，尤其是对于图数据而言，由于节点之间复杂的关系。为解决这一问题，已有许多方法基于计算的成对客户端（即子图）之间的相似性进行加权联邦。然而，这些方法估计的子图间相似性不可靠，因为局部模型的最终输出可能不全面地代表子图数据的真实分布。此外，这些方法忽略了通常存在于每个子图内部的关键的 intra 异质性。为解决上述问题，本文提出一种新方法，通过整体建模Inter-Intra异质性（FedIIH）。对于子图间关系，本文提出一种新颖的层次变分模型，以多层次形式推断子图数据的整个分布，从而可以准确地以全局视角刻画子图间的相似性。对于 intra 异质性，本文将子图分解为多个潜在因子，并将模型参数划分为多个部分，其中每个部分对应于单个潜在因子。我们的FedIIH不仅正确地计算了子图之间的分布相似性，还学习了对子图内部无关因子具有鲁棒性的解缠表示，从而成功地同时考虑了 inter 和 intra 异质性。在六个 homophilic 和五个 heterophilic 图数据集上进行的大量实验表明，我们的方法在与九个最先进方法进行的比较中效果显著。具体而言，FedIIH在所有heterophilic数据集上的平均性能比第二名方法高出约5.79%。
引用
@article{arxiv.2412.11402,
title = {Modeling Inter-Intra Heterogeneity for Graph Federated Learning},
author = {Wentao Yu and Shuo Chen and Yongxin Tong and Tianlong Gu and Chen Gong},
journal= {arXiv preprint arXiv:2412.11402},
year = {2024}
}
备注
accepted by AAAI 2025