中文

SplitGNN:基于异构注意力拆分 GNN 的节点分类方法

机器学习 2023-01-31 v1 人工智能

摘要

随着隐私泄露的频繁发生以及各国隐私法的颁布,数据所有者不愿直接与其他任何一方共享其原始数据和标签。现实中,大量此类原始数据存储在图数据库中,尤其是在金融领域。对于协同构建图神经网络(GNN),联邦学习(FL)对于以隐私和效率为主要关注的纵向划分设置可能并非理想选择。此外,几乎所有现有的联邦 GNN 主要面向同构图设计,其将各类关系简化为同一类型,因而极大限制了性能。我们通过提出一种基于拆分学习的 GNN(SplitGNN)来弥补这一差距,该模型被划分为两个子模型:本地 GNN 模型包含所有与私有数据相关的计算以生成本地节点嵌入,而全局模型通过聚合所有参与方的本地嵌入来计算全局嵌入。我们的 SplitGNN 允许协同利用孤立的异构邻域。为更好地捕获表示,我们提出一种新颖的异构注意力(HAT)算法,并使用基于节点和基于路径的注意力机制来学习具有多跳关系特征的各类节点和边。我们在两个标准公开数据集和真实世界数据集的节点分类任务上展示了 SplitGNN 的有效性。大量实验结果验证了我们提出的 SplitGNN 显著优于最先进(SOTA)方法。

关键词

引用

@article{arxiv.2301.12885,
  title  = {SplitGNN: Splitting GNN for Node Classification with Heterogeneous Attention},
  author = {Xiaolong Xu and Lingjuan Lyu and Yihong Dong and Yicheng Lu and Weiqiang Wang and Hong Jin},
  journal= {arXiv preprint arXiv:2301.12885},
  year   = {2023}
}

备注

CIKM-2022 1st FedGraph workshop