中文

扩张图传播

机器学习 2022-12-22 v2 人工智能 组合数学 机器学习

摘要

在整图分类或回归任务上部署图神经网络(GNN)已知具有挑战性:它常需要计算既关注邻域局部交互又关注图结构全局上下文的节点特征。在此空间中导航的 GNN 架构需要避免病态行为,如瓶颈和过压缩,同时理想情况下应具有线性的时间与空间复杂度要求。在本工作中,我们提出一种基于在扩张图上传播信息的优雅方法。我们利用一种高效构造给定大小扩张图的方法,并借此提出 EGP 模型。我们表明 EGP 能够解决上述所有问题,同时所需设置工作量极小,并在 Open Graph Benchmark 的相关图分类数据集与基线上提供了其经验效用的证据。重要的是,使用扩张图作为消息传递模板必然产生负曲率。尽管根据近期过压缩相关工作的观点这看似反直觉,我们理论上证明负曲率的边很可能为获得无瓶颈的可扩展消息传递所必需。据我们所知,这是在图表示学习背景下此前未被研究的结果,我们相信我们的分析为对抗 GNN 中过压缩的一类新型可扩展方法铺平了道路。

关键词

引用

@article{arxiv.2210.02997,
  title  = {Expander Graph Propagation},
  author = {Andreea Deac and Marc Lackenby and Petar Veličković},
  journal= {arXiv preprint arXiv:2210.02997},
  year   = {2022}
}

备注

Presented at LoG 2022. Best Paper Award at the NeurIPS 2022 Workshop on New Frontiers in Graph Learning (GLFrontiers). 18 pages, 1 figure