基于图多重集池化的精确图表示学习
机器学习
2021-06-29 v4
摘要
图神经网络已广泛用于图数据建模，在节点分类和链接预测任务上取得令人瞩目的结果。然而，要获得图的准确表示，进一步需要一种将一组节点表示映射为紧凑形式的池化函数。对所有节点表示简单求和或平均平等对待所有节点特征而不考虑其任务相关性，以及它们之间的任何结构依赖。另一方面，近期提出的层次图池化方法可能为两个被 Weisfeiler-Lehman 测试区分的不同图产生相同表示，因为它们次优地保留了节点特征中的信息。为应对现有图池化方法的这些局限，我们首先将图池化问题表述为带有图结构辅助信息的多重集编码问题，并提出图多重集 Transformer（GMT），这是一种基于多头注意力的全局池化层，根据节点的结构依赖捕获节点间交互。我们证明 GMT 同时满足单射性与置换不变性，从而其能力至多与 Weisfeiler-Lehman 图同构测试相当。此外，我们的方法可轻松扩展至先前的节点聚类方法以进行层次图池化。实验结果表明，GMT 在图分类基准上以高内存与时间效率显著优于最先进图池化方法，并在图重建与生成任务上获得更大的性能增益。
引用
@article{arxiv.2102.11533,
title = {Accurate Learning of Graph Representations with Graph Multiset Pooling},
author = {Jinheon Baek and Minki Kang and Sung Ju Hwang},
journal= {arXiv preprint arXiv:2102.11533},
year = {2021}
}
备注
ICLR 2021