中文

图排序注意力网络

机器学习 2022-11-22 v3

摘要

图神经网络(GNNs)已成功应用于许多涉及图结构数据的问题,取得了最先进的性能。GNNs通常采用消息传递机制,其中每个节点使用置换不变聚合函数从邻居聚合信息。均值或求和聚合函数等经过充分检验的标准选择能力有限,因为它们无法捕捉邻居之间的交互。在这项工作中,我们使用一个信息论框架形式化这些交互,该框架显著包含了协同信息。受此定义驱动,我们引入了图排序注意力(GOAT)层,这是一种新颖的GNN组件,可捕捉邻域内节点之间的交互。这是通过注意力机制学习局部节点排序,并使用循环神经网络聚合器处理有序表示来实现的。该设计使我们能够利用置换敏感的聚合器,同时保持所提出的GOAT层的置换等变性。GOAT模型在建模捕捉复杂信息的图度量(如节点的介数中心性和有效规模)方面展示了其提升的性能。在实际用例中,其在多个真实世界节点分类基准上的成功证实了其优越的建模能力。

关键词

引用

@article{arxiv.2204.05351,
  title  = {Graph Ordering Attention Networks},
  author = {Michail Chatzianastasis and Johannes F. Lutzeyer and George Dasoulas and Michalis Vazirgiannis},
  journal= {arXiv preprint arXiv:2204.05351},
  year   = {2022}
}

备注

Accepted at AAAI 2023