基于边-节点注意力的无差别池化：图神经网络中的 ENADPool
机器学习
2024-05-17 v1 人工智能
摘要
图神经网络（GNN）是图分类的强大工具。图神经网络的一个重要操作是能够从节点表示中学习有效嵌入的下采样或池化操作。本文提出了一种新的层次池化操作，称为基于边-节点注意力的无差别池化（ENADPool），用于图神经网络以学习有效的图表示。不同于基于不明确节点分配且仅对每个簇的节点特征简单计算平均值的经典层次池化操作， proposed ENADPool 不仅采用硬聚类策略将每个节点分配到唯一的簇中，还在每次池化步骤后基于注意力机制，将节点特征及其边连接强度压缩到 resulting hierarchical structure 中。结果是，proposed ENADPool 同时识别每个分离簇中不同节点的重要性以及对应簇之间边的重要性，这显著解决了经典层次池化操作中统一边-节点基于结构信息聚合的局限性。此外，为了缓解现有图神经网络中出现的过平滑问题，我们提出了一种与 proposed ENADPool 操作关联的多距离图神经网络（MD-GNN）模型，使节点能够主动且直接接收来自不同随机游走步骤邻居的特征信息。实验表明，与 proposed ENADPool 关联的 MD-GNN 的有效性。
引用
@article{arxiv.2405.10218,
title = {ENADPool: The Edge-Node Attention-based Differentiable Pooling for Graph Neural Networks},
author = {Zhehan Zhao and Lu Bai and Lixin Cui and Ming Li and Yue Wang and Lixiang Xu and Edwin R. Hancock},
journal= {arXiv preprint arXiv:2405.10218},
year = {2024}
}