利用社区结构缓解消息传递机制中的度偏差

本研究利用社区结构，通过可学习的图增强和新型图 Transformer 来解决消息传递（MP）中的节点度偏差问题。近期基于增强的方法表明，MP 神经网络在低度节点上通常表现不佳，由于低度节点缺乏接收到的消息而导致度偏差。尽管取得了成功，但大多数方法使用启发式或均匀随机增强，这些方法不可微，且可能并不总是为学习表示生成有价值的边。在本文中，我们提出了社区感知图 Transformer（Community-aware Graph Transformers，CGT），通过提取社区内部结构，基于可学习的增强和图 Transformer 来学习无度偏差的表示。我们首先设计了一种可学习的图增强，通过边扰动生成更多连接低度节点的社区内部边。其次，我们提出了一种改进的自注意力机制，以学习潜在的邻近关系以及节点在社区内的角色。第三，我们提出了一项自监督学习任务，能够学习表示以保留全局图结构并正则化图增强。在多个基准数据集上的广泛实验表明，CGT 优于最先进的基线方法，并显著改善了节点度偏差。源代码可在 https://github.com/NSLab-CUK/Community-aware-Graph-Transformer 获取。