中文

通过可学习结构增强和结构自注意力消除图表示学习中的度偏差

人工智能 2025-04-22 v1 机器学习

摘要

图神经网络(GNN)通过消息传递更新节点表示,这主要基于同伪原则,假设相邻节点共享相似特征。然而,在具有长尾度分布的真实图中,高度节点主导消息传递,导致度偏差,使得因消息不足而不被充分表示的低度节点受到影响。解决度偏差的主要挑战在于如何发现非相邻节点以为低度节点提供额外消息,同时减少对高度节点的过度消息。尽管如此,利用非相邻节点提供有价值的消息仍然具有挑战性,因为这可能生成噪声信息并破坏原始图结构。为此,我们提出一种新颖的度均衡图转换器,名为 DegFairGT,通过可学习的结构增强和结构自注意力来消除度偏差。我们的核心思想是利用在同一社区中具有相似角色的非相邻节点以生成信息性边缘的方式,这可以在保持社区内部同伪原则的同时,在具有相似角色的节点之间提供有信息的消息。为使 DegFairGT能够学习此类结构相似性,我们提出了结构自注意力机制来捕捉节点对之间的相似性。为保持全局图结构并防止图增强阻碍图结构,我们提出了一个自监督学习任务,以保存 p 步转移概率并对图增强进行正则化。在六个数据集上的大量实验表明,DegFairGT 在度均衡分析、节点分类和节点聚类任务中均优于最先进的基线方法。

关键词

引用

@article{arxiv.2504.15075,
  title  = {Mitigating Degree Bias in Graph Representation Learning with Learnable Structural Augmentation and Structural Self-Attention},
  author = {Van Thuy Hoang and Hyeon-Ju Jeon and O-Joun Lee},
  journal= {arXiv preprint arXiv:2504.15075},
  year   = {2025}
}

备注

Accepted at IEEE TNSE