中文

语言模型作为信使:增强异配图学习中的消息传递

人工智能 2026-03-02 v2

摘要

图神经网络(GNN)已成为图表示学习的标准范式,然而其消息传递机制隐式地假设消息可以由源节点嵌入表示,这一假设在异配图中并不成立。现有方法尝试通过图结构优化或调整邻居聚合来解决异配性问题,但往往忽略了节点文本的语义潜力,依赖于次优的消息表示进行传播,从而损害了在同配图上的性能。为了解决这些局限性,我们提出了 LEMP4HG,一种用于异配图学习的、基于语言模型(LM)增强的新型消息传递方法。具体而言,对于文本属性图(TAG),我们利用 LM 从成对的节点文本中显式建模节点间语义关系,为传播合成具有语义信息的消息。为了确保实际效率,我们进一步引入了一种由定制启发式方法 MVRD 引导的、基于主动学习的策略,该策略选择性地增强受消息传递影响最大的节点对的消息。大量实验表明,LEMP4HG 在异配图上始终优于现有最先进的方法,同时在同配图上保持稳健的性能,且计算预算切实可行。

关键词

引用

@article{arxiv.2505.19762,
  title  = {Language Models as Messengers: Enhancing Message Passing in Heterophilic Graph Learning},
  author = {Dawei Cheng and Wenjun Wang and Mingjian Guang},
  journal= {arXiv preprint arXiv:2505.19762},
  year   = {2026}
}