GLANCE：学习在节点感知 GNN-LLM 融合中何时利用 LLM

Donald Loveland; Yao-An Yang; Danai Koutra

GLANCE：学习在节点感知 GNN-LLM 融合中何时利用 LLM

机器学习 2025-10-14 v1

作者: Donald Loveland , Yao-An Yang , Danai Koutra

摘要

文本属性图上的学习促使使用大语言模型（LLMs）进行图学习。然而，大多数融合策略在所有节点上均匀应用，仅获得有限的整体性能提升。我们认为，这一结果源于掩盖了 LLM 在何时提供帮助的信号的聚合指标，从而抑制了新策略的可操作信号。在本工作中，我们将 LLM-GNN 融合重新框架化为聚焦于 GNNs 通常难以处理的节点。我们首先展示，性能在 GNNs 和 LLMs 之间存在显著差异，两者在不同结构模式（如局部同质性）上各有优势。为此，我们提出 GLANCE（GNN with LLM Assistance for Neighbor- and Context-aware Embeddings），一个框架用于细化 GNN 预测的 LLM。GLANCE 采用轻量级路由器，基于低成本的 per-node 信号决定是否查询 LLM。由于 LLM 调用不可微，路由器使用基于优势的目标函数训练，比较查询 LLM 的实用性与仅依赖 GNN 的效果。在多个基准测试中，GLANCE 在节点子群之间实现了最佳性能平衡，在异质性节点上实现显著提升（最高达 $+13\%$ ），同时同时取得顶级整体性能。我们的发现凸显了自适应、节点感知的 GNN-LLM 架构的价值，通过有选择地调用 LLM 实现在大型图上的可扩展部署，同时不产生高计算成本。

关键词

图神经网络大语言模型 GNN-LLM 融合节点感知 GLANCE 邻居感知嵌入上下文感知基于建议的路由

引用

@article{arxiv.2510.10849,
  title  = {Glance for Context: Learning When to Leverage LLMs for Node-Aware GNN-LLM Fusion},
  author = {Donald Loveland and Yao-An Yang and Danai Koutra},
  journal= {arXiv preprint arXiv:2510.10849},
  year   = {2025}
}

GLANCE：学习在节点感知 GNN-LLM 融合中何时利用 LLM

摘要

关键词

引用

相关论文