将 LLM 作为图核：重新思考文本丰富图上的消息传递
机器学习
2026-05-12 v3 计算与语言
摘要
文本丰富图将复杂的结构依赖与丰富的文本信息相结合，虽处处可见，但仍然为现有学习范式所难以应对。传统方法甚至即便是 LLM 混合方法，也会将丰富文本压缩为静态嵌入或摘要，然后进行结构推理，造成信息瓶颈，并使更新脱离原始内容。我们认为，在文本丰富图中，文本不仅仅是节点属性，而是通过其呈现方式显现结构关系的主要媒介。我们引入了 RAMP（Raw-text Anchored Message Passing）方法，超越将 LLM 仅用作特征提取器，重新将 LLM 本身视为图内聚合算子。RAMP 通过一种新颖的双表示方案利用文本丰富的图特性：它在每个迭代步骤中以原始文本为锚点进行推断，同时传递来自邻居的动态优化消息。它进一步在统一的生成式公式下处理判别性和生成式任务。广泛的实验表明，RAMP 有效地在图传播和深度文本推理之间搭建了桥梁，实现了竞争性能，并为 LLM 作为通用图学习图核的作用提供了新见解。
引用
@article{arxiv.2603.14937,
title = {LLM as Graph Kernel: Rethinking Message Passing on Text-Rich Graphs},
author = {Ying Zhang and Hang Yu and Haipeng Zhang and Peng Di},
journal= {arXiv preprint arXiv:2603.14937},
year = {2026}
}
备注
23 pages, 5 figures