超越前缀:面向大语言模型知识图谱补全的图即记忆交叉注意力
人工智能
2026-03-06 v2 计算与语言
摘要
将知识图谱与大语言模型(LLMs)相融合,对知识图谱补全等知识密集型任务至关重要。现有的基于 LLM 的方法通常通过前缀拼接注入图信息,导致交互浅层,无法在生成过程中支持细粒度的证据检索。我们超越前缀,提出图即记忆调优(Graph-as-Memory Tuning, GMT),一种将局部图结构表示为显式图记忆并通过深度、逐 token 的交叉注意力注入 LLM 的新范式。具体而言,GMT 首先采用语义图模块,在知识增强关系的引导下从局部邻域编码上下文感知语义,并将其压缩为固定数量的图记忆 token。随后,图即记忆交叉注意力融合模块将这些 token 集成到多个 Transformer 层中,使 LLM 隐藏状态能够动态检索相关图证据。为实现高效适配,GMT 仅对记忆交叉注意力应用 LoRA,而保持基础 LLM 冻结。大量实验表明,GMT 显著优于前缀调优及其他强基线,为稳健推理提供了更强信号。代码已发布于 https://github.com/tongruiliu/GMT。
引用
@article{arxiv.2510.08966,
title = {Beyond Prefixes: Graph-as-Memory Cross-Attention for Knowledge Graph Completion with Large Language Models},
author = {Ruitong Liu and Boxu Lin and Peize Li and Siyuan Li and Yunjia Wu and Te Sun and Chaohan Wu},
journal= {arXiv preprint arXiv:2510.08966},
year = {2026}
}