AtlasKV：在 20GB VRAM 中扩展大型知识图谱的 LLM
计算与语言
2026-04-14 v2 人工智能
摘要
检索增强生成（RAG）已在为大型语言模型（LLM）外部知识提供增强方面取得一定成功。然而，作为 LLM 的非参数知识集成范式，RAG 方法严重依赖外部检索模块和检索到的文本上下文。尤其对于 very large scale knowledge augmentation，他们会因昂贵的搜索和更长的相关上下文而引入显著的推理延迟。本文提出一种参数化知识集成方法，称为 \textbf{AtlasKV}，一种可扩展、高效且通用的方式，通过极少的 GPU 内存成本（例如 20GB 以下）为 LLM 集成大规模知识图谱（KG）（例如 1B 三元组）。在 AtlasKV 中，我们引入 KG2KV 和 HiKVP，以亚线性时间和内存复杂度将 KG 三元组规模化地集成到 LLM 中。它通过维持 LLM 本身的注意力机制，保持强大的知识 grounding 和 generalization 性能，无需外部检索器、长上下文先验或在适应新知识时进行重新训练。
引用
@article{arxiv.2510.17934,
title = {AtlasKV: Augmenting LLMs with Billion-Scale Knowledge Graphs in 20GB VRAM},
author = {Haoyu Huang and Hong Ting Tsang and Jiaxin Bai and Xi Peng and Gong Zhang and Yangqiu Song},
journal= {arXiv preprint arXiv:2510.17934},
year = {2026}
}
备注
ICLR 2026