DynaGRAG | 用于提升语言理解与生成的图检索增强生成框架探索信息拓扑结构
计算与语言
2025-01-29 v3 人工智能
机器学习
摘要
图检索增强生成（GRAG 或 Graph RAG）架构旨在通过利用外部知识来增强语言理解与生成。然而，有效捕获和整合文本与结构化数据中所蕴含的丰富语义信息仍然是一个挑战。为此，本文提出了一种新型GRAG框架——动态图检索增强生成（DynaGRAG），旨在提高知识图谱中子图的表示和多样性。通过改善图的密度，更有效地捕获实体和关系信息，动态优先考虑相关且多样的子图及其中的信息，所提出的方法实现了对潜在语义结构的更全面理解。这是通过去重过程、两阶段均值池化嵌入、考虑唯一节点的查询感知检索，以及动态相似感知广度优先搜索（DSA-BFS）遍历算法实现的。通过硬性提示将图卷积网络（GCN）和大型语言模型（LLM）集成进一步增强了对丰富节点和边表示的学习，同时保持层次化的子图结构。实验结果表明，DynaGRAG的有效性，凸显了增强子图表示和多样性对于改进语言理解与生成的重要性。
引用
@article{arxiv.2412.18644,
title = {DynaGRAG | Exploring the Topology of Information for Advancing Language Understanding and Generation in Graph Retrieval-Augmented Generation},
author = {Karishma Thakrar},
journal= {arXiv preprint arXiv:2412.18644},
year = {2025}
}