GraphRAG 面临考验
机器学习
2025-10-15 v4 人工智能
密码学与安全
摘要
GraphRAG 通过将外部知识结构化为多尺度知识图谱， advances 检索增强生成 (RAG)，使语言模型能够在生成时整合广阔的上下文与细粒度的细节。虽然 GraphRAG 在多个领域已显示出成功，但其安全性影响尚未得到广泛探讨。为填补这一空白，本文考察了 GraphRAG 受到投毒攻击的脆弱性，发现了一个颇具趣意的安全悖论：现有的 RAG 投毒攻击在 GraphRAG 下有效性较差，这是由于 GraphRAG 的图基索引和检索所致；然而，相同的特征也创建了新的攻击面。我们提出了 GragPoison，这是一种新颖的攻击方法，利用底层知识图谱中共享关系，构建能够一次性破坏多个查询的投毒文本。GragPoison 采用三种关键策略：(i) 关系注入以引入虚假知识；(ii) 关系增强以放大投毒影响；(iii) 叙事生成以将恶意内容嵌入连贯文本中。通过在多样化数据集和模型上的实证评估显示，GragPoison 在有效性（最高达 98% 成功率）和可扩展性（使用不足 68% 的投毒文本）方面均显著优于现有攻击。我们还探讨了潜在的防御措施及其局限性，确定了未来研究的有前景的方向。
关键词
引用
@article{arxiv.2501.14050,
title = {GraphRAG under Fire},
author = {Jiacheng Liang and Yuhui Wang and Changjiang Li and Rongyi Zhu and Tanqiu Jiang and Neil Gong and Ting Wang},
journal= {arXiv preprint arXiv:2501.14050},
year = {2025}
}
备注
13 pages. Accepted by IEEE Symposium on Security and Privacy 2026 (S&P 2026)