明文中的隐藏威胁：攻击RAG数据加载器
密码学与安全
2025-07-08 v1 人工智能
摘要
自2022年ChatGPT问世以来，大型语言模型(LLM)已改变了人机交互，而检索增强生成(RAG)作为通过整合外部知识增强LLM输出的关键框架应运而生。然而，RAG对外部文档摄入的依赖引入了新的漏洞。本文揭示了数据加载阶段的一个关键安全缺口，恶意行为者可通过利用文档摄入隐秘地破坏RAG流水线。我们提出了一个包含9种基于知识的投毒攻击的分类法，并引入了两种新的威胁向量——内容混淆和内容注入——针对常见格式(DOCX、HTML、PDF)。使用一个实现了19种隐秘注入技术的自动化工具包，我们测试了五种流行的数据加载器，在357个场景中发现了74.4%的攻击成功率。我们进一步在六个端到端RAG系统上验证了这些威胁——包括白盒流水线和黑盒服务如NotebookLM和OpenAI Assistants——展示了高成功率和绕过过滤器并悄然损害输出完整性的关键漏洞。我们的结果强调了保护RAG系统中文档摄入过程免受隐蔽内容操纵的迫切需求。
引用
@article{arxiv.2507.05093,
title = {The Hidden Threat in Plain Text: Attacking RAG Data Loaders},
author = {Alberto Castagnaro and Umberto Salviati and Mauro Conti and Luca Pajola and Simeone Pizzi},
journal= {arXiv preprint arXiv:2507.05093},
year = {2025}
}
备注
currently under submission