RAGuard：一种用于LLM的上下文安全检索增强生成的新方法
人工智能
2025-09-05 v1 机器学习
摘要
在海上风电（OSW）维护中，准确性和安全性至关重要，然而传统的大型语言模型（LLM）在面对高度专业化或意外场景时常常失败。我们引入了RAGuard，一个增强的检索增强生成（RAG）框架，明确地将安全关键文档与技术手册整合在一起。通过向两个索引发出并行查询，并为知识和安全分配单独的检索预算，RAGuard保证了技术深度和安全覆盖。我们进一步开发了一个SafetyClamp扩展，它获取更大的候选池，将精确的槽位保证“硬性钳制”到安全。我们在稀疏（BM25）、密集（密集段落检索）和混合检索范式上进行了评估，测量了技术召回率@K和安全召回率@K。我们提出的RAG的两种扩展都将安全召回率@K从RAG中的几乎0%提高到RAGuard中的50%以上，同时保持技术召回率在60%以上。这些结果表明，RAGuard和SafetyClamp有潜力在关键维护环境中为将安全保证集成到LLM驱动的决策支持中建立新的标准。
引用
@article{arxiv.2509.03768,
title = {RAGuard: A Novel Approach for in-context Safe Retrieval Augmented Generation for LLMs},
author = {Connor Walker and Koorosh Aslansefat and Mohammad Naveed Akram and Yiannis Papadopoulos},
journal= {arXiv preprint arXiv:2509.03768},
year = {2025}
}