RAGRank：用于 CTI LLM 管道抗投毒的 PageRank 方法

Austin Jia; Avaneesh Ramesh; Zain Shamsi; Daniel Zhang; Alex Liu

RAGRank：用于 CTI LLM 管道抗投毒的 PageRank 方法

密码学与安全 2025-12-17 v2 人工智能信息检索

作者: Austin Jia , Avaneesh Ramesh , Zain Shamsi , Daniel Zhang , Alex Liu

摘要

检索增强生成 (RAG) 已成为大型语言模型 (LLM) 在网络犯罪情报 (CTI) 系统中使用的主导架构模式。然而，该设计对投毒攻击高度敏感，此前提出的防御措施在 CTI 语境下可能失效，因为网络犯罪情报通常针对新出现的攻击而言是全新的，而且高级威胁行为者能够模拟合法格式、术语和风格惯例。为此，我们提出可通过在语料库上应用源可信度算法来加速现代 RAG 防御措施的鲁棒性，以 PageRank 为例。在我们的实验中，我们定量地演示该算法对恶意文档赋予较低的权威得分，同时提升可信内容，使用标准化的 MS MARCO 数据集。我们还在 CTI 文档和 feed 上演示了 proof-of-concept 性能。

关键词

检索增强生成投毒攻击 PageRank 网络犯罪情报来源可信度

引用

@article{arxiv.2510.20768,
  title  = {RAGRank: Using PageRank to Counter Poisoning in CTI LLM Pipelines},
  author = {Austin Jia and Avaneesh Ramesh and Zain Shamsi and Daniel Zhang and Alex Liu},
  journal= {arXiv preprint arXiv:2510.20768},
  year   = {2025}
}

备注

Presented as a poster at the Annual Computer Security Applications Conference (ACSAC) 2025

RAGRank：用于 CTI LLM 管道抗投毒的 PageRank 方法

摘要

关键词

引用

备注

相关论文