针对基于 LLM 的威胁检测与缓解框架的 RAG 目标化对抗攻击
密码学与安全
2025-11-11 v1 人工智能
摘要
物联网 (IoT) 的快速扩张正在重塑各行业的通信与运营实践，但也扩大了攻击面并增加了安全 breach 的易感性。人工智能已成为保障 IoT 网络的有价值解决方案，其中大型语言模型 (LLM) 使网络入侵检测系统 (NIDS) 能够自动化地分析攻击行为并提供缓解建议。尽管取得了进展，但在此类系统中使用 LLM 进一步扩大了攻击面，通过引入漏洞如提示注入和数据中毒将整个网络置于风险之中。本文针对基于 LLM 的 IoT 攻击分析与缓解框架进行攻击，以测试其对抗鲁棒性。我们构建了攻击描述数据集，并在其中针对性数据中毒攻击中对该框架的检索增强生成 (RAG) 知识库进行破坏，应用单词级、保持意义的扰动。随后我们将目标模型 ChatGPT-5 Thinking 在攻击前后的缓解响应进行比较，以使用为人类专家和评估 LLM 所设计的既定评估标准来衡量攻击对模型性能的影响。我们的结果表明，小扰动通过削弱观察到的网络流量特征与攻击行为之间的关联，并降低针对资源受限设备的缓解措施的特定性和实用性，从而使 LLM 性能下降。
引用
@article{arxiv.2511.06212,
title = {RAG-targeted Adversarial Attack on LLM-based Threat Detection and Mitigation Framework},
author = {Seif Ikbarieh and Kshitiz Aryal and Maanak Gupta},
journal= {arXiv preprint arXiv:2511.06212},
year = {2025}
}