揭示 LLM 辅助网络情报分析中的漏洞
密码学与安全
2026-05-29 v5 人工智能
摘要
大语言模型（LLM）日益被用于帮助安全分析师管理网络威胁，自动化从漏洞评估到事件响应的各类任务。然而，在实际 CTI 工作流程中，可靠性仍存在显著差距。现有解释常指向通用模型问题（如幻觉），但我们认为主导瓶颈是威胁景观本身：CTI 具有异构性、波动性和碎片化特征。在此条件下，证据交织、来自众所周知且时间不稳定，这些属性是标准 LLM 研究所少见捕获的。本文提出一项对 LLM 在 CTI 推理中漏洞的全面实证研究。我们引入人类在环分类框架，对 CTI 生命周期中的失效模式进行稳健标注，规避自动“LLM 作为裁判”管道的脆弱性。我们识别出三类领域特定认知失效：源于浅层元数据的虚假关联、来自冲突来源的矛盾知识、以及对新兴威胁的受限泛化。我们通过因果干预验证这些机制，表明针对性防御可显著降低失效率。总体而言，这些结果为构建韧性、领域感知的 CTI 智能体提供了具体路线图。
引用
@article{arxiv.2509.23573,
title = {Uncovering Vulnerabilities of LLM-Assisted Cyber Threat Intelligence},
author = {Yuqiao Meng and Luoxi Tang and Feiyang Yu and Jinyuan Jia and Guanhua Yan and Ping Yang and Zhaohan Xi},
journal= {arXiv preprint arXiv:2509.23573},
year = {2026}
}