LLMpatronous: 利用大语言模型进行漏洞检测
密码学与安全
2025-04-28 v1 人工智能
摘要
尽管人工智能 (AI) 在各行业取得了变革性影响，但网络安全领域仍依赖传统的静态和动态分析工具，受高假阳性率和浅层代码理解能力的制约。虽然生成式 AI 为软件开发提供了有前景的自动化能力，但利用大语言模型 (LLM) 进行漏洞检测面临独特挑战。本文探讨了 LLM 在识别漏洞方面的潜力与局限性，认识到包括幻觉现象、有限上下文长度以及知识截止日期等固有弱点。此前尝试使用机器学习模型进行漏洞检测因实际应用受限、特征工程困难、缺乏上下文理解以及跟踪不断演变威胁格局的训练模型复杂性等问题而效果不佳。因此，我们提出一种以缓解这些局限性为目标的稳健 AI 驱动方法，确保 LLM 基于漏洞检测的质量与可靠性。通过结合检索增强生成 (RAG) 和混合专家 (MoA) 的创新方法，本研究旨在利用 LLM 的优势，同时解决其弱点，最终为确保不断演变软件格局的可靠且高效的 AI 解决方案之路。
引用
@article{arxiv.2504.18423,
title = {LLMpatronous: Harnessing the Power of LLMs For Vulnerability Detection},
author = {Rajesh Yarra},
journal= {arXiv preprint arXiv:2504.18423},
year = {2025}
}