面向软件漏洞检测的跨域与域内少样本学习的专家闭环系统
密码学与安全
2025-06-13 v1 软件工程
摘要
随着网络威胁日益复杂，快速且准确的漏洞检测对于维护系统安全至关重要。本研究探索了大型语言模型（LLMs）在软件漏洞评估中的应用，通过模拟识别具有已知通用弱点枚举（CWE）的Python代码，比较了零样本、少样本跨域和少样本域内提示策略。我们的结果表明，虽然零样本提示表现不佳，但少样本提示显著提升了分类性能，特别是与基于置信度的路由策略相结合时，通过将人类专家引导至模型不确定性较高的案例，提高了效率，优化了自动化与专家监督之间的平衡。我们发现LLMs能够以少量示例有效泛化到不同的漏洞类别，表明其作为可扩展、适应性强的网络安全工具在模拟环境中的潜力。然而，模型可靠性、可解释性和对抗鲁棒性等挑战仍然是未来研究的关键领域。通过将AI驱动的方法与专家闭环（EITL）决策相结合，本工作展示了一条通向更高效和响应更灵敏的网络安全工作流的路径。我们的发现为在真实和模拟环境中部署AI辅助漏洞检测系统奠定了基础，在增强操作韧性的同时减轻了人类分析师的负担。
引用
@article{arxiv.2506.10104,
title = {Expert-in-the-Loop Systems with Cross-Domain and In-Domain Few-Shot Learning for Software Vulnerability Detection},
author = {David Farr and Kevin Talty and Alexandra Farr and John Stockdale and Iain Cruickshank and Jevin West},
journal= {arXiv preprint arXiv:2506.10104},
year = {2025}
}