从 rookie 到专家：操控 LLM 实现企业软件中自动化漏洞利用
软件工程
2026-04-24 v2
摘要
LLM 通过使非程序员能够创建应用程序， democratized 软件工程，但这种可及性从根本上削弱了数十年来引导软件工程实践的安全假设。我们在本工作中展示了如何通过社交工程操控公开可用的 LLM，将新手转化为有能力的攻击者，挑战了 exploitation 需要技术专业知识这一根本原则。为此，我们提出了 RSA（角色分配、情景预设和行动 solicitation），一种操控 LLM 生成功能性漏洞利用的预设策略，尽管其安全机制仍在发挥作用。我们针对 Odoo 这一广泛使用的 ERP 平台进行测试，评估了五种主流 LLM（GPT-4o、Gemini、Claude、Microsoft Copilot 和 DeepSeek），并在每次测试中成功利用了每个被测 CVE：至少有一个 LLM 在 3-5 次提示轮次中生成了功能性漏洞利用。尽管 prior work~\cite{jin2025good} 发现 LLM 辅助攻击困难且需要手动工作，但我们展示了这种开销可以完全消除。我们的发现否定了核心软件工程安全原则：技术与非技术行为者之间的区分不再提供有效的威胁模型；漏洞描述的技术复杂性在 LLM 能够抽象化时不再提供保护；当构建软件的同一工具可被操控以破坏软件时，传统的安全边界便消失了。这代表了软件工程的范式变迁——我们必须为一种只需掌握提示词编写能力、无需理解代码的时代重新设计安全实践。项目地址：https://anonymous.4open.science/r/From-Rookie-to-Attacker-D8B3。
引用
@article{arxiv.2512.22753,
title = {From Rookie to Expert: Manipulating LLMs for Automated Vulnerability Exploitation in Enterprise Software},
author = {Moustapha Awwalou Diouf and Maimouna Tamah Diao and Iyiola Emmanuel Olatunji and Abdoul Kader Kaboré and Jordan Samhi and Gervais Mendy and Samuel Ouya and Jacques Klein and Tegawendé F. Bissyandé},
journal= {arXiv preprint arXiv:2512.22753},
year = {2026}
}