LLM渗透测试的惊人有效性
密码学与安全
2025-07-02 v1
摘要
本文对大型语言模型（LLM）在渗透测试中的惊人有效性进行了批判性检讨。本文详尽回顾了LLM的演变及其不断扩大的能力，这些能力使其日益适合复杂的渗透测试操作。我们系统地详细阐述了LLM在学术研究和行业中的历史采纳，展示了其在各种进攻性安全任务中的应用，涵盖了网络战链的各个阶段。关键地，分析也扩展到了恶意行为者观察到的LLM采纳，强调了该技术在安全领域的内在双重使用挑战。解释LLM在此背景下意外有效性的关键因素包括：渗透测试对模式匹配的依赖与LLM的核心优势之间的强大一致性、其处理动态环境中不确定性的内在能力，以及通过LLM提供商获得高效能预训练模型的成本效益。当前LLM辅助渗透测试的格局被分为交互式的' vibe-hacking'和完全自主系统的出现。本文确定并讨论了阻碍更广泛采纳和安全部署的显著障碍。这些包括关于模型可靠性和稳定性的关键问题、首要的安全和安全 concerns、巨大的金钱和生态成本、对隐私和数字主权的影响、关于问责的复杂问题，以及深刻的伦理困境。本综合性综述和分析为讨论未来研究方向和开发robust监控措施奠定了基础，促进AI与安全领域的交叉发展。
引用
@article{arxiv.2507.00829,
title = {On the Surprising Efficacy of LLMs for Penetration-Testing},
author = {Andreas Happe and Jürgen Cito},
journal= {arXiv preprint arXiv:2507.00829},
year = {2025}
}