LLMs 杀死了脚本小子：大语言模型支持的智能体如何改变网络威胁测试格局
密码学与安全
2023-10-12 v1 机器学习
摘要
在本文中，我们探讨大语言模型（LLMs）在威胁推理、生成工具信息以及自动化网络攻击活动方面的潜力。我们首先手动探索 LLMs 在支持特定威胁相关行动与决策中的作用。接着我们自动化网络攻击活动中的决策过程。我们针对威胁活动的一个行动提出计划-执行-报告循环的提示工程方法，以及指导多行动活动顺序决策过程的提示链（prompt chaining）设计。我们评估 LLMs 相对于所演示的简短攻击活动的网络特定知识程度，并提供关于引出可操作响应的提示设计见解。我们讨论 LLMs 对威胁格局的潜在影响以及使用 LLMs 加速威胁行为者能力时的伦理考量。我们报告了生成式 AI 在网络威胁中一个大有前景但令人担忧的应用。然而，LLMs 处理更复杂网络、精巧漏洞的能力以及提示的敏感性仍是开放问题。本研究应促使人们对 LLM 支持的网络对抗格局中不可避免的进展进行审议。
引用
@article{arxiv.2310.06936,
title = {LLMs Killed the Script Kiddie: How Agents Supported by Large Language Models Change the Landscape of Network Threat Testing},
author = {Stephen Moskal and Sam Laney and Erik Hemberg and Una-May O'Reilly},
journal= {arXiv preprint arXiv:2310.06936},
year = {2023}
}