走出牢笼:随机鹦鹉如何在网络安全环境中取胜
密码学与安全
2024-04-17 v2 人工智能
计算与语言
摘要
大语言模型(LLM)在涉及文本生成、摘要和各种自然语言处理任务的众多领域中获得了广泛流行。尽管存在固有局限,基于 LLM 的设计在规划和导航开放世界场景方面已展现出有前景的能力。本文介绍了一种将预训练 LLM 作为智能体应用于网络安全网络环境中的新颖方法,重点关注它们在序贯决策过程中的效用。我们提出了一种方法,其中预训练 LLM 被用作两个强化学习环境中的攻击智能体。我们提出的智能体在大多数场景和配置下,表现出与经过数千回合训练的最先进智能体相似或更好的性能。此外,最佳的 LLM 智能体在没有任何额外训练过程的情况下,表现与该环境的人类测试者相似。该设计凸显了 LLM 高效解决网络安全中复杂决策任务的潜力。此外,我们引入了一个名为 NetSecGame 的新网络安全环境。该环境旨在最终支持网络安全领域内的复杂多智能体场景。所提出的环境模拟真实网络攻击,并被设计为高度模块化且可适应各种场景。
引用
@article{arxiv.2308.12086,
title = {Out of the Cage: How Stochastic Parrots Win in Cyber Security Environments},
author = {Maria Rigaki and Ondřej Lukáš and Carlos A. Catania and Sebastian Garcia},
journal= {arXiv preprint arXiv:2308.12086},
year = {2024}
}
备注
Under review. 10 pages plus appendices, 7 figures, 4 tables. Edit: fix e-mails and code repository