面向自主网络系统中基于大语言模型代理的网络攻击综述
人工智能
2025-05-20 v1
摘要
随着大型语言模型（Large Language Models，简称 LLMs）的持续演进，基于 LLM 的代理已超越被动聊天机器人，成为能够执行复杂任务的自主网络实体，包括网页浏览、恶意代码和误导性内容生成，以及决策。由于显著降低了攻击时间、专业知识和资源要求，由基于 LLM 的代理发起的 AI 辅助网络攻击导致了一种称为网络威胁膨胀（Cyber Threat Inflation）的现象，其特征为攻击成本显著降低，攻击规模大幅增加。为了提供可操作的防御见解，本综述聚焦于基于 LLM 代理在不同网络系统中潜在的网络威胁。首先，我们呈现了基于 LLM 的网络攻击代理的能力，这些能力包括执行自主攻击策略（包括侦察、记忆、推理和行动），以及通过与其他代理或人类操作员协作来促进操作。基于这些能力，我们检查了由基于 LLM 的代理发起的常见网络攻击，并比较了其在不同类型网络（包括静态网络、移动网络和无基础设施网络）中的效果。此外，我们分析了基于 LLM 代理在不同网络基础设施中的威胁瓶颈，并综述了其防御方法。由于操作失衡，现有的防御方法在面对自主网络攻击时不足。最后，我们勾勒了未来研究方向和针对旧网络系统的潜在防御策略。
关键词
引用
@article{arxiv.2505.12788,
title = {Mixture Policy based Multi-Hop Reasoning over N-tuple Temporal Knowledge Graphs},
author = {Zhongni Hou and Miao Su and Xiaolong Jin and Zixuan Li and Long Bai and Jiafeng Guo and Xueqi Cheng},
journal= {arXiv preprint arXiv:2505.12788},
year = {2025}
}