NetSafe：多主体网络的拓扑安全性探索
多智能体系统
2024-10-22 v1 人工智能
摘要
大型语言模型（LLMs）已赋予多主体网络中的节点提供智能，展现出在学术和工业领域的广泛应用前景。然而，如何防止这些网络生成恶意信息仍是未探索的课题，先前针对单个 LLM 安全的研究难以迁移至多主体网络情境。本文从拓扑角度聚焦多主体网络的安全性，探讨哪些拓扑属性有助于构建更安全的网络。为此，我们提出了通用框架 NetSafe 以及一种迭代 RelCom 交互，以统一现有多样化的 LLM 基于主体框架，为通用的拓扑安全研究奠定基础。我们识别出当多主体网络暴露于包含虚假信息、偏见和有害信息的攻击时，出现的若干关键现象，称为主体幻觉（Agent Hallucination）和聚合安全（Aggregation Safety）。此外，我们发现高度互联的网络更容易受到对抗性攻击的传播，在星形拓扑结构下的任务性能下降达 29.7%。我们发现所提出的静态指标比传统图论指标更贴近实际的动态评估，表明平均距离攻击者更远的网络具有更强的安全性。总之，本工作从 LLM 基于多主体网络的安全性角度引入了新的拓扑视角，并发现了若干未被报道的现象，为未来探索此类网络的安全性指明了方向。
引用
@article{arxiv.2410.15686,
title = {NetSafe: Exploring the Topological Safety of Multi-agent Networks},
author = {Miao Yu and Shilong Wang and Guibin Zhang and Junyuan Mao and Chenlong Yin and Qijiong Liu and Qingsong Wen and Kun Wang and Yang Wang},
journal= {arXiv preprint arXiv:2410.15686},
year = {2024}
}