IsolateGPT：一种面向基于 LLM 的智能体系统的执行隔离架构
密码学与安全
2025-02-03 v2 人工智能
计算与语言
计算机与社会
机器学习
摘要
扩展为系统的大型语言模型（LLM），如 ChatGPT，已开始支持第三方应用程序。这些 LLM 应用利用了 LLM 事实上的基于自然语言的自动执行范式：即应用及其交互以自然语言定义，可访问用户数据，并被允许彼此及与系统自由交互。这些 LLM 应用生态系统类似于早期的计算平台环境，当时应用与系统之间缺乏足够的隔离。由于第三方应用可能不可信，加之自然语言接口的不精确性加剧了这一问题，当前的设计给用户带来了安全和隐私风险。在本文中，我们评估了这些问题是否可以通过执行隔离来解决，以及在 LLM 基于系统的背景下（其中系统组件之间、LLM 与应用之间以及应用之间存在任意的基于自然语言的交互），这种隔离可能呈现何种形态。为此，我们提出了 IsolateGPT，这是一种设计架构，展示了执行隔离的可行性，并为在基于 LLM 的系统中实现隔离提供了蓝图。我们针对多种攻击对 IsolateGPT 进行了评估，结果表明它能在不损失任何功能的情况下，防范非隔离 LLM 系统中存在的许多安全、隐私和安全隐患。IsolateGPT 为提高安全性所带来的性能开销，在四分之三的测试查询中低于 30%。
引用
@article{arxiv.2403.04960,
title = {IsolateGPT: An Execution Isolation Architecture for LLM-Based Agentic Systems},
author = {Yuhao Wu and Franziska Roesner and Tadayoshi Kohno and Ning Zhang and Umar Iqbal},
journal= {arXiv preprint arXiv:2403.04960},
year = {2025}
}
备注
Accepted by the Network and Distributed System Security (NDSS) Symposium 2025