Les Dissonances：跨工具采集与污染于工具池驱动型大语言模型代理系统中的安全分析
密码学与安全
2025-12-04 v3
摘要
大型语言模型（LLM）代理是由大语言模型驱动的自治系统，能够通过利用工具集合进行推理与规划来解决问题。然而，多工具能力的集成在安全管理工具、确保工具兼容性、处理依赖关系以及保护LLM代理工作流程中的控制流方面引入了诸多挑战。本文系统性地分析了多工具启用型LLM代理系统中任务控制流程的安全性。我们识别出一种新型威胁——跨工具采集与污染（Cross-Tool Harvesting and Polluting, XTHP），其包含多种攻击向量，旨在先劫持代理任务的正常控制流程，然后收集并污染LLM代理系统中的机密或私有信息。为评估该威胁的影响，我们开发了Chord——一个动态扫描工具，用于自动检测受XTHP攻击影响的实际代理工具。对来自两个主要LLM代理开发框架（LangChain 与 LlamaIndex）仓库中66个真实工具的评估显示，显著的安全问题：75%的工具均易受XTHP攻击，凸显了该威胁的普遍性。
引用
@article{arxiv.2504.03111,
title = {Les Dissonances: Cross-Tool Harvesting and Polluting in Pool-of-Tools Empowered LLM Agents},
author = {Zichuan Li and Jian Cui and Xiaojing Liao and Luyi Xing},
journal= {arXiv preprint arXiv:2504.03111},
year = {2025}
}
备注
Network and Distributed System Security (NDSS) Symposium 2026