你可能更脆弱：工具集成型 LLM 智能体稳定性研究
计算与语言
2025-06-30 v1 机器学习
摘要
当前对工具集成型 LLM 智能体的评估通常仅关注端到端工具使用效果，忽略了其稳定性问题。这限制了其在实际场景中的应用，因为各种内部或外部因素都可能导致智能体崩溃或异常行为。本研究通过调查智能体在整个工具调用过程中（包括读取工具文档、选择工具和生成参数、处理工具响应）是否易于出错，来解决上述问题。通过大量实验，我们观察到智能体在每个阶段都高度易受错误影响，而基于开源模型的智能体比基于专有模型的智能体更脆弱。我们还发现，增加模型规模并不显著提升工具调用推理能力，反而可能使智能体更容易受到类似常规用户指令的攻击。这些发现凸显了评估智能体稳定性的重要性，并为未来 LLM 的开发和评估提供了宝贵的见解。
引用
@article{arxiv.2506.21967,
title = {More Vulnerable than You Think: On the Stability of Tool-Integrated LLM Agents},
author = {Weimin Xiong and Ke Wang and Yifan Song and Hanchao Liu and Sai Zhou and Wei Peng and Sujian Li},
journal= {arXiv preprint arXiv:2506.21967},
year = {2025}
}