工具链中的蝴蝶效应：关于 LLM 工具代理系统参数填充失败的全面分析
软件工程
2025-07-22 v1 人工智能
摘要
工具代理范式的出现拓宽了大型语言模型(LLM)的能力边界，使其能够完成更复杂的任务。然而，由于参数在执行期间出现故障，此范式的有效性受到限制。为探索这一现象并提出相应建议，本文首先构建了参数故障分类学。我们从主流工具代理的调用链中派生出五类故障类别。然后，通过对输入应用15种输入扰动方法，探讨了三种不同输入来源与故障类别之间的相关性。实验结果表明，参数名称幻觉故障主要源于固有的LLM局限性，而输入来源的问题则主要导致其他故障模式。为提高工具代理交互的可靠性和有效性，我们提出了包括标准化工具返回格式、改进错误反馈机制以及确保参数一致性等相应的改进建议。
引用
@article{arxiv.2507.15296,
title = {Butterfly Effects in Toolchains: A Comprehensive Analysis of Failed Parameter Filling in LLM Tool-Agent Systems},
author = {Qian Xiong and Yuekai Huang and Ziyou Jiang and Zhiyuan Chang and Yujia Zheng and Tianhao Li and Mingyang Li},
journal= {arXiv preprint arXiv:2507.15296},
year = {2025}
}