Characterizing Faults in Agentic AI: A Taxonomy of Types, Symptoms, and Root Causes
软件工程
2026-05-08 v2
摘要
Agentic AI 系统组合 LLM 推理、编排、工具调用以及与外部环境的交互。这些系统引入的故障难以使用现有分类法进行表征。为此，我们进行了 Agentic AI 系统故障的实证研究。我们收集了来自40个存储库中13,602个问题和拉取请求，并通过分层抽样挑选出385个故障进行分析。通过 grounded theory，我们推导出故障类型、症状和根本原因的分类。随后我们使用 Apriori 基于关联规则挖掘识别故障、症状和根本原因之间的关系，并通过145名开发者的研究对分类法进行了验证。我们的分析产生了34种故障类型，组织为四个架构维度。这些故障表现为结构化输出解释、工具调用、运行时执行和异常处理中的故障，其根本原因包括数据模式不匹配、依赖漂移、状态管理复杂性和模型接口不稳定。此外，关联规则显示了持续的跨组件传播，将结构化数据、依赖和状态管理故障与其症状和根本原因关联。实践者认为该分类法代表了 Agentic AI 故障，并建议与多智能体协调和可观察性有关的细化。这些发现为诊断故障和改进 Agentic AI 系统的可靠性提供了实证基础。
引用
@article{arxiv.2603.06847,
title = {Characterizing Faults in Agentic AI: A Taxonomy of Types, Symptoms, and Root Causes},
author = {Mehil B Shah and Mohammad Mehdi Morovati and Mohammad Masudur Rahman and Foutse Khomh},
journal= {arXiv preprint arXiv:2603.06847},
year = {2026}
}