共形智能体错误归因
机器学习
2026-05-11 v1 多智能体系统
摘要
当多智能体系统（MAS）失败时，确定决定性错误发生的位置是自动恢复到先前状态的第一步。由于基于大语言模型的 MAS 会生成长交互轨迹，错误归因仍然是一个根本性挑战。本文提出了一个基于共形预测（CP）的错误归因框架，该框架提供有限样本、无分布的覆盖保证。我们针对智能体轨迹等序列数据，引入了基于过滤的 CP 新算法。与现有的 CP 算法不同，我们的方法预测的是连续序列的集合，以实现高效的恢复与调试。我们在多种智能体和数据集上验证了我们的理论保证，表明错误可以被精确隔离，随后使用预测集回滚 MAS 以纠正其自身错误。我们的整体方法是模型无关的，并为 MAS 错误归因提供了一个有原则的不确定性层。我们在 https://github.com/layer6ai-labs/conformal-agent-error-attribution 发布了代码。
引用
@article{arxiv.2605.06788,
title = {Conformal Agent Error Attribution},
author = {Naihe Feng and Yi Sui and Shiyi Hou and Ga Wu and Jesse C. Cresswell},
journal= {arXiv preprint arXiv:2605.06788},
year = {2026}
}
备注
10 pages