治理代理 AI 系统中的技术债务
人工智能
2026-05-29 v1 计算机与社会
综合经济学
经济学
摘要
代理 AI 系统正越来越多地被用作生产基础设施：它们在多个步骤之间推理、调用工具、通过工作流程行动，并通过记忆和反馈进行自适应。这些系统创造的治理挑战不完全被传统软件或预测性机器学习技术债务所捕捉。我们定义代理技术债务为当提示、记忆、工具模式、编排图、控制策略和可观测性例程被快速拼接而无法进行验证、标准化和治理时所积累的 liability。我们定义随机税作为保持概率性代理行为在可接受范围内的持续运营负担。区别至关重要：债务是设计和治理 liability 的库存，而税则是由于随机代理通过工具和工作流程行动而产生的运营成本流。我们概述了经理如何通过轻量级仪表板和治理控制将两者显现出来。
引用
@article{arxiv.2605.29129,
title = {Governing Technical Debt in Agentic AI Systems},
author = {Muhammad Zia Hydari and Raja Iqbal and Narayan Ramasubbu},
journal= {arXiv preprint arXiv:2605.29129},
year = {2026}
}