中文

责任真空:规模化智能体系统中的组织失灵

人工智能 2026-01-22 v1 系统与控制 系统与控制

摘要

集成智能体生成代码的现代 CI/CD 流水线在责任归属上表现出结构性失灵。决策通过形式上正确的审批流程执行,然而没有任何实体同时具备批准这些决策的权限以及有意义地理解其依据的认知能力。我们将此状况定义为责任真空:一种决策发生但责任无法归属的状态,因为权限与验证能力并不重合。我们表明,这不是流程偏差或技术缺陷,而是决策生成吞吐量超过有限人类验证能力的部署的结构性属性。在标准部署假设下,包括并行智能体生成、基于 CI 的验证和个体化人工审批关卡,我们识别出一个扩展极限。超过某一吞吐量阈值后,验证不再作为决策标准,而是被基于代理信号的仪式化审批所取代。在这种机制下,个体化责任在结构上变得不可实现。我们进一步刻画了 CI 放大动态,即增加自动化验证覆盖率会提高代理信号密度,但无法恢复人类能力。在固定时间和注意力约束下,这加速了广义上的认知卸载,并扩大了形式审批与认知理解之间的差距。因此,额外的自动化放大而非缓解了责任真空。我们得出结论,除非组织明确重新设计决策边界,或将责任从个体决策重新分配至批次或系统级所有权,否则责任真空在规模化智能体部署中将始终是一种隐形但持久的失效模式。

关键词

引用

@article{arxiv.2601.15059,
  title  = {The Responsibility Vacuum: Organizational Failure in Scaled Agent Systems},
  author = {Oleg Romanchuk and Roman Bondar},
  journal= {arXiv preprint arXiv:2601.15059},
  year   = {2026}
}