随机间隙:代理人式人工智能的预部署可靠性与监督成本审计的马尔可夫框架
人工智能
2026-03-26 v1
摘要
组织中的 agentic 人工智能是受可靠性和监督成本约束的序列决策问题。当确定性工作流程被随机策略取代时,关键问题不在于下一步是否看起来合理,而在于所产生的轨迹是否在统计上得到支持、在局部上是否明确且在经济上是否可治理。我们构建一个度量论马尔可夫框架用于此场景。核心量包括状态盲点质量 B_n(tau)、状态-动作盲点质量 B^SA_{pi,n}(tau)、基于熵的人类在环升级门控,以及关于工作流程访问度量的预期监督成本等式。我们在包含 251,734 个案例、1,595,923 个事件、42 个不同工作流程动作的 Business Process Intelligence Challenge 2019 采购-付款日志上实例化该框架,并从该流程的 chronological 80/20 分割中构建一个日志驱动的模拟 agent。主要经验发现是:一个较大的工作流程可以在状态层面看起来得到充分支持,同时仍保留大量的下一步决策盲点质量:将操作状态细化以包括案例上下文、经济规模和 actor 类别,将状态空间从 42 扩展到 668,将在 tau=1000 时的状态-动作盲点质量从 tau=50 时的 0.0165 提升至 0.1253。在 held-out 数据集上,m(s) = max_a pi-hat(a|s) 在平均意义上与自主步骤准确性相差不到 3.4 个百分点。构成统计上可信赖自主性的同一量量也决定了预期监督负担。该框架在大规模企业采购工作流程上得到演示,旨在直接应用于可获得操作事件日志的工程流程。
引用
@article{arxiv.2603.24582,
title = {The Stochastic Gap: A Markovian Framework for Pre-Deployment Reliability and Oversight-Cost Auditing in Agentic Artificial Intelligence},
author = {Biplab Pal and Santanu Bhattacharya},
journal= {arXiv preprint arXiv:2603.24582},
year = {2026}
}
备注
22 pages, 5 figures, submitted to Engineering Applications of Artificial Intelligence