中文

从准入到不变量:测量委托代理系统中的偏差

人工智能 2026-04-23 v2 密码学与安全

摘要

自主代理系统由强制机制支配,这些机制在运行时标记硬性约束违规。代理控制协议识别了此类系统的一个结构性限制:正确运行的强制引擎可以进入一个行为漂移对其不可见的 regime,因为强制信号在 deviation 可测量的层级以下运作。我们展示,基于强制的治理在结构上无法确定代理行为是否保持在准入时确立的可接受行为空间 A0 内。我们的核心结果——不可识别定理——证明 A0 不在由强制信号 g 在局部可观测性假设下生成的 σ-代数中,而该假设是每种实际强制系统所满足的。这种不可能性源于根本性的偏差:g 在局部对动作进行点评,而 A0 编码的是在准入时确立的全局、轨迹级行为属性。因此,代理可以漂移——系统性地将其行为分布从准入时期望的方向偏移——而每个单独动作仍保持在许可动作空间内。我们定义不变量测量层 (IML),通过保留对 A0 生成模型的直接访问来规避这一限制,在强制结构上盲区精确恢复可观测性。我们证明了基于强制的监控的信度不可知性,并表明 IML 能以可保证的有限检测延迟检测准入时漂移。通过四种场景验证:三个漂移情景(300 和 1000 步)、一个 live n8n webhook 管道以及一个 LangGraph StateGraph 代理——强制触发零违规,而 IML 在漂移开始后 9-258 步内检测到每种漂移。

关键词

引用

@article{arxiv.2604.17517,
  title  = {From Admission to Invariants: Measuring Deviation in Delegated Agent Systems},
  author = {Marcelo Fernandez},
  journal= {arXiv preprint arXiv:2604.17517},
  year   = {2026}
}

备注

21 pages, 6 figures. 3rd paper (Paper 2) in the 6-paper Agent Governance Series (Papers 0-5). Zenodo: https://doi.org/10.5281/zenodo.19672589. Companion: P0 (arXiv:2604.17511), P1/ACP (arXiv:2603.18829), P3 (zenodo.19672597), P4 (zenodo.19672608), P5/RAM (zenodo.19669430)