预测与赋能:通过桥接接口构建的能动性理论
人工智能
2026-05-08 v1
摘要
我们研究确定性物理或模拟世界中部分可观测下的能动性,其中表观随机性源于初始条件、固定定律位和展开的外生噪声的不确定性。我们将感知与执行建模为桥接接口,分为智能体控制的参数和环境控制的信道状态,通过潜在微观状态上的先验和多对一观测粗粒化诱导出确定性 POMDP。在此框架内,我们证明了预测、压缩与赋能之间的分离。完美预测既可以通过识别与目标族相关的隐藏商来实现,也可以通过使未来目标由动作决定的覆写控制来实现;仅高赋能是不够的。在可细化接口和充足内存下,动作条件的观测压缩进展减少了对潜在商的后验不确定性,且当细化需要引导世界侧信道条件时,这创造了目标条件的接口赋能。具有守恒信息预算的比特串特化使由此产生的权衡变得明确:通过识别进行预测需要至少等于相关潜在熵的内部容量,而覆写控制需要在受控商上具有终端动作容量。对于现代 AI 智能体,这些结果提出的是设计原则而非必然性定理:目标应区分隐藏状态识别、接口细化、任务相关可控性,以及单纯的覆写或干扰控制。人机对齐部分是一个接口设计问题,其中相关的桥梁在于人类意图、智能体内部状态、外部工具与世界侧信道条件之间。这是一份工作草稿:欢迎反馈与批评。
引用
@article{arxiv.2605.06346,
title = {Prediction and Empowerment: A Theory of Agency through Bridge Interfaces},
author = {Richard Csaky},
journal= {arXiv preprint arXiv:2605.06346},
year = {2026}
}
备注
This is a working draft: feedback and criticism is most welcome