认知摩擦:面向工具使用智能体的有界审慎决策论框架
人工智能
2026-04-03 v3
摘要
网络环境中的自主工具使用智能体必须决定查询哪个信息源以及何时停止查询并采取行动。在信息获取成本上缺乏原则性界限时,无约束智能体会表现出系统性故障模式:在拥塞下过度使用工具、在时间衰减下长时间审慎、以及在模糊证据下脆弱行为。我们提出三联认知架构(TCA),一个通过认知摩擦形式化这些故障模式的决策论框架。通过结合非线性滤波、拥塞依赖的成本动态和 HJB 最优停止,TCA 将审慎建模为联合信念-拥塞状态上的随机控制,明确根据工具信号质量和实时网络负载为信息定价。TCA 导出一个 HJB 启发的停止边界和一个可计算的回滚式信念依赖信息价值近似,并附带净效用停止条件。我们在两个受控环境(EMDG 和 NSTG)中验证了 TCA,这些环境旨在隔离停止质量、拥塞下的动作选择和时间紧迫性。TCA 在不降低准确率的情况下改善了资源结果并减少了行动时间,在 EMDG 中相比贪婪基线获得 36 个生存能力点,在 NSTG 中获得 33 个完整性点。消融实验表明选择与停止必须联合优化,因为仅停止规则最多恢复 4 个生存能力点。对 、 和 的敏感性扫描产生了稳定的准确率和可解释的权衡,对 值 0、0.1、0.3 和 0.5 的延续价值扫描发现 等于零在高时间紧迫性下是最优的。最后,我们演示了一个围绕黑盒 LLM 在无记忆语料库上的说明性实例,其中相同的停止原则使用经验可计算的不确定性和信息价值代理来执行。
引用
@article{arxiv.2603.30031,
title = {Cognitive Friction: A Decision-Theoretic Framework for Bounded Deliberation in Tool-Using Agents},
author = {Davide Di Gioia},
journal= {arXiv preprint arXiv:2603.30031},
year = {2026}
}
备注
Preprint