三思而后行——面向自主 AI 智能体的神经认知治理模型
人工智能
2026-04-29 v1
摘要
自主 AI 智能体在企业、医疗保健和安全关键环境中的快速部署造成了根本的治理差距。现有方法——运行时护栏、训练时对齐和事后审计——将治理视为外部约束而非内化的行为原则，使智能体容易受到不安全和不可逆行为的影响。我们通过借鉴人类自然自我治理的方式来解决这一差距：在行动之前，人类会参与基于执行功能、抑制控制和内化组织规则的深思熟虑的认知过程，以评估预期行为是可允许的、需要修改的，还是需要升级处理的。本文提出了一个神经认知治理框架，该框架将这种人类自我治理过程正式映射到 LLM 驱动的智能体推理中，在人脑与作为智能体认知核心的大型语言模型之间建立了结构上的平行关系。我们形式化了一个行动前治理推理循环，在该循环中，智能体在每次产生后果的行动之前查阅四层治理规则集：全局、工作流特定、智能体特定和情境特定，这反映了人类组织如何在企业、部门和角色层面构建合规层级。在一个生产级零售供应链工作流上实现时，该框架实现了 95% 的合规准确率和零次向人工监督的误报升级，这表明将治理嵌入智能体推理中比外部强制执行产生更一致、可解释和可审计的合规性。这项工作为像人类一样自我治理的自主 AI 智能体提供了有原则的基础：不是因为规则被强加于它们，而是因为深思熟虑被嵌入到了它们的思考方式中。
引用
@article{arxiv.2604.25684,
title = {Think Before You Act -- A Neurocognitive Governance Model for Autonomous AI Agents},
author = {Eranga Bandara and Ross Gore and Asanga Gunaratna and Sachini Rajapakse and Isurunima Kularathna and Ravi Mukkamala and Sachin Shetty and Xueping Liang and Amin Hass and Tharaka Hewa and Abdul Rahman and Christopher K. Rhea and Anita H. Clayton and Preston Samuel and Atmaram Yarlagadda},
journal= {arXiv preprint arXiv:2604.25684},
year = {2026}
}