宪法控制器：自信度校准的合规代理驱动
机器人学
2025-07-22 v1 人工智能
机器学习
摘要
确保在不确定环境中自主代理表现出可靠且符合规则的行为，是现代机器人学中的一项基本挑战。本文展示了神经符号系统如何解决这一挑战，这类系统将概率符号白箱推理模型与深度学习方法相结合，为代理提供强大的解决方案。这使我们能够同时考虑明确规则和基于噪声数据训练的神经模型，结合结构化推理的优势与灵活表征的优势。为此，我们引入了宪法控制器（Constitutional Controller, CoCo），一种新颖的框架，旨在通过推理表示诸如共享交通空间中常见约束的深层概率逻辑程序，来增强代理的安全性和可靠性。此外，我们提出了自我怀疑的概念，作为一种概率密度，基于旅行速度、所用传感器或健康因素等怀疑特征进行条件化。在一项现实世界的空中出行 mobility 研究中，我们展示了 CoCo 使智能自主系统能够学习适当的怀疑并安全、合规地导航复杂且不可确定环境的优势。
引用
@article{arxiv.2507.15478,
title = {The Constitutional Controller: Doubt-Calibrated Steering of Compliant Agents},
author = {Simon Kohaut and Felix Divo and Navid Hamid and Benedict Flade and Julian Eggert and Devendra Singh Dhami and Kristian Kersting},
journal= {arXiv preprint arXiv:2507.15478},
year = {2025}
}