为何认知机器人 matters：来自 OntoAgent 和 HARMONIC 中 LLM 在安全关键机器人协作中的经验教训
机器人学
2026-03-31 v1
摘要
在物理世界中部署具象化 AI 代理，要求具备可靠、确定且透明的长期规划能力。我们提出 HARMONIC，一种认知机器人架构，将 OntoAgent——一种提供元认知自我监控、基于领域的诊断以及基于后果的动作选择的以内容为中心的认知架构——与模块化的反应性战术层配对。HARMONIC 的模块化设计使我们能够在相同的机器人系统中、在相同的条件下，对 LLM 是否能够复制 OntoAgent 的认知能力进行功能性评估。六个覆盖前沿和高效层次的 LLM 在本机和知识平等化条件下取代 OntoAgent，以进行协作维护情景。结果表明，LLM 在行动前不会对自身知识状态进行一致的评估，从而导致诊断推理和动作选择中的后续失败。即使在相当相同的程序知识下，这些缺陷仍然存在，这表明问题是架构性的而非知识性的。这些发现支持在认知架构保持主要推理权威的物理具象化系统的设计，这类系统具有确定性和透明性特征。
引用
@article{arxiv.2603.26730,
title = {Why Cognitive Robotics Matters: Lessons from OntoAgent and LLM Deployment in HARMONIC for Safety-Critical Robot Teaming},
author = {Sanjay Oruganti and Sergei Nirenburg and Marjorie McShane and Jesse English and Michael Roberts and Christian Arndt and Ramviyas Parasuraman and Luis Sentis},
journal= {arXiv preprint arXiv:2603.26730},
year = {2026}
}