基于神经符号感知的可信自主性
人工智能
2025-05-28 v1
摘要
信息物理系统（CPS）中部署的许多最先进 AI 模型虽然高度准确，但仅仅是模式匹配器。由于缺乏安全性保证，人们对其在安全关键和对抗性领域的可靠性存在担忧。为了推进可信 AI，我们倡导一种范式转变，受人类对低级特征和高级上下文进行推理的能力启发，将符号结构注入数据驱动的感知模型中。我们提出了一种用于感知的神经符号范式（NeuSPaPer），并说明了联合目标检测与场景图生成（SGG）如何实现深度场景理解。在用于离线知识提取的基础模型和用于实时部署的专用 SGG 算法的支持下，我们设计了一个利用结构化关系图的框架，以确保自主系统中态势感知的完整性。利用基于物理的模拟器和真实世界数据集，我们展示了 SGG 如何弥合低级传感器感知与高级推理之间的差距，为具有弹性的上下文感知 AI 奠定基础，并推进 CPS 中的可信自主性。
引用
@article{arxiv.2505.21322,
title = {Assured Autonomy with Neuro-Symbolic Perception},
author = {R. Spencer Hallyburton and Miroslav Pajic},
journal= {arXiv preprint arXiv:2505.21322},
year = {2025}
}