面向自主无人机集群开放世界决策的认知护栏

小型无人航空系统(sUAS)越来越多地作为自主集群部署于搜救及其他灾害响应场景中。在这些场景下，它们利用计算机视觉(CV)来检测感兴趣的目标并自主调整其任务。然而，传统的CV系统在开放世界环境中往往难以识别陌生目标，也难以推断其对任务规划的相关性。为了解决这一问题，我们引入大语言模型(LLM)来对检测到的目标及其影响进行推理。尽管LLM能提供有价值的见解，但它们也容易产生幻觉，并可能给出错误、误导或不安全的建议。为了确保在不确定性下做出安全且合理的决策，高层决策必须受到认知护栏的约束。本文介绍了这些护栏在搜救任务sUAS集群中的设计、仿真与真实世界集成。