面向自主无人机作业的认知包络：构建受限决策的框架
人工智能
2026-03-05 v3
摘要
Cyber-物理系统日益依赖基础模型，如大语言模型 (Large Language Models, LLMs) 和视觉语言模型 (Vision-Language Models, VLMs)，以通过增强感知、推理和规划能力提升自主性。然而，这些模型也引入了新的错误类型，如幻觉、过度概括和情境错位，导致错误或不完善的决策。为此，我们提出认知包络 (Cognition Envelopes) 的概念，旨在建立推理边界，以约束 AI 生成的决策，同时补充元认知和传统安全包络的使用。与安全包络类似，认知包络需要实用的指南和系统化的过程，用于其定义、验证和保证。本文描述了一条基于 LLM/VLM 支持的管道，用于对小型自主无人空中系统 (Uncrewed Aerial Systems) 在搜救 (Search and Rescue, SAR) 任务中部署的动态线索分析。我们还提出了一种基于概率推理和资源分析的认知包络。我们通过评估 Clue Analysis Pipeline 在一系列 SAR 任务中所做决定的效果。最后，我们确定了在网络安全系统中系统化设计、实现和验证认知包络的关键软件工程挑战，以支持 AI 辅助决策。
引用
@article{arxiv.2510.26905,
title = {Cognition Envelopes for Bounded Decision Making in Autonomous UAS Operations},
author = {Pedro Antonio Alarcon Granadeno and Arturo Miguel Bernal Russell and Sofia Nelson and Demetrius Hernandez and Maureen Petterson and Michael Murphy and Walter J. Scheirer and Jane Cleland-Huang},
journal= {arXiv preprint arXiv:2510.26905},
year = {2026}
}
备注
12 pages, 9 figures