面向现实世界的基础模型驱动机器人所必需的模块化安全护栏
系统与控制
2026-02-05 v1 机器人学
系统与控制
摘要
将基础模型 (Foundation Models, FMs) 集成到机器人领域正在加速实际部署，但带来了源于开放式语义推理和具身物理动作的新型安全挑战。这些挑战需要超越物理约束满足的安全概念。本文沿三个维度刻画了FM驱动的机器人安全：动作安全(物理可行性与约束遵从性)、决策安全(语义与情境的恰当性)以及人类中心安全(遵循人类意图、规范与期望)。我们认为，现有方法——包括静态验证、单体控制器以及端到端学习策略——在任务、环境和人类期望呈开放式、长尾分布且随时间适应的情境下仍不足。为此，我们提出模块化安全护栏，由监控(评估)层与干预层组成，作为完整安全跨自主系统栈的架构基础。除了模块化，我们强调通过表征对齐与保守性分配可能的跨层协同设计机会，以实现更快捷、更不保守且更有效的安全执行。我们呼吁社区探索更丰富的护栏模块和原则性的协同设计策略，以推动安全的实际物理AI部署。
引用
@article{arxiv.2602.04056,
title = {Modular Safety Guardrails Are Necessary for Foundation-Model-Enabled Robots in the Real World},
author = {Joonkyung Kim and Wenxi Chen and Davood Soleymanzadeh and Yi Ding and Xiangbo Gao and Zhengzhong Tu and Ruqi Zhang and Fan Fei and Sushant Veer and Yiwei Lyu and Minghui Zheng and Yan Gu},
journal= {arXiv preprint arXiv:2602.04056},
year = {2026}
}