具身人工智能的安全性：风险、攻击与防御综述
摘要
具身人工智能（Embodied AI）将感知、认知、规划和交互集成到能够在开放世界中进行安全关键环境操作的智能体中。随着这些系统获得自主性并进入交通、医疗和工业或助理机器人等领域，确保其安全性变得既技术上具有挑战性，又在社会层面至关重要。与数字AI系统不同，具身智能体必须在 uncertain sensing（不可靠感知）、知识不完整和动态的人机交互环境下行动，其中故障可能直接导致物理伤害。本综述提供了关于具身AI安全研究的全面且结构化的综述，涵盖从感知、认知到规划、行动和交互以及智能体系统的完整具身管道中的攻击与防御。我们引入一种多层次分类法，将零散的研究工作统一起来，将具身特定的安全发现与更广泛的视觉、语言和多模态基础模型进展相连接。我们的综述综合了超过500篇论文中关于对抗性攻击、后门攻击、jailbreak攻击和硬件层面攻击；攻击检测、安全训练和鲁棒推理；以及风险感知的人机交互的见解。这一分析揭示了若干被忽视的挑战，包括多模态感知融合的脆弱性、规划在jailbreak攻击下的不稳定性，以及在开放情境下人机交互的可信度问题。通过将该领域组织为一个连贯的框架并识别关键研究空白，本综述为构建在实际部署中具备能力、自主、安全、稳健和可靠的具身智能体提供了路线图。
引用
@article{arxiv.2605.02900,
title = {Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses},
author = {Xiao Li and Xiang Zheng and Yifeng Gao and Xinyu Xia and Yixu Wang and Xin Wang and Ye Sun and Yunhan Zhao and Ming Wen and Jiayu Li and Zixing Chen and Xun Gong and Yi Liu and Yige Li and Yutao Wu and Cong Wang and Jun Sun and Yixin Cao and Zhineng Chen and Jingjing Chen and Tao Gui and Qi Zhang and Zuxuan Wu and Xipeng Qiu and Xuanjing Huang and Tiehua Zhang and Zhipeng Wei and Kun Wang and Xinfeng Li and Hanxun Huang and Sarah Erfani and James Bailey and Jianping Wang and Chaowei Xiao and Ran He and Bo Li and Xingjun Ma and Yu-Gang Jiang},
journal= {arXiv preprint arXiv:2605.02900},
year = {2026}
}
备注
Survey paper; 75 pages, 4 figures, 18 tables; v2 expands embodied-specific coverage of agentic threats, World Action Model threats, and contextual risk mitigation, with over 100 new references added. Project page: https://x-zheng16.github.io/Awesome-Embodied-AI-Safety/