信任于 LLM 控制的机器人：安全威胁、防御与挑战综述
机器人学
2026-01-07 v1
摘要
大型语言模型（LLM）集成到机器人领域正在革新其解释复杂人类指令并执行复杂任务的能力。然而，这一范式转变引入了Critical 安全漏洞，源于“具身鸿沟”，即 LLM 的抽象推理与机器人物理、情境依赖性本质之间的不一致。虽然针对基于文本的 LLM 的安全研究正在积极进行，但现有解决方案往往不足以解决具身机器人代理的独特威胁，其中恶意输出不仅表现为有害文本，更表现为危险的物理行动。本文提出了一项系统性综述，概述了针对 LLM 控制机器人日益出现的威胁格局及相应防御策略。具体而言，我们讨论了涵盖越狱、后门攻击和多模态提示注入等话题的全面攻击向量分类。针对此， 我们分析并归类了一系列防御机制，包括形式安全规范、运行时强制执行、多 LLM 监督和提示硬化等。此外，我们回顾了用于评估这些具身系统鲁棒性的关键数据集和基准。通过综合当前研究，本工作突显了迫切需要情境感知安全解决方案的需求，并为开发安全、可靠的 LLM 控制机器人提供了基础性路线图。
引用
@article{arxiv.2601.02377,
title = {Trust in LLM-controlled Robotics: a Survey of Security Threats, Defenses and Challenges},
author = {Xinyu Huang and Shyam Karthick V B and Taozhao Chen and Mitch Bryson and Thomas Chaffey and Huaming Chen and Kim-Kwang Raymond Choo and Ian R. Manchester},
journal= {arXiv preprint arXiv:2601.02377},
year = {2026}
}