增强 LLM 集成机器人系统可靠性：面向安全与安全的统一方法
机器人学
2025-09-03 v1 人工智能
摘要
将大型语言模型（LLM）集成到机器人系统中已彻底革新了具身人工智能，使其能够实现高级决策和适应性。然而，确保可靠性——包括抵御对抗性攻击的安全性以及在复杂环境中的安全性——仍然是一个关键挑战。为此，我们提出了一个统一框架，通过稳健的验证机制来缓解提示注入攻击，同时强制执行操作安全。我们的 метод结合了提示组装、状态管理和安全验证，使用性能和安全指标进行评估。实验结果显示，在注入攻击下实现了30.8%的改进，在对抗性条件下的复杂环境设置中实现了最高可达325%的改进。该工作弥合了 LLM-based 机器人系统中安全性与可靠性之间的鸿沟，为在实际环境中部署可靠的 LLM 集成移动机器人提供了可操作见解。该框架已开源，提供了仿真和物理部署演示，访问地址为 https://llmeyesim.vercel.app/
引用
@article{arxiv.2509.02163,
title = {Enhancing Reliability in LLM-Integrated Robotic Systems: A Unified Approach to Security and Safety},
author = {Wenxiao Zhang and Xiangrui Kong and Conan Dewitt and Thomas Bräunl and Jin B. Hong},
journal= {arXiv preprint arXiv:2509.02163},
year = {2025}
}