从提示词到物理执行：LLM驱动机器人系统的整体威胁建模
密码学与安全
2026-05-05 v2 人工智能
机器人学
摘要
随着大语言模型被集成到自主机器人系统中用于任务规划与控制，受损输入或不安全的模型输出可能通过规划管道传播至物理世界。虽然已有研究独立探讨了机器人网络安全、对抗性感知攻击和LLM安全性，但现有研究尚未统一建模追踪这些威胁类别如何在架构层面交互并跨越信任边界传播。我们通过将LLM驱动的自主机器人建模为分层数据流图（Data Flow Diagram），并在六个边界跨越交互点上应用STRIDE-per-interaction分析，构建了基于Conventional Cyber Threats、Adversarial Threats、和Conversational Threats三类威胁的分析框架。分析结果表明，这些威胁类别在相同的边界跨越处汇聚，我们追踪了从外部入口点到不安全物理执行的三条跨边界攻击链，每条链暴露了一种独特的架构属性：用户输入与执行器调度之间缺乏独立语义验证、从视觉感知到语言模型指令的跨模态转换、以及提供方端工具使用的未经中介的边界跨越。据我们所知，这是首个基于DFD的威胁分析，集成了所有三类威胁，覆盖LLM驱动机器人系统的完整感知-规划-执行管道。
关键词
引用
@article{arxiv.2604.27267,
title = {From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems},
author = {Neha Nagaraja and Hayretdin Bahsi and Carlo R. da Cunha},
journal= {arXiv preprint arXiv:2604.27267},
year = {2026}
}
备注
Submitted to 23rd Annual International Conference on Privacy, Security, and Trust (PST2026)