ForesightSafety-VLA:面向视觉-语言-动作模型的统一诊断性安全基准
机器人学
2026-06-25 v1
摘要
在具身智能中,安全性是机器人在物理世界可靠部署的先决条件。当前视觉-语言-动作(VLA)模型持续朝通用任务能力推进,但其具身安全界限仍知之甚少。为弥补此差距,我们引入ForesightSafety-VLA,一个将安全作为VLA系统主要评估目标的诊断性基准。我们定义涵盖物理交互安全(Safe-Core)、指令侧安全(Safe-Lang)与感知侧安全(Safe-Vis)的13类安全分类法,并在三种受控变化维度——场景结构、语言指令与视觉观测——下评估策略,从而可诊断失败来源而非隐藏于单一聚合分数中。除二元任务成功外,ForesightSafety-VLA通过累积安全代价(CC)与风险暴露时间(RET)以及安全/不安全成功与失败的四象限分解来衡量过程级风险。我们在RoboTwin中实例化66个安全增强基础场景,跨5种具身形态,并报告代表性VLA基线结果。在所评估基线中,即便最强策略也产生非平凡安全代价与不安全的名义成功,而结构与视觉变化引发的安全退化远强于普通语言变化。这些结果表明具身安全紧密耦合于感知、接地与控制能力,而非可归约为事后安全过滤本身。
引用
@article{arxiv.2606.27079,
title = {ForesightSafety-VLA: A Unified Diagnostic Safety Benchmark for Vision-Language-Action Models},
author = {Mingyang Lyu and Yinqian Sun and Yiyang Jia and Sicheng Shen and Moquan Sha and Huangrui Li and Feifei Zhao and Yi Zeng},
journal= {arXiv preprint arXiv:2606.27079},
year = {2026}
}
备注
8 pages, 5 figures, 4 tables. Submitted to IROS 2026