通过物理对象针对视觉-语言-动作模型的目标导向后门攻击
密码学与安全
2025-10-13 v1 计算机视觉与模式识别
机器学习
摘要
视觉-语言-动作（VLA）模型的最新进展大大提升了具身AI，使机器人能够遵循自然语言指令并执行多样化任务。然而，其对未经筛选的训练数据集的依赖引发了严重的安全担忧。针对VLA的现有后门攻击大多假设白盒访问，并导致任务失败而非强制执行特定操作。在本工作中，我们揭示了一个更实际的威胁：攻击者只需将物理对象作为触发器注入训练数据集即可操纵VLA。我们提出了目标导向后门攻击（GoBA），其中VLA在物理触发器不存在时表现正常，但在物理触发器存在时执行预定义的、目标导向的动作。具体而言，基于流行的VLA基准LIBERO，我们引入了BadLIBERO，其中包含多样化的物理触发器和目标导向后门动作。此外，我们提出了一种三级评估，将受害VLA在GoBA下的动作分为三种状态：无事可做、尝试执行和成功执行。实验表明，当物理触发器存在时，GoBA使受害VLA在97%的输入中成功实现后门目标，而在干净输入上造成零性能退化。最后，通过调查与GoBA相关的因素，我们发现动作轨迹和触发器颜色显著影响攻击性能，而触发器大小几乎没有影响。代码和BadLIBERO数据集可通过项目页面https://goba-attack.github.io/获取。
引用
@article{arxiv.2510.09269,
title = {Goal-oriented Backdoor Attack against Vision-Language-Action Models via Physical Objects},
author = {Zirun Zhou and Zhengyang Xiao and Haochuan Xu and Jing Sun and Di Wang and Jingfeng Zhang},
journal= {arXiv preprint arXiv:2510.09269},
year = {2025}
}