恶意 Vizier：集成 LLM 的 XR 系统漏洞分析
密码学与安全
2025-09-30 v2
摘要
扩展现实（XR）应用越来越多地集成大型语言模型（LLMs）以提升用户体验、场景理解甚至生成可执行的 XR 内容，常被称为"AI 眼镜"。尽管具有这些潜在优势，但集成的 XR-LLM 管道使 XR 应用暴露于新的攻击形式。本文从系统层面分析了文献中及实际中的 LLM-Integated XR 系统，并沿不同维度对其进行分类。基于此分类，我们识别出常见威胁模型，演示了在多个 XR 平台上的系列 proof-of-concept 攻击，这些平台采用 various LLM 模型（Meta Quest 3、Meta Ray-Ban、Android 和运行 Llama 和 GPT 模型的 Microsoft HoloLens 2）。尽管这些平台以不同方式实现了 LLM 集成，但它们共享漏洞：攻击者可修改合法 LLM 查询周围的公共上下文，导致向用户提供错误的视觉或听觉反馈，从而危及其安全或隐私，引发混淆或其他有害影响。为抵御这些威胁，我们讨论了开发者的缓解策略和最佳实践，包括初始防御原型，并呼吁社区开发新的保护机制以缓解这些风险。
引用
@article{arxiv.2509.15213,
title = {Evil Vizier: Vulnerabilities of LLM-Integrated XR Systems},
author = {Yicheng Zhang and Zijian Huang and Sophie Chen and Erfan Shayegani and Jiasi Chen and Nael Abu-Ghazaleh},
journal= {arXiv preprint arXiv:2509.15213},
year = {2025}
}