从助手到对手：探索移动 LLM 代理的安全风险
密码学与安全
2025-05-21 v2 人工智能
人机交互
摘要
大型语言模型 (LLM) 的广泛采用催生了移动计算中的新范式——LLM-powered 移动 AI 代理，能够在智能手机上分解和自动化复杂任务。然而，这些代理的安全影响至今鲜有探讨。本文提供了移动 LLM 代理的首个全面安全分析，涵盖三个代表性类别：由原始设备制造商开发的 System-level AI 代理（如 YOYO Assistant）、第三方通用代理（如 Zhipu AI AutoGLM）以及新兴代理框架（如 Alibaba Mobile Agent）。我们首先分析移动代理的通用工作流程，识别出在语言推理、GUI 交互和 system-level 执行三个核心能力维度上的安全威胁。我们的分析揭示了 11 个distinct攻击面，全部源于移动 LLM 代理的独特能力和交互模式，贯穿其整个运行生命周期。为实际调查这些威胁，本文引入 AgentScan—a semi-automated 安全分析框架，对九个广泛部署的代理进行系统评估。我们发现令人关切的趋势：每个代理都受到针对性攻击的威胁。在最严重情况下，代理在八个 distinct 攻击向量上都存在漏洞。这些攻击可导致行为偏差、隐私泄露，甚至完全执行劫持。基于此，我们提出了一套防御性设计原则和实用建议，用于构建安全的移动 LLM 代理。我们的披露已获得两大设备厂商的积极反馈。总体而言，本工作凸显了在 LLM 驱动的移动自动化快速演变背景下，亟需制定标准化安全实践的紧迫性。
引用
@article{arxiv.2505.12981,
title = {From Assistants to Adversaries: Exploring the Security Risks of Mobile LLM Agents},
author = {Liangxuan Wu and Chao Wang and Tianming Liu and Yanjie Zhao and Haoyu Wang},
journal= {arXiv preprint arXiv:2505.12981},
year = {2025}
}