测量来自不可信第三方渠道的恶意提示下的移动 LLM 智能体安全性
密码学与安全
2025-11-07 v2
摘要
大型语言模型 (LLM) 正变革软件开发，使能够实现自动化跨多种应用和工作流程的 AI 驱动应用——即 LLM 基于智能体的应用，成为可能。然而， 在对抗性移动环境中部署此类智能体的安全性影响尚未得到充分了解。本文提出了针对移动 LLM 智能体安全风险的首个系统性研究。我们设计并评估了一套对抗案例，从机会主义操纵（如弹出广告）到涉及恶意软件安装和跨应用数据外泄的高级端到端工作流程。我们的评估覆盖了八个最先进的移动智能体，涉及三个架构，超过 2000 项对抗性和配对良性试验。结果揭示了系统性漏洞：低门槛向量如欺诈广告以 80% 以上的可靠性成功，而即便是需要规避操作系统警告的工作流程（如恶意软件安装），高级多应用智能体也始终如一地完成。通过将这些攻击映射到 MITRE ATT&CK Mobile 框架，我们发现了 LLM 驱动自动化特有的新型特权升级和持久性路径。总体而言，我们的发现首次提供了证据表明，在现实对抗环境中，移动 LLM 智能体是可被利用的，而不可信第三方渠道（如广告、嵌入式 Webview、跨应用通知）是移动生态系统的内在组成部分。
引用
@article{arxiv.2510.27140,
title = {Measuring the Security of Mobile LLM Agents under Adversarial Prompts from Untrusted Third-Party Channels},
author = {Chenghao Du and Quanfeng Huang and Tingxuan Tang and Zihao Wang and Adwait Nadkarni and Yue Xiao},
journal= {arXiv preprint arXiv:2510.27140},
year = {2025}
}