深入探讨黑模式对基于 LLM 的网页智能体的影响
密码学与安全
2025-10-22 v1
摘要
随着用户越来越多地使用基于大型语言模型（LLM）的网页智能体来自动化在线任务，智能体可能会遇到黑暗模式：这些是操纵用户做出非意图决策的欺骗性用户界面设计。虽然黑暗模式主要针对人类用户，但其对基于 LLM 的通用网页智能体可能存在的有害影响尚未得到探讨。本文提出首个研究，考察黑暗模式对基于 LLM 的通用网页智能体决策过程的影响。为实现此目标，我们引入 LiteAgent，一个轻量级框架，自动提示智能体执行任务，同时捕获其交互的详细日志和屏幕录制。我们还提出 TrickyArena，一个受控环境，包含来自电子商务、流媒体服务和新闻平台等领域的网页应用，每个领域都包含可选择启用或禁用的多样化且逼真的黑暗模式。通过 LiteAgent 和 TrickyArena，我们进行了多项实验，以评估单一黑暗模式和组合黑暗模式对网页智能体行为的影响。我们在六个流行的基于 LLM 的通用网页智能体上进行了实验，涉及三个 LLM，发现当仅存在一个黑暗模式时，智能体受其影响的平均概率为 41%。我们还发现，通过修改黑暗模式的 UI 属性（如视觉设计或 HTML 代码调整）以及同时引入多个黑暗模式，都可以影响智能体的易受程度。该研究强调了在网页智能体中需要综合防御机制，涵盖智能体特定的保护以及更广泛的网页安全措施。
引用
@article{arxiv.2510.18113,
title = {Investigating the Impact of Dark Patterns on LLM-Based Web Agents},
author = {Devin Ersoy and Brandon Lee and Ananth Shreekumar and Arjun Arunasalam and Muhammad Ibrahim and Antonio Bianchi and Z. Berkay Celik},
journal= {arXiv preprint arXiv:2510.18113},
year = {2025}
}
备注
At IEEE S&P 2026