大语言模型的啼声:用户如何感知并回应其中的恶意模式
人机交互
2026-03-20 v4
摘要
大型语言模型可通过对话影响用户，创造出与传统 UX 恶意模式不同的新型形式。我们将 LLM 恶意模式定义为在对话中施加的操纵性或欺骗性行为。drawing on 既有工作和 AI incident reports，我们概述了一套具有代表性的类别并提供了真实世界的实例。借助这些分类，我们进行了基于情景的研究，让参与者(N=34)比较操纵性和中性 LLM 响应。我们的结果揭示，用户对 LLM 恶意模式的识别往往取决于对话线索，如夸大赞同、偏向性框架化或隐私侵入等行为，但这些行为也有时被正当化为普通帮助。用户对这些恶意模式的感知方式塑造了他们如何回应这些模式。针对这些行为的责任归属也以不同方式被归因，参与者将其归因于公司和开发者、模型本身或用户。我们随后提出了一系列用于保障用户自主性的设计、倡导和治理措施的含义。
引用
@article{arxiv.2509.10830,
title = {The Siren Song of LLMs: How Users Perceive and Respond to Dark Patterns in Large Language Models},
author = {Yike Shi and Qing Xiao and Qing Hu and Hong Shen and Hua Shen},
journal= {arXiv preprint arXiv:2509.10830},
year = {2026}
}
备注
23 pages, 7 figures. Accepted at CHI 2026 (ACM Conference on Human Factors in Computing Systems), Barcelona, Spain. Project website: https://llm-dark-pattern.com