谁控制对话？面向生成式 AI（LLM）系统提示的用户视角
计算机与社会
2026-03-03 v1
摘要
系统提示（system prompts）即影响生成式 AI 系统输出和用户体验的指令。它们定义模型的准则、'人格'和限制，优先于用户输入。尽管其影响显著，但透明度有限：系统提示通常不公开，大多数平台指示模型隐藏它们，使用户与不了解引导和治理其 AI 交互的关键机制隔离。本文认为系统提示需要用户导向的设计关注，并聚焦大语言模型（LLM），提出问题：系统提示包含什么，终端用户如何感知它们，以及这些感知为设计和治理实践提供了什么？我们的研究结果揭示了用户关于：系统提示的利益与风险；他们希望提示设计关联的价值观；他们对不同类型提示的舒适度；以及关于提示内容的透明度和用户控制程度。从这些发现中浮现出设计师如何更好地将系统提示机制与用户期望和偏好相匹配的考虑，以及这些直接塑造生成式 AI 系统行为的机制。
引用
@article{arxiv.2603.00089,
title = {Who Controls the Conversation? User Perspectives On Generative AI (LLM) System Prompts},
author = {Anna Neumann and Yulu Pi and Jatinder Singh},
journal= {arXiv preprint arXiv:2603.00089},
year = {2026}
}
备注
Accepted to CHI 2026 Paper Track