从使用到监督：心理模型如何影响 AI 写作助手中的用户行为与输出
人机交互
2026-04-08 v1 人工智能
摘要
基于 AI 的写作助手已无处不在，但用户对心理模型如何塑造其使用方式知之甚少。我们研究了两种心理模型——功能性的（与系统做什么相关）和结构性的（与系统如何工作相关）——以及它们如何影响控制行为（用户在写作时如何请求、接受或编辑 AI 建议）和写作结果。我们通过不同的系统描述对参与者（N=48）进行引导，以诱导这些心理模型，然后要求他们使用写作助手完成一封求职信写作任务，该助手偶尔会提供预先配置的不合语法建议，以测试心理模型是否影响了参与者对错误输出的批判性监督。我们发现，虽然结构性心理模型条件下的参与者表现出对系统更好的理解，但这可能产生反作用：这些参与者虽然判定系统更可用，但也生成了包含更多语法错误的信件，凸显了在需要用户对易错 AI 输出进行监督的语境下，系统理解、信任与控制之间的复杂关系。
引用
@article{arxiv.2604.05166,
title = {From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants},
author = {Shalaleh Rismani and Su Lin Blodgett and Q. Vera Liao and Alexandra Olteanu and AJung Moon},
journal= {arXiv preprint arXiv:2604.05166},
year = {2026}
}