点亮还是黯淡？探索大语言模型在协同创作中的暗黑模式
计算与语言
2026-04-07 v1
摘要
大语言模型（LLMs）日益成为协作写作伙伴，引发对其对人类主体性影响的质疑。本 exploratory 研究探讨了五类人类-AI 协同创作中的“暗黑模式”——这些是微妙的模型行为，可抑制或扭曲创作过程：迎合性（Sycophancy）、语气管控（Tone Policing）、道德化（Moralizing）、死循环（Loop of Death）和锚定效应（Anchoring）。通过一系列受控会话，在多样化的文学形式和主题中让 LLMs 充当写作助手，我们分析了这些行为在生成响应中的存在率。我们的初步结果表明，迎合性几乎普遍存在（91.7%），尤其在敏感话题上，锚定效应则取决于文学形式，在民间故事中最为常见。该研究表明，这些暗黑模式常作为安全对齐的副产品，可能无意中缩小创作探索的范围，并提出了设计考虑因素，以有效支持创意写作的 AI 系统。
引用
@article{arxiv.2604.04735,
title = {Lighting Up or Dimming Down? Exploring Dark Patterns of LLMs in Co-Creativity},
author = {Zhu Li and Jiaming Qu and Yuan Chang},
journal= {arXiv preprint arXiv:2604.04735},
year = {2026}
}