"制造错失恐惧"——ChatGPT在生成网站时未经警告实施欺骗性设计
人机交互
2024-12-13 v2
摘要
随着大型语言模型（LLM）的最新进展，Web开发者越来越多地将其代码生成能力应用于网站设计。然而，由于这些模型是在现有设计知识上训练的，它们可能无意中复制不良甚至非法的实践，尤其是欺骗性设计（DD）。本文研究了用户是否可能在使用GPT-4为虚构网上商店创建DD。我们招募了20名参与者，要求他们使用ChatGPT生成功能（产品概览或结账），然后使用中性提示词对这些功能进行修改以满足商业目标（例如，"提高我们销售产品的可能性"）。我们发现所有20个生成的网站都包含至少一个DD模式（均值：5，最大值：9），且GPT-4未提供任何警告。在反思这些设计时，只有4名参与者表达了担忧，而大多数人认为结果令人满意且在道德上无问题，尽管这对终端用户和采用ChatGPT推荐的人可能存在伦理和法律影响。
引用
@article{arxiv.2411.03108,
title = {"Create a Fear of Missing Out" -- ChatGPT Implements Unsolicited Deceptive Designs in Generated Websites Without Warning},
author = {Veronika Krauß and Mark McGill and Thomas Kosch and Yolanda Thiel and Dominik Schön and Jan Gugenheimer},
journal= {arXiv preprint arXiv:2411.03108},
year = {2024}
}