探究生成式 AI 中欺骗的“平庸性”
人机交互
2026-05-11 v1 计算机与社会
摘要
当前应对欺骗性设计的方法主要集中于可见的界面操纵，通常被称为“暗黑模式”。随着生成式 AI 的兴起，欺骗变得更难被发现且更容易被习惯，因为它悄然嵌入在默认设置、自动建议和对话交互中，而非离散的界面元素。这些微妙且常态化的影响形式被 Simone Natale 框定为“平庸的欺骗”，它们塑造着日常数字使用，并模糊了 AI 辅助与操纵之间的界限。本立场论文将平庸性作为一个视角，借此推理生成式 AI 体验（尤其是聊天机器人）中的欺骗现象。我们探讨了 Natale 所描述的用户自身参与其欺骗的过程，并认为这种视角可以为未来的研究指明方向，通过引入摩擦来保护用户免受生成式 AI 交互中的欺骗，例如通过提高意识来赋能用户、为他们提供干预工具，以及改进监管或执法。我们提出这些概念，作为供欺骗性设计学术界讨论的要点。
引用
@article{arxiv.2605.07012,
title = {Exploring the "Banality" of Deception in Generative AI},
author = {Ishitaa Narwane and Johanna Gunawan and Konrad Kollnig},
journal= {arXiv preprint arXiv:2605.07012},
year = {2026}
}
备注
Accepted at CHI'26 ACAI Workshop