平庸欺骗的人机生态系统：人们对大语言模型生成欺骗行为的感知研究
计算机与社会
2025-10-29 v1
摘要
大语言模型（LLM）可能向用户提供虚假、不准确或误导性信息，我们将此类信息的输出视为Natale（2021）所称的“平庸”欺骗行为。在此，我们调查了人们对ChatGPT生成的欺骗行为的感知，以及这如何影响人们自身的行为和信任。为此，我们采用混合方法，包括（i）一项包含220名参与者的在线调查和（ii）对12名参与者的半结构化访谈。我们的结果表明：（i）最常见的欺骗信息类型是过度简化和过时信息；（ii）人类对ChatGPT的信任和“值得”交谈的感知受到“平庸”欺骗行为的影响；（iii）对欺骗的感知责任受教育水平和欺骗信息频率的影响；（iv）用户在遇到欺骗信息后变得更加谨慎，但当他们识别出使用该技术的优势时，会逐渐更加信任该技术。我们的发现有助于理解“欺骗性AI生态系统”背景下的人机交互动态，并强调了以用户为中心的方法在减轻欺骗性AI技术潜在危害方面的重要性。
引用
@article{arxiv.2406.08386,
title = {Banal Deception Human-AI Ecosystems: A Study of People's Perceptions of LLM-generated Deceptive Behaviour},
author = {Xiao Zhan and Yifan Xu and Noura Abdi and Joe Collenette and Ruba Abu-Salma and Stefan Sarkadi},
journal= {arXiv preprint arXiv:2406.08386},
year = {2025}
}