儿童的过度信任与生成式 AI 意见的转变
人机交互
2024-07-02 v2
摘要
生成式 AI (genAI) 的能力近期显著提升，为儿童提供了利用新特性进行个人和学校相关活动的机会。然而，尽管 genAI 的未来正在形成，仍存在潜在有害限制，例如生成误导性和偏见输出。我们开展了一项以 ChatGPT 为焦点的工作坊研究，探讨了中学生女孩（N = 26）的态度和关于 genAI 工作原理的推理。我们聚焦于这些女孩，因为她们往往在算法偏见中受到不成比例的影响。我们发现：(1) 中学生女孩最初对 genAI 表现出过度信任；(2) 对 genAI 局限性和错误的刻意暴露将这种信任转变为对 genAI 能力的不信任，尽管她们仍对 genAI 的未来可能性持乐观态度；(3) 她们的学校政策想法比较细致。本工作为理解儿童如何思考像 ChatGPT 这样的 genAI 及其在学习环境中的整合提供了见解。
引用
@article{arxiv.2404.14511,
title = {Children's Overtrust and Shifting Perspectives of Generative AI},
author = {Jaemarie Solyst and Ellia Yang and Shixian Xie and Jessica Hammer and Amy Ogan and Motahhare Eslami},
journal= {arXiv preprint arXiv:2404.14511},
year = {2024}
}