“AI 只是在不断猜测”：利用 ARC 谜题帮助儿童识别生成式 AI 中的推理错误
人机交互
2025-05-26 v1 计算机与社会
摘要
生成式人工智能（genAI）融入日常生活引发了对批判性使用这些技术所需能力的思考。与 genAI 中的视觉错误不同，文本错误通常更难检测，并且需要特定的领域知识。此外，AI 的权威语气和结构化响应可能造成正确性的错觉，导致过度信任，尤其是在儿童中。为解决此问题，我们开发了 AI Puzzlers，这是一个基于抽象与推理语料库（ARC）的交互式系统，旨在帮助儿童识别和分析 genAI 中的错误。借鉴 Mayer 和 Moreno 的多媒体学习认知理论，AI Puzzlers 使用视觉和语言元素来减少认知负荷并支持错误检测。基于与 21 名儿童（6-11 岁）进行的两次参与式设计会议，我们的发现提供了设计见解，以及对儿童如何识别 genAI 推理中的错误、制定应对这些错误的策略以及评估 AI 输出的实证理解。
引用
@article{arxiv.2505.16034,
title = {"AI just keeps guessing": Using ARC Puzzles to Help Children Identify Reasoning Errors in Generative AI},
author = {Aayushi Dangol and Runhua Zhao and Robert Wolfe and Trushaa Ramanan and Julie A. Kientz and Jason Yip},
journal= {arXiv preprint arXiv:2505.16034},
year = {2025}
}