生成式 AI 素养训练提升情报分析师对真实与 AI 生成图像的辨别能力

在各个社交和在线平台上，人们越来越多地接触到 AI 生成的图像。因此，区分 AI 生成图像与真实图像的任务正成为信息生态系统面临的核心挑战。虽然人类的表现优于随机猜测，但其准确率远未达到许多操作需求。初步证据表明，面向视觉的训练可以提高 deepfake 检测能力，但并不能提高参与者将真实图像识别为真实的能力。在此，我们调查了一项针对 2024 年受雇于美国政府的情报分析师的简短训练干预的有效性。我们进行了一项平衡的受试者内随机实验，在实验中，我们向参与者展示了在姿态复杂度和场景背景上有所变化的真实和 AI 生成图像，并在专家进行 30 分钟培训（指出 7 张真实图像和 50 张 AI 生成图像中的模式）前后，询问他们每张图像是真实的还是 AI 生成的。我们收集了 32 名情报分析师的 2,544 个图像级别判断。我们发现，训练将总体准确率从 72% 的基线提高了 9 个百分点（95% CI：[2.7, 15.4]）。我们发现，这种提升主要是由真实图像准确率提高 14.2 个百分点（95% CI：[0.7, 27.7]）所驱动的。通过精心设计的实验设置，我们在不同姿态复杂度类别中挑选了匹配的真实和 AI 生成图像对，揭示了这些训练如何影响具有不同数字取证和生成式 AI 经验水平的人群，并确定了这种训练干预似乎最有效的基于图像的内容类型。最终，这些结果提供了因果证据，表明简短的结构化训练可以提高人类对各种真实和 AI 生成图像的判断力，为组织应对 AI 生成的视觉虚假信息提供了参考。