测试人类检测人脸深度伪造图像的能力

深度伪造（deepfakes）是虚假表征现实的计算生成实体。它们可呈现图像、视频与音频模态，并对系统与社会的诸多领域构成威胁，构成网络安全与网络安全的各方面关注话题。2020年，一个由学术界、警务界、政府、私营部门与国家安全机构 AI 专家组成的研讨会将深度伪造列为最严重的人工智能威胁。这些专家注意到，由于伪造材料可通过许多不受控途径传播，公民行为的改变可能是唯一有效的防御手段。本研究旨在评估人类从非深度伪造图像（FFHQ）中识别人脸图像深度伪造（StyleGAN2:FFHQ）的能力，并评估旨在提高检测准确率的简单干预措施的有效性。通过一项在线调查，280名参与者被随机分配至四组之一：对照组与3个辅助干预组。每位参与者被展示从50张深度伪造与50张真实人脸图像池中随机选取的20张图像序列。参与者被要求判断每张图像是否由 AI 生成，报告其置信度，并描述每次回答背后的推理。总体检测准确率仅略高于随机水平，且没有任何干预显著改善该准确率。参与者对其答案的置信度很高，且与准确率无关。基于每张图像评估结果显示，参与者一致发现某些图像更难正确标注，但无论图像如何均报告相似的高置信度。因此，尽管参与者总体准确率为62%，但跨图像的准确率在85%至30%之间相当均匀地分布，且每五张图像中有一张准确率低于50%。我们将这些发现解读为表明亟需采取行动以应对该威胁。