人类对音频深度伪造的感知

深度伪造(deepfake)近来的出现使被操纵和生成的内容成为机器学习研究的前沿。深度伪造的自动检测已涌现许多新的机器学习技术,然而人类检测能力却鲜有探索。在本文中,我们给出了人类与机器在检测用于模仿他人声音的音频深度伪造方面能力的比较结果。为此,我们使用了一个以游戏形式构建的基于 Web 的应用框架。参与者被要求区分真实与伪造的音频样本。在我们的实验中,472 名独立用户针对一种最先进的 AI 深度伪造检测算法进行了共计 14912 轮游戏对抗。我们发现人类与深度伪造检测算法具有相似的强项与弱点,二者都难以检测某些类型的攻击。这与 AI 在目标检测或人脸识别等许多应用领域中的超人表现形成对比。关于人类成功因素,我们发现 IT 专业人员相对于非专业人员并无优势,但母语者相对于非母语者具有优势。此外,我们发现年长参与者往往比年轻参与者更易受影响。这些见解或有助于设计面向人类的未来网络安全培训以及开发更好的检测算法。