新手用户能否创建深度伪造？
密码学与安全
2023-05-01 v1 人工智能
人机交互
摘要
机器学习与计算机视觉的最新进展导致了 Deepfakes（深度伪造）的泛滥。随着技术随时间民主化，人们日益担忧新手用户能够创建 Deepfakes，以诋毁他人并破坏公共话语。在本文中，我们进行用户研究以理解具有高级计算机技能与不同计算机科学专业水平的参与者能否利用有限的媒体文件创建某人说出目标语句的 Deepfakes。我们进行两项研究；在第一项研究（n = 39）中，参与者在受限时间内使用任何他们想要的工具尝试创建目标 Deepfake。在第二项研究（n = 29）中，参与者使用预指定的基于深度学习的工具创建相同的 Deepfake。我们发现，对于第一项研究，23.1% 的参与者成功创建了包含音频与视频的完整 Deepfakes，而对于第二项用户研究，58.6% 的参与者成功将目标语音缝合到目标视频上。我们进一步使用 Deepfake 检测软件工具以及基于人工检查者的分析，将成功生成的 Deepfake 输出分类为伪造、可疑或真实。软件检测器将 80% 的 Deepfakes 分类为伪造，而人工检查者将 100% 的视频分类为伪造。我们得出结论，给定适当的工具与时间，创建 Deepfakes 对新手用户而言是足够简单的任务；然而，生成的 Deepfakes 看起来不够真实，且无法完全欺骗检测软件与人工检查者。
引用
@article{arxiv.2304.14576,
title = {Can deepfakes be created by novice users?},
author = {Pulak Mehta and Gauri Jagatap and Kevin Gallagher and Brian Timmerman and Progga Deb and Siddharth Garg and Rachel Greenstadt and Brendan Dolan-Gavitt},
journal= {arXiv preprint arXiv:2304.14576},
year = {2023}
}