按需深度伪造：可获取的非自愿深度伪造图像生成器之兴起

多模态机器学习的进步使得文本到图像（T2I）模型日益普及且易于获取。然而，T2I模型也带来了风险，例如生成可识别个人的非自愿描绘，即所谓的深度伪造。本文通过一项实证研究，探讨了在线获取深度伪造模型变体的便捷性。通过对两个流行仓库（Hugging Face 和 Civitai）上数千个可公开下载的模型变体进行元数据分析，我们证明了易于获取的深度伪造模型数量急剧增长。我们识别出近 35,000 个可公开下载的深度伪造模型变体实例，主要托管在 Civitai 上。自 2022 年 11 月以来，这些深度伪造模型已被下载近 1500 万次，其目标个体范围广泛，从全球名人到粉丝数不足 10,000 的 Instagram 用户。Stable Diffusion 和 Flux 模型均被用于创建深度伪造模型，其中 96% 针对女性，且许多模型显示出生成非自愿私密图像（NCII）的意图。深度伪造模型变体通常通过一种称为低秩适应（LoRA）的参数高效微调技术创建，仅需 20 张图像、24GB 显存和 15 分钟时间，使得这一过程可通过消费级计算机广泛实现。尽管这些模型违反了托管平台的服务条款，且监管措施旨在阻止其传播，但这些结果强调了迫切需要采取更强有力的行动来打击深度伪造和非自愿私密图像的生成。