不断演变的威胁环境下深度伪造图像检测最新进展分析

使用深度生成模型生成的深度伪造或合成图像对在线平台构成了严重风险。这引发了多项研究努力以准确检测深度伪造图像，并在公开可用的深度伪造数据集上取得了优异性能。在这项工作中，我们研究了8种最先进的检测器，并认为由于两个最新进展，它们远未达到可部署的程度。首先，轻量级定制大型生成模型方法的出现，使攻击者能够创建许多定制的生成器（用于创建深度伪造），从而大幅增加了威胁面。我们表明，现有的防御措施无法很好地泛化到如今公开可用的此类用户定制生成模型。我们讨论了基于内容无关特征和集成建模的新机器学习方法，以提高针对用户定制模型的泛化性能。其次，视觉基础模型（在广泛数据上训练、可轻松适应多个下游任务的机器学习模型）的出现，可能被攻击者滥用，以制作能够规避现有防御的对抗性深度伪造。我们提出了一种简单的对抗攻击，利用现有的基础模型，通过仔细的语义操作图像内容，在不添加任何对抗噪声的情况下制作对抗样本。我们强调了多种防御措施在面对我们的攻击时的脆弱性，并探索了利用先进基础模型和对抗训练来防御这一新威胁的方向。