深度伪造肯定吗？在检测与生成生态系统中的可靠性分析

随着生成模型在质量和数量方面的不断提升，深度伪造内容开始导致在线信任危机。深度伪造检测器被提出来抵消这一效应，但声称将虚假内容标记为真实或反之的误用进一步加剧了这种误information问题。我们提出了深度伪造检测器的首个全面不确定性分析，系统性地研究生成性人工痕迹如何影响预测置信度。从检测器的响应来看，深度伪造生成器也贡献了这种不确定性，因为其生成残留差异。因此，我们跨越了深度伪造检测器和生成器的不确定性分析。基于我们的观察，置信谱域包含足够的一致信息，可用于利用不确定性进行深度伪造来源检测。我们的ethods利用贝叶斯神经网络和蒙特卡罗 dropout 对不同检测器架构中的 aleatoric 与 epistemic 不确定性进行量化。我们在两个数据集上进行评估，涉及九个生成器、四个盲测和两个生物检测器，比较不同的不确定性方法，探索区域级和像素级不确定性，并进行消融研究。我们进行和分析二元真实/假、多类真实/假、来源检测和留一检验实验，以共享生成器/检测器组合之间的泛化能力、模型校准、不确定性和对对抗攻击的鲁棒性。我们进一步引入置信度图，在像素级别局部化预测置信度，揭示与生成器特定痕迹相关的不同模式。我们的分析为部署可靠的深度伪造检测系统提供了关键见解，并将不确定性量化确立为可信赖合成媒体检测的基本要求。