面向生成模型的人工指纹：将深度伪造溯源根植于训练数据
密码学与安全
2022-03-21 v7 计算机视觉与模式识别
计算机与社会
图形学
机器学习
摘要
由于生成对抗网络（GAN）的突破，照片级真实感图像生成已达到新的质量水平。然而，此类深度伪造的阴暗面，即生成媒体的恶意使用，引发了人们对视觉错误信息的担忧。尽管现有的深度伪造检测研究工作表现出很高的准确率，但它受制于生成技术的进展以及检测对抗技术的对抗性迭代。因此，我们寻求一种主动且可持续的深度伪造检测解决方案，该方案对生成模型的演进不可知，通过将人工指纹引入模型来实现。我们的方法简单而有效。我们首先将人工指纹嵌入训练数据，然后验证了一个令人惊讶的发现：此类指纹可从训练数据迁移到生成模型，进而出现在生成的深度伪造中。实验表明，我们的指纹方案（1）适用于多种前沿生成模型，（2）对生成质量产生可忽略的副作用，（3）对图像级和模型级扰动保持鲁棒，（4）难以被对手检测，（5）将深度伪造检测与溯源转化为平凡任务，并优于近期最先进的基线。我们的方案在发布预训练生成模型发明与其可能的滥用之间闭合了责任环路，使其独立于当前的军备竞赛。代码与模型见 https://github.com/ningyu1991/ArtificialGANFingerprints 。
引用
@article{arxiv.2007.08457,
title = {Artificial Fingerprinting for Generative Models: Rooting Deepfake Attribution in Training Data},
author = {Ning Yu and Vladislav Skripniuk and Sahar Abdelnabi and Mario Fritz},
journal= {arXiv preprint arXiv:2007.08457},
year = {2022}
}
备注
Accepted to ICCV'21 as Oral