关于深度伪造的溯源归属
机器学习
2021-03-05 v2 密码学与安全
计算机视觉与模式识别
计算机与社会
摘要
生成建模尤其是生成对抗网络(GAN)的进展，使得大规模高效合成与篡改媒体成为可能。恶意个体如今依赖这些机器生成的媒体（即深度伪造）来操纵社会话语。为确保媒体真实性，现有研究聚焦于深度伪造检测。然而，用于生成建模的框架的对抗性本质意味着检测深度伪造的进展将促成更逼真的深度伪造生成。因此，生成模型的开发者正受到处理虚假信息活动的利益相关者的审视也就不足为奇了。同时，生成模型有许多积极应用。因此，显然需要开发工具以确保生成建模的透明使用，同时将恶意应用造成的危害降至最低。我们的技术对每个生成模型的熵源进行优化，以概率方式将深度伪造归属到其中一个模型。我们在人脸合成这一开创性示例上评估了我们的方法，表明我们的方法达到 97.62% 的归属准确率，并且对扰动和对抗样本较不敏感。我们讨论了工作的伦理影响，确定了我们的技术可应用的场景，并强调需要更有意义的立法框架以实现生成建模更透明和合乎伦理的使用。最后，我们认为模型开发者应能够主张合理的否认能力，并提出了实现此目标的第二个框架——该框架允许模型开发者生成证据，证明他们并未生成被指控由其生成的媒体。
关键词
引用
@article{arxiv.2008.09194,
title = {On Attribution of Deepfakes},
author = {Baiwu Zhang and Jin Peng Zhou and Ilia Shumailov and Nicolas Papernot},
journal= {arXiv preprint arXiv:2008.09194},
year = {2021}
}