FakeSpotter：一种简洁而鲁棒的 AI 合成假脸检测基线

Run Wang; Felix Juefei-Xu; Lei Ma; Xiaofei Xie; Yihao Huang; Jian Wang; Yang Liu

FakeSpotter：一种简洁而鲁棒的 AI 合成假脸检测基线

密码学与安全 2020-07-17 v3 计算机视觉与模式识别机器学习

作者: Run Wang , Felix Juefei-Xu , Lei Ma , Xiaofei Xie , Yihao Huang , Jian Wang , Yang Liu

摘要

近年来，生成对抗网络（GANs）及其变体在图像合成方面取得了前所未有的成功。它们被广泛用于合成人脸图像，随着伪造品传播并助长错误信息，这给人类带来了潜在的安全隐患。然而，针对这些 AI 合成假脸的鲁棒检测器仍处于起步阶段，尚未完全准备好应对这一新兴挑战。在这项工作中，我们提出了一种基于监控神经元行为来发现 AI 合成假脸的新方法，名为 FakeSpotter。关于神经元覆盖率和交互作用的研究已成功表明，它们可作为深度学习系统的测试准则，尤其是在暴露于对抗攻击的设置下。此处我们推测，监控神经元行为也可作为检测假脸的一种手段，因为逐层神经元激活模式可能捕捉到对假脸检测器重要的更细微特征。在检测由最先进 GANs 合成的四种假脸并规避四种扰动攻击上的实验结果表明了我们方法的有效性和鲁棒性。

关键词

假脸检测生成对抗网络神经元行为深度学习对抗攻击 AI 合成人脸

引用

@article{arxiv.1909.06122,
  title  = {FakeSpotter: A Simple yet Robust Baseline for Spotting AI-Synthesized Fake Faces},
  author = {Run Wang and Felix Juefei-Xu and Lei Ma and Xiaofei Xie and Yihao Huang and Jian Wang and Yang Liu},
  journal= {arXiv preprint arXiv:1909.06122},
  year   = {2020}
}

FakeSpotter：一种简洁而鲁棒的 AI 合成假脸检测基线

摘要

关键词

引用

备注

相关论文