以假乱真：面向深度伪造检测的对抗性头部转动攻击
计算机视觉与模式识别
2023-09-06 v1 密码学与安全
机器学习
多媒体
摘要
深度伪造的恶意使用引发严重公众担忧，并降低人们对数字媒体的信任。尽管已有有效的深度伪造检测器被提出，它们在对对抗攻击方面仍相当脆弱。为评估检测器的鲁棒性，近期研究探索了多种攻击。然而，现有攻击均局限于二维图像扰动，难以转化为现实世界中的面部变化。本文提出对抗性头部转动（AdvHeat），这是基于单视角伪造图像人脸视角合成、首个针对深度伪造检测器的三维对抗人脸视角攻击。大量实验验证了各类检测器在真实黑盒场景下对 AdvHeat 的脆弱性。例如，基于简单随机搜索的 AdvHeat 在 360 次搜索步下达到 96.8% 的高攻击成功率。当允许额外查询访问时，我们可进一步将步数预算降至 50。附加分析表明，AdvHeat 在跨检测器迁移性与对防御的鲁棒性上均优于传统攻击。AdvHeat 生成的对抗图像也被证明具有自然外观。我们的代码（包括为 FaceForensics++ 中 1000 个 ID 各生成含 360 个合成视角的多视角数据集的代码）可在 https://github.com/twowwj/AdvHeaT 获取。
引用
@article{arxiv.2309.01104,
title = {Turn Fake into Real: Adversarial Head Turn Attacks Against Deepfake Detection},
author = {Weijie Wang and Zhengyu Zhao and Nicu Sebe and Bruno Lepri},
journal= {arXiv preprint arXiv:2309.01104},
year = {2023}
}