反伪造：通过对抗感知扰动实现隐秘且鲁棒的 DeepFake 扰乱攻击
密码学与安全
2022-06-02 v1
摘要
DeepFake 正成为对社会切实的风险，由于 DeepFaked 多媒体逼真且具说服力，给个人隐私与政治安全带来潜在威胁。然而，流行的 DeepFake 被动检测是一种事后取证对策，无法提前阻断虚假信息的传播。为应对此局限，研究者研究主动防御技术，通过在源数据中添加对抗噪声来扰乱 DeepFake 操纵。然而，现有通过注入对抗噪声实现主动 DeepFake 防御的研究并不鲁棒，近期研究 MagDR 表明其可被简单的图像重建轻易绕过。本文中，我们调查现有伪造技术的脆弱性，并提出一种新颖的\emph{反伪造}技术，帮助用户保护所分享的面部图像免受能够应用流行伪造技术的攻击者侵害。我们提出的方法以持续方式生成感知感知扰动，这与先前通过添加稀疏对抗噪声的研究大不相同。实验结果显示，我们的感知感知扰动对多种图像变换鲁棒，尤其是具有竞争力的规避技术 MagDR(通过图像重建)。我们的发现潜在地开辟了一个新的研究方向，以透彻理解和调查感知感知对抗攻击，从而以主动且鲁棒的方式保护面部图像抵御 DeepFakes。我们开源了工具以促进未来研究。代码见 https://github.com/AbstractTeen/AntiForgery/。
引用
@article{arxiv.2206.00477,
title = {Anti-Forgery: Towards a Stealthy and Robust DeepFake Disruption Attack via Adversarial Perceptual-aware Perturbations},
author = {Run Wang and Ziheng Huang and Zhikai Chen and Li Liu and Jing Chen and Lina Wang},
journal= {arXiv preprint arXiv:2206.00477},
year = {2022}
}
备注
Accepted by IJCAI 2022