对抗性放大技术用于欺骗深度伪造检测
计算机视觉与模式识别
2024-07-04 v1 人工智能
摘要
深度伪造技术正在迅速发展，给媒体内容检测带来重大挑战。与此同时，一些对抗性攻击技术也开发出来，用于欺骗深度伪造检测器，使深度伪造更难被检测。本文探索了将超分辨率技术应用于深度伪造检测作为可能的对抗性攻击方法。通过我们的实验，我们展示了这些方法对图像视觉外观所做的最小变更，对深度伪造检测系统性能产生深远影响。我们提出了一种新颖的攻击方法，使用超分辨率作为快速、黑盒且有效的方法来伪装假图像或在原始图像上生成误报。我们的结果表明，超分辨率的使用会显著损害深度伪造检测器的准确率，从而凸显了此类系统对对抗性攻击的脆弱性。用于复现我们实验的代码已提供：https://github.com/davide-coccomini/Adversarial-Magnification-to-Deceive-Deepfake-Detection-through-Super-Resolution
引用
@article{arxiv.2407.02670,
title = {Adversarial Magnification to Deceive Deepfake Detection through Super Resolution},
author = {Davide Alessandro Coccomini and Roberto Caldelli and Giuseppe Amato and Fabrizio Falchi and Claudio Gennaro},
journal= {arXiv preprint arXiv:2407.02670},
year = {2024}
}