恶魔藏身：深度伪造检测器已无法可信

随着 AI 生成技术的进步，深度伪造人脸已变得极其逼真，几乎无法被肉眼辨别。为此人们开发了深度伪造检测器作为 assessing 人脸真实性的可靠工具。这些检测器通常基于深度神经网络（DNN），使用第三方数据集进行训练。然而，这一做法引入了新的安全风险，可能严重削弱深度伪造检测器的可信度：一旦第三方数据提供者恶意插入带有后门（poisoned）数据，训练于这些数据集的深度伪造检测器将呈现异常行为，当面对包含特定触发器的样本时就会出错。这一现象具有实际意义，因为第三方提供者可能向恶意用户分发或出售这些触发器，从而操控检测器性能，逃避 accountability。本文深入探讨了这一风险，并提出了解决方案以隐蔽地感染深度伪造检测器。具体而言，我们开发了一个触发器生成器，能够合成受 passcode 控制的、抑制语义的、自适应的且不可见的触发器模式，确保这些触发器的隐蔽性和有效性。随后我们讨论了两种投毒情景，即污染标签投毒和干净标签投毒，以实现后门注入。大量实验表明，我们的方法在有效性、隐蔽性和实际性方面均优于多种基线方法。