生成式AI能力的朴素暴露削弱了深度伪造检测

生成式AI系统越来越多地通过面向用户的聊天机器人界面暴露强大的推理和图像细化能力。在这项工作中，我们表明，这种能力的朴素暴露从根本上削弱了现代深度伪造检测器。我们并非提出一种新的图像操作技术，而是研究一种现实且已部署的使用场景，其中对手仅使用良性的、符合策略的提示和商业生成式AI系统。我们证明，最先进的深度伪造检测方法在语义保持的图像细化下失效。具体来说，我们表明生成式AI系统阐明了明确的真实性标准，并通过不受限制的推理无意中外化了这些标准，使其能够直接重用为细化目标。因此，细化的图像同时规避了检测，保留了由商业人脸识别API验证的身份，并展现出显著更高的感知质量。重要的是，我们发现广泛可用的商业聊天机器人服务比开源模型构成更大的安全风险，因为它们卓越的真实感、语义可控性和低门槛界面使得非专家用户能够有效规避。我们的发现揭示了当前检测框架所假设的威胁模型与现实世界生成式AI实际能力之间的结构性不匹配。尽管检测基线主要由先前的基准测试塑造，但已部署的系统暴露了不受限制的真实性推理和细化，尽管在其他领域有严格的安全控制。