以假乱真：用于规避AIGC检测的逼真鲁棒黑盒对抗攻击
计算机视觉与模式识别
2024-12-17 v2
摘要
AI生成内容（AIGC）检测的安全性对于确保多媒体内容可信度至关重要。为增强检测器的安全性，对抗攻击的研究已成为必要。然而，大多数现有的对抗攻击仅关注 GAN 生成的人脸图像检测，难以在多类自然图像和扩散模型检测器上有效，且不可见性较差。为填补这一空白，我们首先深入分析了 AIGC 检测器的脆弱性，发现检测器对不同后处理的脆弱性存在差异。然后，考虑到在现实场景中检测器是不可知的，并结合这一发现，我们提出了一种逼真的鲁棒黑盒对抗攻击（RBA），采用后处理融合优化。与典型的扰动不同，RBA 使用真实世界的后处理，即高斯模糊、JPEG 压缩、高斯噪声和光斑来生成对抗样本。具体而言，我们使用带有惯性衰减的随机粒子群算法来优化后处理融合强度，并探索检测器的决策边界。在检测器伪造概率的引导下，RBA 增强/减弱检测器脆弱/鲁棒的后处理强度，以在对抗性与不可见性之间取得平衡。在流行/商业 AIGC 检测器和数据集上的广泛实验表明，RBA 在 GAN 和扩散模型场景中均表现出令人印象深刻的抗检测性能、优异的不可见性和强鲁棒性。与最先进的白盒和黑盒攻击相比，RBA 在原始场景和鲁棒场景下的抗检测性能分别提升了 15%–72% 和 21%–47%，为 AIGC 检测在现实应用中的安全性提供了有价值的见解。
引用
@article{arxiv.2412.06727,
title = {Take Fake as Real: Realistic-like Robust Black-box Adversarial Attack to Evade AIGC Detection},
author = {Caiyun Xie and Dengpan Ye and Yunming Zhang and Long Tang and Yunna Lv and Jiacheng Deng and Jiawei Song},
journal= {arXiv preprint arXiv:2412.06727},
year = {2024}
}