FBA$^2$D: 基于频率的AI生成图像检测黑盒攻击
密码学与安全
2025-12-11 v1 人工智能
摘要
人工智能生成内容（AIGC）的蓬勃发展引发了人们对社交媒体上虚假信息传播的担忧。设计检测器进行过滤是一种有效的防御方法，但大多数检测器会被对抗样本破坏。目前，大多数揭示AIGC安全问题的研究都假设已知模型结构和数据分布信息。在实际应用中，攻击者通过应用程序接口（API）查询和干扰提供服务的模型，这构成了黑盒决策攻击范式。然而，据我们所知，针对AIGC检测器的决策攻击尚未被探索。在本研究中，我们提出FBAD：一种用于AIGC检测的基于频率的黑盒攻击方法，以填补研究空白。受生成图像与真实图像在频域差异的启发，我们开发了一种基于决策的攻击方法，利用离散余弦变换（DCT）进行精细的频谱划分，并选择频带作为查询子空间，从而同时提升查询效率和图像质量。此外，对AIGC检测器的攻击应缓解初始化失败问题、保持图像质量，并在严格的查询预算下运行。为解决这些问题，我们采用"对抗样本汤"方法，对连续代理迭代中的候选样本进行平均，并将结果用作初始化，以加速基于查询的攻击。在合成LSUN数据集和GenImage数据集上的实验研究证明了所提方法的有效性。本研究揭示了应对实际AIGC安全问题的紧迫性。
引用
@article{arxiv.2512.09264,
title = {FBA$^2$D: Frequency-based Black-box Attack for AI-generated Image Detection},
author = {Xiaojing Chen and Dan Li and Lijun Peng and Jun YanŁetter and Zhiqing Guo and Junyang Chen and Xiao Lan and Zhongjie Ba and Yunfeng DiaoŁetter},
journal= {arXiv preprint arXiv:2512.09264},
year = {2025}
}