对抗性 AI 艺术：理解、生成、检测与基准测试
计算机视觉与模式识别
2024-04-24 v1 人工智能
密码学与安全
摘要
生成式 AI 模型可以根据文本提示生成高质量图像。生成的图像通常看起来与由传统光学摄影设备生成或由人类艺术家创作的图像（即真实图像）难以区分。虽然此类生成模型的出色性能普遍受到好评，但也引发了安全担忧。例如，此类图像生成器可能被用于促成欺诈或骗局、生成与传播虚假信息，或制作伪造的艺术品。在本文中，我们系统地尝试在对抗场景下理解与检测 AI 生成图像（AI 艺术）。首先，我们收集并分享了一个由真实图像及其由四种流行 AI 图像生成器生成的对应人工图像组成的数据集。该数据集名为 ARIA，包含五大类超过 14 万张图像：艺术品（绘画）、社交媒体图像、新闻照片、灾难场景与动漫图片。该数据集可作为支持未来对抗性 AI 艺术研究的基础。接下来，我们提出了一项用户研究，采用 ARIA 数据集评估真实世界用户在有或无参考图像的情况下能否进行区分。在基准测试研究中，我们进一步评估了 SOTA 的开源与商业 AI 图像检测器能否有效识别 ARIA 数据集中的图像。最后，我们提出了一个 ResNet-50 分类器，并评估了其在 ARIA 数据集上的准确性与可迁移性。
引用
@article{arxiv.2404.14581,
title = {The Adversarial AI-Art: Understanding, Generation, Detection, and Benchmarking},
author = {Yuying Li and Zeyan Liu and Junyi Zhao and Liangqin Ren and Fengjun Li and Jiebo Luo and Bo Luo},
journal= {arXiv preprint arXiv:2404.14581},
year = {2024}
}