CIFAKE：AI生成合成图像的图像分类与可解释识别
计算机视觉与模式识别
2023-03-27 v1 人工智能
机器学习
摘要
合成数据近期的技术进步使得生成的图像质量极高，人类无法区分真实照片与人工智能（AI）生成图像。鉴于数据可靠性与认证的迫切需求，本文提出通过计算机视觉增强识别AI生成图像的能力。最初，利用潜在扩散生成了一个合成数据集，镜像已有CIFAR-10数据集的十个类别，为与真实照片对比提供一组对照图像。该模型能生成复杂视觉属性，如水中照片级真实反射。这两组数据构成关于照片是真实还是AI生成的二分类问题。本研究随后提出使用卷积神经网络（CNN）将图像分类为两类：真实或伪造。经过超参数调优并训练36种独立网络拓扑，最优方法能以92.98%准确率正确分类图像。最后，本研究通过梯度类激活映射实现可解释AI，探究图像中哪些特征对分类有用。解释揭示了图像中有趣概念，特别注意到实际实体本身不持有对分类有用的信息；相反，模型关注图像背景中的微小视觉瑕疵。为本研究构建的完整数据集称为CIFAKE数据集，已公开供研究界未来工作使用。
引用
@article{arxiv.2303.14126,
title = {CIFAKE: Image Classification and Explainable Identification of AI-Generated Synthetic Images},
author = {Jordan J. Bird and Ahmad Lotfi},
journal= {arXiv preprint arXiv:2303.14126},
year = {2023}
}