基于再生的训练-free 文本到图像生成模型假图像归因方法
计算机视觉与模式识别
2025-09-09 v2 人工智能
摘要
文本到图像生成模型最近因能够根据提示描述生成图像而受到广泛关注。尽管这些模型表现出色，但关于生成假图像潜在滥用的担忧也随之增加。为此，我们提出了一种简单而有效的训练-free 方法，用于归因于其来源模型的假图像。给定待归因的测试图像后，我们首先逆向推理该图像的文本提示，然后将重建的提示输入不同的候选模型以生成候选假图像。通过计算和排序测试图像与候选图像的相似性，我们可以确定图像的来源。这种归因使模型所有者能够为其模型的任何滥用负责。注意，我们的方法不限制候选文本到图像生成模型的数量。综合实验表明：(1) 我们的方法能够有效地将假图像归因于其来源模型，实现的归因性能与最先进的方法相当；(2) 我们的方法具有高可扩展性，适应实际的归因场景；(3) 提出的方法对常见攻击（如高斯模糊、JPEG 压缩和调整大小）具有良好的鲁棒性。我们还分析了影响归因性能的因素，并探索了该方法作为插件可提升现有 SOTA 性能的潜力。我们希望我们的工作为解决 AI 生成图像的来源问题以及防止文本到图像生成模型滥用提供一些启示。
关键词
引用
@article{arxiv.2403.01489,
title = {Regeneration Based Training-free Attribution of Fake Images Generated by Text-to-Image Generative Models},
author = {Meiling Li and Zhenxing Qian and Xinpeng Zhang},
journal= {arXiv preprint arXiv:2403.01489},
year = {2025}
}
备注
The paper has been withdrawn by the authors because the proposed approach is currently undergoing optimization and improvement. We are refining the methodology to achieve more robust and convincing results, and a revised version will be submitted once the enhancements are completed