未知感知的 AI 生成内容归属

光照逼真的生成模型快速发展，使得对合成内容来源进行归属识别变得日益重要，正从二元的真实或虚假检测，转向识别特定模型生成的图像。我们研究了区分来自目标生成模型（如 OpenAI DALL·E 3）的输出与其他来源（包括真实图像和来自广泛替代模型生成的图像）的问题。使用 CLIP 特征和一个简单线性分类器，我们建立了一个针对目标生成器归属的强基线，仅需来自目标模型的有限标记数据和少量已知生成器。然而，该基线在面对更具挑战性的未知和新发布的生成器时难以 generalization。为此，我们提出一种受约束的优化方法，利用来自野外数据的无标记样本，包括来自互联网收集的图像，可能包含真实图像、来自未知生成器的输出，甚至来自目标模型本身的样本。该方法鼓励野外样本被分类为非目标，同时显式约束在标记数据上的性能保持良好。实验结果表明，纳入野外数据在面对具有挑战性的未知生成器时显著提升了归属识别性能，证明了野外无标记数据可被有效利用以提升 AI 生成内容在开放世界环境中的归属识别。