生成时代的责任何在？基于恢复的AI生成内容黑盒检测

近年来，由生成模型创建的逼真图像激增，既引发了兴奋也带来了担忧，因为这些图像对人眼而言越来越难以与真实图像区分。在提供新的创意和商业可能性的同时，其被滥用于虚假信息和欺诈等领域的可能性，凸显了对有效检测方法的需求。当前的检测方法通常依赖于访问模型权重或需要大量真实图像数据集，这限制了其可扩展性和在现实世界场景中的实际应用。在这项工作中，我们引入了一种新颖的黑盒检测框架，该框架仅需API访问，绕过了对模型权重或大型辅助数据集的需求。我们的方法利用了一种破坏与恢复策略：通过遮盖图像的一部分并评估模型重建该部分的能力，我们衡量该图像由模型自身生成的可能性。对于不支持遮盖图像输入的黑盒模型，我们引入了一个成本高效的代理模型，该模型经过训练以对齐目标模型的数据分布，从而增强检测能力。我们的框架表现出强大的性能，在八个扩散模型变体数据集上，平均精度均值比基线方法高出4.31%。