面向生成图像检测的认识不确定性

我们提出一种新颖的框架，通过认识不确定性进行人工智能生成图像检测，以应对生成模型时代的关键安全问题。我们的关键洞察源于观察到：训练数据和测试数据之间的分布差异在机器学习模型的认识不确定性空间中呈现出distinctive的特征。在此背景下，自然图像与生成图像之间的分布迁移会导致在评估生成图像时，训练于自然图像的模型产生更高的认识不确定性。因此，我们利用这一现象，将认识不确定性用作检测生成图像的代理，从而将生成图像检测问题转化为不确定性估计问题，凸显所用不确定性估计模型的泛化性能。幸运的是，针对广泛场景预训练的高级大规模视觉模型表现出优异的泛化性能。因此，我们利用这些预训练模型来估计图像的认识不确定性，并将高不确定性的图像标记为生成图像。大量实验表明，我们的方法有效。代码已公开于 https://github.com/tmlr-group/WePe。