基于视觉Transformer的自然图像与GAN图像检测系统中的公平性探索
计算机视觉与模式识别
2025-03-12 v2
摘要
图像取证研究近来在开发能够准确检测相机拍摄的自然图像与GAN生成图像的计算模型方面取得了诸多进展。然而，同样重要的是确保这些计算模型足够公平，不会产生可能最终损害特定社会群体或引发严重安全威胁的偏见结果。在图像取证算法中探索公平性是缓解这些偏见的初步步骤。本研究探讨了基于视觉Transformer的图像取证算法在分类自然图像与GAN图像时存在的偏见，因为视觉Transformer近来正被广泛用于基于图像分类的任务，包括图像取证领域。所提出的研究获取了偏见评估语料库，利用一整套个体与成对偏见评估指标，在性别、种族、情感及交叉领域分析偏见。由于算法对图像压缩的鲁棒性是取证任务中需考虑的重要因素，本研究还分析了图像压缩对模型偏见的影响。为此，为研究图像压缩对模型偏见的影响，采用了两阶段评估设置，实验在未压缩与压缩评估设置下分别进行。该研究识别出基于视觉Transformer的模型在区分自然图像与GAN图像时存在偏见，并观察到图像压缩会影响模型偏见，主要在GAN类别预测中放大了偏见的存在。
引用
@article{arxiv.2310.12076,
title = {Towards Exploring Fairness in Visual Transformer based Natural and GAN Image Detection Systems},
author = {Manjary P. Gangan and Anoop Kadan and Lajish V L},
journal= {arXiv preprint arXiv:2310.12076},
year = {2025}
}