公平伪造检测中的种族偏见思考：模型、数据集与评估
计算机视觉与模式识别
2025-04-14 v3
摘要
由于深度图像生成技术的成功发展，伪造检测在社会和经济安全中扮演着越来越重要的角色。种族偏见在深度伪造检测领域尚未得到深入探索。在本文中，我们首先贡献了一个名为公平伪造检测（FairFD）的专用数据集，并在此数据集上证明了当前最先进（SOTA）公开方法的种族偏见。与现有的伪造检测数据集不同，自建的FairFD数据集包含均衡的种族比例和多样化的伪造生成图像，且拥有最大规模的受试者。此外，我们识别了在基准测试伪造检测模型时使用朴素公平性指标所存在的问题。为了全面评估公平性，我们设计了包括方法平均指标和效用正则化指标在内的新颖指标，这些指标可以避免欺骗性结果。我们还提出了一种有效且稳健的后处理技术——基于公平激活的偏置修剪（BPFA），该技术无需重新训练或更新权重即可提高公平性。使用12种代表性伪造检测模型进行的大量实验证明了所提数据集的价值以及所设计公平性指标的合理性。通过将BPFA应用于现有的最公平检测器，我们实现了新的SOTA。此外，我们进行了更深入的分析，以提供更多见解来启发该领域的研究人员。
引用
@article{arxiv.2407.14367,
title = {Thinking Racial Bias in Fair Forgery Detection: Models, Datasets and Evaluations},
author = {Decheng Liu and Zongqi Wang and Chunlei Peng and Nannan Wang and Ruimin Hu and Xinbo Gao},
journal= {arXiv preprint arXiv:2407.14367},
year = {2025}
}
备注
The paper is accepted in AAAI 2025