改进深度伪造检测中的公平性
计算机视觉与模式识别
2023-11-09 v3 计算机与社会
机器学习
摘要
尽管近年来开发了有效的深度伪造检测器，但最近的研究表明，用于训练这些检测器的数据中的偏差会导致不同种族和性别之间检测准确率的差异。这可能导致不同群体被不公平地针对或排除在检测之外，使未被检测到的深度伪造能够操纵公众舆论并侵蚀对深度伪造检测模型的信任。虽然现有研究聚焦于评估深度伪造检测器的公平性，但据我们所知，尚未开发在算法层面促进深度伪造检测公平性的方法。在这项工作中，我们首次尝试通过提出新颖的损失函数来提高深度伪造检测的公平性，这些函数既处理人口统计信息（例如种族和性别的标注）可用的情形，也处理该信息缺失的情形。从根本上说，这两种方法都可用于将许多现有的深度伪造检测器转换为促进公平性的检测器。在四个深度伪造数据集和五个深度伪造检测器上的大量实验证明了我们的方法在提高深度伪造检测公平性方面的有效性和灵活性。我们的代码可在 https://github.com/littlejuyan/DF_Fairness 获取。
引用
@article{arxiv.2306.16635,
title = {Improving Fairness in Deepfake Detection},
author = {Yan Ju and Shu Hu and Shan Jia and George H. Chen and Siwei Lyu},
journal= {arXiv preprint arXiv:2306.16635},
year = {2023}
}