AI-Face：百万级人口统计标注的AI生成人脸数据集与公平性基准
计算机视觉与模式识别
2025-03-05 v3
摘要
AI生成的人脸丰富了人类生活，例如娱乐、教育和艺术。然而，它们也带来了误用风险。因此，检测AI生成的人脸变得至关重要，但当前的检测器在不同人口统计群体之间表现出有偏的性能。通过设计算法公平性方法可以缓解偏差，这通常需要具有人口统计标注的人脸数据集进行模型训练。然而，现有数据集没有同时包含人口统计属性和多样化的生成方法，这阻碍了AI生成人脸公平检测器的发展。在这项工作中，我们引入了AI-Face数据集，这是首个百万级人口统计标注的AI生成人脸图像数据集，包括真实人脸、深度伪造视频中的人脸以及由生成对抗网络和扩散模型生成的人脸。基于该数据集，我们进行了首个全面的公平性基准测试，以评估各种AI人脸检测器，并提供了有价值的见解和发现，以促进未来AI人脸检测器的公平设计。我们的AI-Face数据集和基准代码可在https://github.com/Purdue-M2/AI-Face-FairnessBench公开获取。
引用
@article{arxiv.2406.00783,
title = {AI-Face: A Million-Scale Demographically Annotated AI-Generated Face Dataset and Fairness Benchmark},
author = {Li Lin and Santosh and Mingyang Wu and Xin Wang and Shu Hu},
journal= {arXiv preprint arXiv:2406.00783},
year = {2025}
}
备注
This paper has been accepted by CVPR 2025