深度伪造检测 AI 模型的公平性考察
计算机视觉与模式识别
2021-05-04 v1 人工智能
摘要
近期研究表明,深度学习模型可能基于种族和性别等受保护类别产生歧视。在这项工作中,我们评估了深度伪造数据集与检测模型在受保护子群体间存在的偏差。使用按种族和性别平衡的面部数据集,我们考察了三种流行的深度伪造检测器,发现不同种族间的预测性能存在巨大差异,子群体间的错误率差距高达 10.7%。进一步观察发现,广泛使用的 FaceForensics++ 数据集绝大多数为高加索人,且多数为高加索女性。我们对深度伪造种族分布的调查揭示,将深度伪造作为正类训练信号所用的方法往往产生“不规则”人脸——即一个人的脸被换到另一不同种族或性别的人脸上。这导致检测器学到前景人脸与伪造性之间的虚假关联。此外,当检测器使用来自 Face X-Rays 的 Blended Image (BI) 数据集训练时,我们发现这些检测器对特定种族子群体(主要为亚洲女性)产生了系统性歧视。
引用
@article{arxiv.2105.00558,
title = {An Examination of Fairness of AI Models for Deepfake Detection},
author = {Loc Trinh and Yan Liu},
journal= {arXiv preprint arXiv:2105.00558},
year = {2021}
}
备注
To appear in the 30th International Joint Conference on Artificial Intelligence (IJCAI-21)