理解性别分类算法在性别-种族群体间的公平性
计算机视觉与模式识别
2020-09-25 v1 人工智能
机器学习
摘要
自动化性别分类在许多领域有重要应用，如人口研究、执法、在线广告以及人机交互。近期研究质疑了该技术在性别与种族间的公平性。具体而言，多数研究提出基于人脸的性别分类系统对深肤色人群（如非裔美国人）及女性存在更高错误率的担忧。然而迄今，多数现有研究仅局限于非裔美国人与高加索人。本文旨在考察性别分类算法在性别-种族群体间的差异性表现。为此，我们探究（a）深度学习算法的架构差异与（b）训练集不平衡，作为导致跨性别与种族差异性表现的潜在偏倚来源。实验在两个最新大规模公开人脸属性数据集 UTKFace 与 FairFace 上进行。实验结果表明，具有架构差异的算法表现各异，且对特定性别-种族群体具有一致性。例如，所用所有算法中，黑人女性（总体而言黑人种族）始终获得最低准确率。中东男性与拉丁女性多数时候获得较高准确率。训练集不平衡进一步拉大了所有性别-种族群体间不平等准确率的差距。基于人脸标志点的进一步研究提示，由遗传与环境因素影响的骨骼结构所致面部形态差异，可能是黑人女性及总体而言黑人种族表现最差的原因。
引用
@article{arxiv.2009.11491,
title = {Understanding Fairness of Gender Classification Algorithms Across Gender-Race Groups},
author = {Anoop Krishnan and Ali Almadan and Ajita Rattani},
journal= {arXiv preprint arXiv:2009.11491},
year = {2020}
}
备注
19th IEEE International Conference On Machine Learning And Applications 2020 | Miami, Florida