SensitiveLoss：利用歧视感知深度学习提升人脸表示的准确性与公平性
计算机视觉与模式识别
2020-12-03 v2 计算机与社会
摘要
我们提出一种歧视感知学习方法，以改善有偏差的人脸识别算法在准确性与公平性两方面的表现。最流行的人脸识别基准假设受试者分布而未充分关注其人口统计属性。本文中，我们开展了基于深度学习的人脸识别的全面歧视感知实验，并提出了算法歧视的一般化表述及其在人脸生物识别中的应用。实验涵盖三种流行人脸识别模型以及由不同性别和种族人口统计群体构成的 64,000 个身份组成的三个公共数据库。我们通过实验表明，基于最常用人脸数据库的学习过程已导致流行的预训练深度人脸模型呈现出强烈的算法歧视。我们最终提出一种歧视感知学习方法 Sensitive Loss，其基于流行的三元组损失函数与敏感三元组生成器。我们的方法作为预训练网络的附加模块，用于提升其在平均准确性与公平性上的性能。该方法取得了与最先进去偏网络相当的结果，并为防范自动系统产生歧视性影响迈出了一步。
引用
@article{arxiv.2004.11246,
title = {SensitiveLoss: Improving Accuracy and Fairness of Face Representations with Discrimination-Aware Deep Learning},
author = {Ignacio Serna and Aythami Morales and Julian Fierrez and Manuel Cebrian and Nick Obradovich and Iyad Rahwan},
journal= {arXiv preprint arXiv:2004.11246},
year = {2020}
}
备注
arXiv admin note: substantial text overlap with arXiv:1912.01842