用于评估生物识别中偏差的公平性指数度量
计算机视觉与模式识别
2023-06-21 v1 计算机与社会
机器学习
摘要
生物识别系统的人口统计差异已引发对其社会影响以及此类系统在私人和公共领域适用性的严重关切。对人口统计公平性的定量评估是理解、评估和缓解生物识别应用中人口统计偏差的重要一步。虽然现有的少数公平性度量基于生物识别系统的决策后数据(如验证准确率),但我们探讨了决策前数据(分数分布)如何为人口统计公平性提供有价值的见解。在本文中,我们基于分数分布的统计特性,引入多种用于评估通用生物识别验证系统人口统计公平性的度量。我们还针对每种公平性度量,根据构成性人口统计群体对最终度量的贡献所需组合方式,提出了不同的变体。在每种情况下,该度量的行为已在合成数据上通过数值和图形进行了说明。基准数据集中的人口统计不平衡在公平性评估中常被忽视。我们提出了一种新颖的加权策略,通过人口统计群体样本量的非线性函数,来降低此类不平衡的影响。所提出的度量独立于生物识别模态,因此适用于常用的生物识别模态(例如人脸、指纹等)。
引用
@article{arxiv.2306.10919,
title = {Fairness Index Measures to Evaluate Bias in Biometric Recognition},
author = {Ketan Kotwal and Sebastien Marcel},
journal= {arXiv preprint arXiv:2306.10919},
year = {2023}
}
备注
published in International Conference on Pattern Recognition Workshops (2022)