使用 von Mises-Fisher 混合模型缓解人脸识别中的性别偏差

尽管深度学习算法在日常广泛应用中表现出高性能和可靠性，但许多调查倾向于表明，大量模型存在偏差，对特定人群亚组（例如性别、种族）存在歧视。这促使从业者开发在敏感群体间具有均匀/可比性能的公平系统。在本工作中，我们研究了深度人脸识别网络的性别偏差。为了衡量这种偏差，我们引入了两个新指标，$\mathrm{BFAR}$ 和 $\mathrm{BFRR}$，它们能更好地反映人脸识别系统固有的部署需求。受几何考量的启发，我们通过一种新的后处理方法来缓解性别偏差，该方法转换预训练模型的深度嵌入，以赋予受歧视亚组更多的表示能力。它包括通过最小化 Fair von Mises-Fisher 损失来训练浅层神经网络，其超参数负责处理每种性别的类内方差。有趣的是，我们凭经验观察到这些超参数与我们的公平性指标相关。事实上，在多种数据集上的大量数值实验表明，仔细选择超参数可显著减少性别偏差。用于实验的代码可在 https://github.com/JRConti/EthicalModule_vMF 找到。