Fairpriori: 改进深度神经网络公平性偏差子群发现

尽管深度学习已成为大多数软件系统的核心功能模块，但关于 ML 预测公平性的担忧已成为显著问题，因其可能因歧视而影响预测结果。交叉性偏差——其对子群成员的不公平影响——是这一问题的典型例证。例如，机器学习模型可能对 darker-skinned women 表现出偏见，但对拥有 darker skin 或女性的个体不表现偏见。这要求在实际场景中部署此类深度学习模型前实施有效的公平性测试。然而，针对此类偏差的研究目前受限于针对单个公平性和群体公平性研究的不足。现有工具用于探索交叉性偏差缺乏重要功能，如对多种公平性指标的支持、快速高效的计算以及用户友好的解释。本文介绍 Fairpriori，一种新的偏差子群发现方法，旨在解决这些限制。Fairpriori 采用频繁项集生成算法，以便通过产生快速公平性指标计算来有效且高效地调查子群的偏差。通过在类似条件下与最新方法（如 Themis、FairFictPlay 和 TestSGD）进行比较，Fairpriori 在识别交叉性偏差方面显示出优越的有效性和效率。具体而言，Fairpriori 使用更简单，解释更直观，支持更广泛的用例，通过容纳多种公平性指标，计算公平性指标的效率更高。这一发现展示了 Fairpriori 在有效揭示受交叉性偏差影响的子群方面的潜力，其开源工具已在 https://anonymous.4open.science/r/Fairpriori-0320 上提供。