FairMask：通过基于模型的保护属性重平衡实现更好公平性
机器学习
2022-10-31 v3 软件工程
摘要
背景：机器学习软件可能生成不恰当地歧视特定受保护社会群体（例如基于性别、种族等的群体）的模型。受这些结果启发，软件工程研究者已提出许多减轻此类歧视效应的方法。尽管这些方法能有效缓解偏差，但极少能解释偏差的根本原因。目标：我们旨在更好地检测和缓解机器学习软件问题中的算法歧视。方法：在此我们提出 xFAIR，一种基于模型的推断方法，能够同时缓解偏差并解释原因。在我们的 xFAIR 方法中，保护属性由从其他独立变量学到的模型表示（这些模型在已有样本之间的空间上提供推断）。我们随后使用推断模型重新标注在测试数据或部署时稍后见到的保护属性。我们的方法旨在通过重平衡保护属性的分布来抵消分类模型的偏置预测。结果：本文实验表明，在不损害（原始）模型性能的情况下，xFAIR 可比基准方法在群体与个体公平性（以不同指标衡量）上取得显著更优表现。此外，与另一种基于实例的重平衡方法相比，我们基于模型的方法展现出更快运行时间因而更好可扩展性。结论：算法决策偏差可通过平滑掉离群点的推断消除。作为证据，我们提出的 xFAIR 不仅在性能上（以公平性与性能指标衡量）优于两种最先进公平性算法。
引用
@article{arxiv.2110.01109,
title = {FairMask: Better Fairness via Model-based Rebalancing of Protected Attributes},
author = {Kewen Peng and Joymallya Chakraborty and Tim Menzies},
journal= {arXiv preprint arXiv:2110.01109},
year = {2022}
}
备注
14 pages, 6 figures, 7 tables, accepted by TSE