OmniFair：一种用于机器学习中模型无关群体公平性的声明式系统
计算机与社会
2021-03-17 v1 数据库
机器学习
摘要
机器学习（ML）正日益被用于社会中的决策。然而，根据各种公平性指标，ML 模型可能对某些人口群体（如非裔美国人或女性）不公平。现有的生成公平 ML 模型的技术要么受限于它们能处理的公平性约束类型（如预处理），要么需要对下游 ML 训练算法进行非平凡修改（如处理中）。我们提出一个声明式系统 OmniFair 以支持 ML 中的群体公平性。OmniFair 具有声明式接口，供用户指定所需的群体公平性约束，并支持所有常用群体公平性概念，包括统计 parity、均等几率和预测 parity。OmniFair 也是模型无关的，即它不需要对所选 ML 算法进行修改。OmniFair 还支持同时强制执行多个用户声明的公平性约束，而大多数先前技术做不到。OmniFair 中的算法在满足指定公平性约束的同时最大化模型准确率，其效率基于关于准确率与公平性之间权衡的、我们系统独有的理论可证单调性性质进行了优化。我们在公平性文献中表现出对少数群体偏差的常用数据集上进行了实验。我们表明，OmniFair 在支持的公平性约束和下游 ML 模型两方面均比现有算法公平性方法更具通用性。与次优方法相比，OmniFair 将准确率损失最多降低 。OmniFair 还实现了与预处理方法相似的运行时间，且比处理中方法快达 。
引用
@article{arxiv.2103.09055,
title = {OmniFair: A Declarative System for Model-Agnostic Group Fairness in Machine Learning},
author = {Hantian Zhang and Xu Chu and Abolfazl Asudeh and Shamkant B. Navathe},
journal= {arXiv preprint arXiv:2103.09055},
year = {2021}
}