CertiFair：一种神经网络认证全局公平性框架
机器学习
2022-05-23 v1
摘要
我们考虑神经网络（NN）模型是否满足全局个体公平性的问题。个体公平性指出，就某一任务而言相似的个体应被决策模型相似对待。本工作中我们有两个主要目标。其一是构建一个验证器，检查给定 NN 在分类任务中公平性性质是否成立，若不成立则给出反例，即若所有相似个体被分类相同则模型公平，若一对相似个体被分类不同则不公平。为此，我们构建了使用基于距离的相似性度量、可验证 ReLU NN 分类器全局个体公平性性质的可靠且完备验证器。本文的第二个目标是提供一种从不公平（有偏）数据训练可证明公平 NN 分类器的方法。我们提出一种可在训练中使用的公平性损失，以强制相似个体的公平结果。随后我们给出所得 NN 公平性的可证明界。我们在公开可用的常用公平性数据集上运行实验，表明全局个体公平性可提升 96% 且测试准确率无显著下降。
引用
@article{arxiv.2205.09927,
title = {CertiFair: A Framework for Certified Global Fairness of Neural Networks},
author = {Haitham Khedr and Yasser Shoukry},
journal= {arXiv preprint arXiv:2205.09927},
year = {2022}
}