神经网络的个体公平性保证
机器学习
2022-05-13 v1
摘要
我们考虑证明前馈神经网络(NNs)的个体公平性(IF)的问题。具体而言,我们采用 --IF 形式化定义,该定义给定一个神经网络和从数据中学习得到的相似性度量,要求任意一对 -相似个体之间的输出差异受最大决策容忍度 所限制。针对包括马氏距离在内的一系列度量,我们提出一种方法,利用分段线性函数对神经网络非线性项在输入空间上的全局上下界进行过度近似,从而过度逼近该优化问题。我们将该计算编码为混合整数线性规划(Mixed-Integer Linear Programming)问题的解,并证明它可用于在四个广泛使用的公平性基准数据集上计算 IF 保证。我们展示了如何通过修改神经网络损失,在训练时利用该形式化定义提升模型的公平性,并通过实验证实我们的方法得到的神经网络比最先进(state-of-the-art)方法公平数个数量级。
引用
@article{arxiv.2205.05763,
title = {Individual Fairness Guarantees for Neural Networks},
author = {Elias Benussi and Andrea Patane and Matthew Wicker and Luca Laurenti and Marta Kwiatkowska},
journal= {arXiv preprint arXiv:2205.05763},
year = {2022}
}