FairMod——使预测模型具备歧视感知能力
人工智能
2018-11-06 v1 机器学习
摘要
决策树和神经网络等预测模型可能在其预测中产生歧视。本文提出一种对预测模型预测结果进行后处理的方法，使处理后的预测无歧视。该方法同时考虑多个受保护变量。多个受保护变量使问题比单一受保护变量更具挑战性。该方法使用被广泛引用的歧视度量，并对其进行适配以允许指定解释变量，如位置、职业、教育等描述应用情境的变量。它将预测后处理问题建模为非线性优化问题，以寻找对预测的最佳调整，从而同时满足所有受保护变量的歧视约束。所提方法独立于分类方法。它能处理现有方法无法处理的情形：同时满足多个受保护属性、允许多个解释属性、且与分类模型类型无关。使用四个真实世界数据集的评估表明，所提方法与现有方法同样有效，且具备额外的能力。
引用
@article{arxiv.1811.01480,
title = {FairMod - Making Predictive Models Discrimination Aware},
author = {Jixue Liu and Jiuyong Li and Lin Liu and Thuc Duy Le and Feiyue Ye and Gefei Li},
journal= {arXiv preprint arXiv:1811.01480},
year = {2018}
}