用于公平感知机器学习的两阶段算法
机器学习
2017-10-16 v1 人工智能
机器学习
摘要
算法决策过程如今影响着我们生活的许多方面。标准的机器学习工具，如分类和回归，会受到数据偏差的影响，因此直接应用此类现成工具可能导致特定群体受到不公平的歧视。移除数据的敏感属性并不能解决这个问题，因为当非敏感属性与敏感属性相关时，可能会产生“差别性影响”。在此，我们研究了一种在做出决策时避免这种差别性影响的公平机器学习算法。受经济学领域广泛使用的两阶段最小二乘法启发，我们提出了一种消除训练数据偏差的两阶段算法。所提出的算法概念上很简单。与大多数为分类任务设计的现有公平算法不同，所提出的方法能够 (i) 处理回归任务，(ii) 结合解释性属性以消除反向歧视，以及 (iii) 处理数值型敏感属性。所提出算法的性能和公平性在合成数据集和真实世界数据集的模拟中进行了评估。
引用
@article{arxiv.1710.04924,
title = {Two-stage Algorithm for Fairness-aware Machine Learning},
author = {Junpei Komiyama and Hajime Shimao},
journal= {arXiv preprint arXiv:1710.04924},
year = {2017}
}