Themis-ml：一种面向端到端歧视发现与缓解的公平性感知机器学习接口
计算机与社会
2017-10-20 v1
摘要
随着越来越多的行业将机器学习融入招聘、贷款审批和假释批准等社会敏感的决策过程，我们面临着延续历史和当代社会经济差距的风险。这是一个关键问题，因为一方面，使用但不理解此类系统歧视潜力的组织，会在假定算法绝对客观的情况下，加剧社会差距的扩大。另一方面，负责任地使用机器学习可以通过将隐式的决策心理模型表达为显式的统计模型，帮助我们衡量、理解和缓解社会敏感数据中隐含的历史偏见。在本文中，我们详细说明、实现并评估了一个名为themis-ml的“公平性感知”机器学习接口，该接口旨在供个体数据科学家和工程师、学术研究团队或在生产系统中使用机器学习的较大产品团队使用。
引用
@article{arxiv.1710.06921,
title = {Themis-ml: A Fairness-aware Machine Learning Interface for End-to-end Discrimination Discovery and Mitigation},
author = {Niels Bantilan},
journal= {arXiv preprint arXiv:1710.06921},
year = {2017}
}
备注
Presented at the Data For Good Exchange 2017