Aequitas：一个偏差与公平性审计工具包
机器学习
2019-04-30 v2 人工智能
计算机与社会
摘要
近期工作引发了对当今使用的AI系统存在非预期偏差风险的担忧，该偏差可基于种族、性别或宗教等其他可能特征对个人造成不公平影响。尽管近年来提出了许多偏差度量与公平性定义，但对于应使用何种度量/定义尚无共识，且可将其操作化的资源极少。因此，尽管近期有所关注，在开发与部署AI系统时审计偏差与公平性尚非标准实践。我们提出Aequitas，一个开源的偏差与公平性审计工具包，它直观且易于使用，可加入机器学习工作流，使用户能够无缝地针对多个群体子组测试模型的若干偏差与公平性度量。Aequitas促进了数据科学家、机器学习研究人员与政策制定者围绕开发与部署算法决策系统作出知情且公平的决策。
引用
@article{arxiv.1811.05577,
title = {Aequitas: A Bias and Fairness Audit Toolkit},
author = {Pedro Saleiro and Benedict Kuester and Loren Hinkson and Jesse London and Abby Stevens and Ari Anisfeld and Kit T. Rodolfa and Rayid Ghani},
journal= {arXiv preprint arXiv:1811.05577},
year = {2019}
}
备注
Aequitas website: http://dsapp.uchicago.edu/aequitas