AI Fairness 360：一个用于检测、理解与缓解非预期算法偏见的 extensible 工具包
人工智能
2018-10-05 v1
摘要
随着机器学习模型被用于支持抵押贷款、招聘和监狱量刑等高风险应用中的决策，公平性日益成为重要关切。本文介绍一个于 Apache v2.0 许可下发布的新开源 Python 公平性工具包 AI Fairness 360（AIF360）{https://github.com/ibm/aif360)。该工具包的主要目标是帮助促进公平性研究算法向工业环境使用的转化，并为公平性研究者提供共享和评估算法的通用框架。该包包含一套全面的数据集与模型公平性度量、这些度量的解释，以及缓解数据集与模型中偏见的算法。它还包含一个交互式 Web 体验（https://aif360.mybluemix.net），为业务线用户提供概念与能力的温和介绍，以及广泛的文档、使用指导和行业特定教程，使数据科学家与从业者能将最适合其问题的工具纳入工作产品。该包的架构被设计为符合数据科学中使用的标准范式，从而进一步提升从业者的可用性。此类架构设计与抽象使研究者和开发者能用其新算法与改进扩展工具包，并用于性能基准测试。内置测试基础设施维护代码质量。
引用
@article{arxiv.1810.01943,
title = {AI Fairness 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias},
author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and Pranay Lohia and Jacquelyn Martino and Sameep Mehta and Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and John Richards and Diptikalyan Saha and Prasanna Sattigeri and Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
journal= {arXiv preprint arXiv:1810.01943},
year = {2018}
}
备注
20 pages