FAT Forensics：用于预测系统中公平、问责与透明算法实现与部署的 Python 工具箱
机器学习
2022-09-09 v1 人工智能
计算机与社会
摘要
预测系统，特别是机器学习算法，可以对我们日常生活做出重要且有时具法律约束力的决策。然而，在大多数情况下，这些系统与决策既不受监管也不受认证。鉴于这些算法可能造成的潜在危害，其公平性、问责性与透明性（FAT）等品质至关重要。为确保高质量、公平、透明且可靠的预测系统，我们开发了一个名为 FAT Forensics 的开源 Python 包。它可检视预测算法的重要公平性、问责性与透明性方面，自动且客观地向此类系统的工程师与用户反馈。我们的工具箱可评估预测流水线的所有要素：数据（及其特征）、模型与预测。FAT Forensics 基于 BSD 3-Clause 开源许可发布，可供个人与商业使用。
引用
@article{arxiv.2209.03805,
title = {FAT Forensics: A Python Toolbox for Implementing and Deploying Fairness, Accountability and Transparency Algorithms in Predictive Systems},
author = {Kacper Sokol and Alexander Hepburn and Rafael Poyiadzi and Matthew Clifford and Raul Santos-Rodriguez and Peter Flach},
journal= {arXiv preprint arXiv:2209.03805},
year = {2022}
}