面向 AI 系统的可解释量化偏见审计框架
计算机与社会
2024-09-12 v1 人工智能
人机交互
摘要
随着 AI 的快速发展，越来越多地将其集成到决策过程中。然而，AI 系统可能呈现偏见，导致决策者得出不公平的结论。值得注意的是，用于评估美国司法系统中再犯风险的 COMPAS 系统被发现偏袒种族主体群体；具体而言，它违反了称为“平等机会”（equalized odds）的公平性标准。已提出 various 方法来评估 AI 的公平性。我们提出了一个用于审计 AI 公平性的框架，涉及第三方审计者和 AI 系统提供方，我们创建了一个工具来促进对 AI 系统进行系统性检查。该工具已开源并公开提供。与传统 AI 系统不同，我们主张采用透明的白盒统计方法。这可以被第三方审计者、AI 开发者或一般大众用于参考，以判断 AI 系统的公平性标准。
引用
@article{arxiv.2409.06708,
title = {Ensuring Fairness with Transparent Auditing of Quantitative Bias in AI Systems},
author = {Chih-Cheng Rex Yuan and Bow-Yaw Wang},
journal= {arXiv preprint arXiv:2409.06708},
year = {2024}
}