使用BRIO工具评估信用评分中的AI公平性
人工智能
2024-06-06 v1
摘要
我们提出了一种对AI系统中的公平性问题进行定量、深入分析的方法，并将其应用于信用评分。为此，我们使用了BRIO，这是一个用于评估AI系统在社会不公平性以及更普遍的伦理不良行为方面的工具。它包含一个模型无关的偏差检测模块（见\cite{DBLP:conf/beware/CoragliaDGGPPQ23}），并在此基础上增加了一个完整的不公平风险评估模块。作为案例研究，我们聚焦于信用评分场景，分析了UCI德国信用数据集\cite{misc_statlog_(german_credit_data)_144}。我们将BRIO公平性指标应用于德国信用数据集中多个社会敏感属性，量化了不同人口统计群体间的公平性，旨在识别信用评分模型中潜在的偏差和歧视来源。最后，我们将结果与收益分析相结合。
引用
@article{arxiv.2406.03292,
title = {Evaluating AI fairness in credit scoring with the BRIO tool},
author = {Greta Coraglia and Francesco A. Genco and Pellegrino Piantadosi and Enrico Bagli and Pietro Giuffrida and Davide Posillipo and Giuseppe Primiero},
journal= {arXiv preprint arXiv:2406.03292},
year = {2024}
}