信贷中的公平模型：交叉歧视与不公平的放大
计算机与社会
2023-08-08 v1 机器学习
摘要
在信贷建模中，新数据源与机器学习（ML）技术使用的增加引发了人们对潜在不公平决策的担忧，这类决策依赖于受保护特征（如种族、性别、年龄）或其他社会经济与人口统计数据。作者展示了此类算法偏见在小额信贷背景下的影响。信贷评估的困难在弱势群体中不成比例地存在，然而，关于不仅由单一、而且由多重且交叉的社会类别所定义群体间信贷分配不公的认知仍极为有限。借鉴交叉性范式，本研究考察了按性别、年龄、婚姻状况、单亲状态与子女数量划分的信贷获取中的交叉横向不平等。本文以西班牙小额信贷市场为情境，展示在使用自动化决策系统时，多元现实与交叉身份如何塑造信贷分配模式。由于ML技术对社会善恶漠不关心，我们发现对交叉性更彻底的审视能够增强算法公平视角，从而更真实地推动公平结果的行动，并呈现一条更公平的前进路径。我们证明，虽然在高层面上公平可能表面存在，但不公平会在较低层级因组合效应而加剧；换言之，核心公平问题可能比现有文献所展示的更为复杂。我们发现，除受法律保护的特征外，单亲状态和子女数量等敏感属性也会导致不平衡的伤害。我们讨论了这些发现对金融服务行业的影响。
引用
@article{arxiv.2308.02680,
title = {Fair Models in Credit: Intersectional Discrimination and the Amplification of Inequity},
author = {Savina Kim and Stefan Lessmann and Galina Andreeva and Michael Rovatsos},
journal= {arXiv preprint arXiv:2308.02680},
year = {2023}
}