解释AI系统中个体决策的代理歧视与不公平性

人工智能（AI）系统在高风险领域引发了关于代理歧视、不公平性和可解释性的担忧。现有审计往往无法揭示不公平性产生的原因，尤其是当其根源植根于结构性偏见时。我们提出了一种新框架，利用形式归因解释来解释AI个体决策中的代理歧视。通过利用背景知识，该方法识别哪些特征充当了受保护属性的非正当代理，从而揭示隐藏的结构性偏见。我们方法的核心是“能力”（aptitude）的概念，这是一种独立于群体成员身份的任务相关属性，通过映射函数将各群体中能力相当的个体对齐，以实质性评估公平性。作为概念验证，我们以德国信用数据集中的示例为案例，展示了该框架在现实场景中的适用性。