面向公平性的因果发现
人工智能
2022-06-15 v1 计算机与社会
机器学习
统计方法学
摘要
考虑基于 AI 与 ML 的决策的社会与伦理后果，对于这些新兴技术的安全与可接受使用至关重要。特别是，公平性保证 ML 决策不会导致对个体或少数群体的歧视。使用因果性来可靠地识别与度量公平性/歧视更为有效，因果性考虑了敏感属性（例如性别、种族、宗教等）与决策（例如工作招聘、贷款发放等）之间的因果关系，而非仅关联。然而，将因果性用于解决公平性的主要障碍是因果模型（通常表示为因果图）的不可得。文献中现有的因果公平性方法未解决此问题，并假设因果模型可用。在本文中，我们不做出此类假设，并回顾从可观测数据发现因果关系的主要算法。本研究聚焦于因果发现及其对公平性的影响。特别地，我们展示了不同的因果发现方法可能导致不同的因果模型，且最重要的是，因果模型之间即使细微的差异也会对公平性/歧视结论产生显著影响。这些结果通过合成与标准公平性基准数据集的实证分析得到巩固。本研究的主要目标是强调因果发现步骤对于恰当利用因果性解决公平性的重要性。
引用
@article{arxiv.2206.06685,
title = {Causal Discovery for Fairness},
author = {Rūta Binkytė-Sadauskienė and Karima Makhlouf and Carlos Pinzón and Sami Zhioua and Catuscia Palamidessi},
journal= {arXiv preprint arXiv:2206.06685},
year = {2022}
}